Sumário executivo

Ronald Bailey é um escritor científico cujos livros incluem Liberation Biology e The End of Doom: Environmental Renewal in the 21st Century. Ele também produziu documentários para a PBS e a ABC, além de publicar em revistas como Reason e Forbes. Aqui, nos concentramos em seu artigo estendido de 2019 sobre as implicações da IA para a governança.

​

1. Softwares de reconhecimento facial, como o Rekognition da Amazon, estão sendo testados e usados pelas forças policiais locais, bem como por agências do governo federal, como a Imigração e Alfândega (ICE), o FBI e a Administração Antidrogas. Os vários usos específicos — rastrear imigrantes não autorizados e suspeitos de crimes — poderiam ser integrados a sistemas em rede de vigilância em massa.
2. Os sistemas são imperfeitos. Reconhecimentos falsos positivos — Bailey observa que a tecnologia equiparou erroneamente 28 membros do Congresso com fotos criminosas — farão com que pessoas inocentes sejam detidas e sujeitas aos perigos da intervenção policial.
3. No entanto, policiais, burocratas e outros funcionários da governança também podem cometer erros, além de mentir intencionalmente e fazer o mal. O aumento do uso de algoritmos na governança minimizaria erros, preconceitos e maldades intencionais? Algocracia é definida como “governança algorítmica que usa mineração de dados e análise preditiva/descritiva para restringir e controlar o comportamento humano”.
4. A pessoa comum agora interage com dispositivos digitais conectados com frequência: smartphones, Fitbits, sistemas de pagamento, câmeras de segurança, máquinas de venda automática. À medida que veículos autônomos, implantes médicos, controles domésticos como Alexa e sinalização digital se tornam mais onipresentes, uma previsão é que até 2025 cada um de nós “interagirá com dispositivos digitais conectados quase 4.800 vezes por dia”.
5. Quem controla as informações e as ações possíveis com elas se torna, portanto, uma questão politicamente básica. Cada um de nós controlará a si mesmo, será influenciado por uma combinação de decisões pessoais, empresas e governos, ou seremos controlados por forças impessoais que, em grande parte, desconhecemos? O empreendedorismo crescerá à medida que a aceleração criar mais oportunidades e à medida que o “tempo necessário para levantar capital inicial diminuir de anos para minutos” (23).
6. Um futuro possível é capitalismo de vigilância, na qual fornecemos nossos dados pessoais a empresas privadas que então “usam suas tecnologias de análise de dados para oferecer sugestões personalizadas de serviços e produtos que, esperam, atendam às nossas necessidades e desejos”. Participaremos voluntariamente porque acreditamos que os algoritmos usados serão mais benevolentes do que malévolos.
7. Outra possibilidade é comunismo de vigilância: governos ditatoriais usam algoritmos para direcionar o comportamento dos cidadãos para os resultados desejados pelo governo, em vez dos cidadãos individuais. O experimento de crédito social da China, iniciado em 2014, é um grande passo nesse caminho, no final do qual está a distopia retratada no romance de George Orwell Mil novecentos e oitenta e quatro, em que a Polícia do Pensamento descobre e pune não apenas “ações ruins”, mas “crimes de pensamento” — ou seja, pensamentos pessoais que foram proibidos pelo Partido.

​

Leia Artigo completo de Ronald Bailey aqui. Resumo de Stephen Hicks, 2020.

‍