Aly Song/Reuters
Aly Song/Reuters

Livro mostra as ilusões da inteligência artificial

Pauta candente de governos, como os EUA, o debate sobre a regulação da tecnologia é uma realidade

Gabriel Nicholas, Washington Post

04 de fevereiro de 2022 | 15h00

A reação contra a tecnologia começou nos livros. Na década de 2010, quando o lema do Google – “não seja do mal” – não soava irônico e as palestras do TED louvando a internet como o grande equalizador social ainda atraíam um público crédulo, livros como The Filter Bubble, de Eli Pariser, e The Age of Surveillance Capitalism, de Shoshana Zuboff já estavam definindo termos que mudariam drasticamente a opinião pública. Na década seguinte, a tecnologia, ou mais especificamente os softwares, passaria a ser vista menos como uma conveniência inovadora e mais como um prenúncio de turbulência social.

Em 2022, o sentimento anti-tecnologia está no mainstream. Ideias que se originaram em livros sobre como as plataformas e seus algoritmos de inteligência artificial ameaçam a sociedade chegaram aos documentários da Netflix, aos artigos de opinião, às legislações e até mesmo ao mais recente Space Jam (com o supervilão Al-G Rhythm, interpretado por Don Cheadle). Estudiosos de tecnologia como Lina Khan e Meredith Whittaker, antes considerados marginais por suas críticas aos danos estruturais da tecnologia, agora têm cargos proeminentes no governo Biden. Finalmente, o mundo está ouvindo os críticos da tecnologia. Então agora a pergunta é: sobre o que os críticos devem escrever daqui em diante?

A resposta fácil é aproveitar a onda da nova impopularidade da tecnologia, e esta é a opção que o correspondente de tecnologia da NBC News, Jacob Ward, escolheu ao escrever The Loop: How Technology Is Creating a World Without Choices and How to Fight Back. O livro argumenta que as tecnologias de inteligência artificial capitalistas estão “predando nossas fragilidades psicológicas” e ameaçam criar “um mundo em que nossas escolhas são estreitas, a ação humana é limitada e nossos piores impulsos inconscientes dominam a sociedade”. Mais do que dizer aos leitores algo novo sobre os perigos da tecnologia, The Loop fornece evidências de que a própria crítica tecnológica está se calcificando como um gênero mainstream.

loop do título sobre o qual Ward alerta seus leitores está enraizado no poder, na previsibilidade e na estupidez de nossas mentes inconscientes. Quando os humanos tomam decisões, nossos cérebros são rápidos em pegar atalhos. Ao fazer isso, cometemos erros previsíveis e sistemáticos, como calcular mal o risco e confiar demais na autoridade. As empresas de tecnologia, argumenta Ward, usam algoritmos para sequestrar esses padrões inconscientes para obter lucro. O loop é a especulação de Ward de que nossa dependência cada vez maior de produtos de inteligência artificial – Spotify para recomendações de música, algoritmos de mídia social para notícias, armas automatizadas para travar a guerra – impulsiona nossa negligência, o que, por sua vez, nos torna mais dependentes da inteligência artificial, e assim por diante. “Em uma ou duas gerações”, Ward postula, “seremos uma espécie totalmente diferente – distraída, obediente, incapaz de resistir às tecnologias que usamos para fazer nossas escolhas por nós, mesmo quando são as escolhas erradas”.

Ao longo do livro, Ward entrevista tecnólogos, acadêmicos e usuários comuns para entender como diferentes produtos de inteligência artificial se tornaram inextricavelmente entrelaçados na vida das pessoas. Em uma seção, ele fala com pessoas viciadas em “jogos de cassino sociais”, simuladores de jogos de azar gratuitos que incitam os usuários – muitas vezes pobres e passando por fases sombrias da vida – a gastar dezenas de milhares de dólares de verdade na moeda do jogo. Em outro, Ward faz patrulha junto com policiais que usam o programa PredPol (agora Geolitica), um algoritmo infame racialmente tendencioso que prevê onde o crime ocorrerá com base em incidentes passados. Ward pergunta: “O que acontece quando orçamentos e cronogramas de policiamento são construídos com base na suposição de que uma assinatura de software pode substituir a necessidade de pagar horas extras para investigadores?”. Para pessoas e instituições, quando a inteligência artificial é introduzida, fica difícil removê-la.

Na maioria das vezes, porém, os exemplos de Ward não se encaixam em sua concepção clara da inteligência artificial como uma força do mal. Veja, por exemplo, sua discussão sobre o incidente de 2017 a bordo do voo 3411 da United Airlines, quando oficiais de segurança arrancaram o médico David Dao de um avião lotado; ele se recusou a sair depois de ser selecionado mais ou menos aleatoriamente para a remoção involuntária. Ward descreve Dao não como vítima de um atendimento ao cliente violentamente ruim, mas como um mártir da liberdade que se manteve firme contra um algoritmo ditatorial. “Todo mundo – desde os comissários de bordo que insistiram que Dao mudasse de voo apesar das consequências para seus pacientes, até o jovem casal que desceu quando solicitado, sem falar nos oficiais convocados para remover Dao – estavam agindo sob a direção de uma máquina maior e misteriosa”. Ward poderia ter usado o incidente da United para se envolver com perguntas difíceis sobre quando os algoritmos deveriam ser usados para tomar decisões e como essas decisões deveriam ser comunicadas. Em vez disso, ele usa o episódio como outra oportunidade para vociferar contra um computador que arruinou tudo.

Ward protesta com igual vigor contra a inteligência artificial que comprovadamente melhora a vida das pessoas. Ele entrevista Yacqueline, uma mulher divorciada que tem problemas para administrar a hostilidade de seu ex nas negociações da guarda compartilhada de seu filho de 5 anos. Um juiz ordena que ela e seu ex-marido se comuniquem por meio do coParenter, um aplicativo de mensagens para pais divorciados que usa inteligência artificial para detectar e mitigar linguagem hostil. Yacqueline descreve o aplicativo como uma dádiva de Deus, mas Ward vê apenas o perigo. “Yacqueline e seu ex estão ensinando alguma coisa para [seu filho], exceto o coleguismo anódino que eles leem nas linhas de uma série de instruções orientadas por inteligência artificial? Isto é uma forma de treinamento? Ou são rodinhas de bicicleta que você nunca vai tirar?”. Ward ignora qualquer evidência em contrário, como o fato de Yacqueline nunca ter aprendido essas habilidades de gerenciamento de conflitos de seus próprios pais divorciados e sem inteligência artificial.

The Loop tem os relatos certos para falar sobre a ambiguidade ética da inteligência artificial, mas, em vez disso, tenta provar que ela é, quase sem exceção, ruim. Ward parece ter tirado as lições erradas dos críticos que vieram antes dele: em vez de seguir seus métodos de considerar as questões de todos os ângulos e questionar o status quo, ele se aproveita do novo status quo que eles ajudaram a estabelecer.

Hoje, o desafio de criticar o capitalismo e a tecnologia impulsionados pela inteligência artificial reside no fato de que é difícil apresentar um argumento que os próprios leitores, cujos cérebros já foram suficientemente distorcidos pela internet, não consigam antecipar sozinhos. Alguns livros recentes enfrentaram o desafio – o Atlas of AI, de Kate Crawford e a recente série de quatro livros da Logic Magazine sobre a indústria de tecnologia, por exemplo, lançam uma nova luz sobre o impacto ambiental da inteligência artificial e as práticas trabalhistas obscuras. Mas The Loop, como muitos livros que se propõem a provar que a tecnologia é inequivocamente ruim, tem poucas novidades a oferecer. Em vez disso, continua a soar o sino da agitação anti-tecnologia, um som que todos já ouvimos antes e não precisamos ouvir de novo. / TRADUÇÃO DE RENATO PRELORENTZOU

- - -

Gabriel Nicholas é pesquisador do Center for Democracy & Technology e membro do NYU Information Law Institute e do NYU Center for Cybersecurity.

Serviço

The Loop: How Technology Is Creating a World Without Choices and How to Fight Back

Jacob Ward

Hachette - 320 páginas - US $29

Encontrou algum erro? Entre em contato

Comentários

Os comentários são exclusivos para assinantes do Estadão.

O Estadão deixou de dar suporte ao Internet Explorer 9 ou anterior. Clique aqui e saiba mais.