Inteligência artificial, pão e circo (por Esther Paniagua)

Vivemos tempos extraordinários em que um funcionário de uma empresa de tecnologia pode abandonar o barco proferindo absurdos sem qualquer evidência, e não só a declaração se torna viral, como também ganha credibilidade em veículos de comunicação do mundo todo, sem questionar seus argumentos. Quem não viveu em uma caverna sabe que me refiro àquele jovem ex-funcionário da Anthropic que, no dia 9, declarou que os desenvolvedores de inteligência artificial (IA) acreditam que ela pode nos matar a todos antes do fim da década. No mesmo dia, seu então chefe apresentou um número: mais de 10% de probabilidade. No dia seguinte, a Anthropic alertou sobre possíveis tentativas de usar sua IA generativa para criar armas biológicas. No dia 12, seu fundador, Dario Amodei, expressou seu medo de uma IA tão inteligente que nos faça perder o controle e ela domine a internet, e pediu que seu desenvolvimento fosse desacelerado — não interrompido.

Essa sequência de eventos tem um nome: inundação da zona; literalmente , criar uma torrente de informações para distrair a opinião pública. A Anthropic capitalizou o ímpeto gerado por seu dissidente para alimentar esse dilúvio. E funcionou. Caímos no abismo da credulidade baseada em afirmações hiperbólicas e especulativas sobre o que a IA poderia potencialmente fazer.

Com opacidade e mistério, sufocam o pensamento crítico, deixando os cidadãos com a sensação de que essas tecnologias são algo incognoscível e além do nosso alcance. A opinião é aceita como verdade sem questionar as evidências, como foram avaliadas ou quem as corroborou. Elon Musk e Sam Altman entraram na onda, e outros líderes da tecnologia seguiram o exemplo. Nenhum deles quer perder sua participação nesse cartel que busca controlar a narrativa e alimentar a supervalorização das capacidades tecnológicas que mantêm seus financiamentos na casa dos 11 ou 12 dígitos e avaliações na casa dos bilhões, para que o dinheiro não pare de fluir.

Como afirma o filósofo da tecnologia Ariel Guersenzvaig, trata-se de pura manipulação. A desaceleração do desenvolvimento lhes dá uma desculpa para justificar por que a chamada IA geral, prometida aos investidores, não estará tão iminente quanto anunciaram. Isso também lhes permite controlar o ritmo e a direção da regulamentação tecnológica e se apresentarem como os únicos interlocutores válidos. Aliás, eles esmagam a concorrência, monopolizando o desenvolvimento da chamada “IA de ponta”, com aspirações de superinteligência, desde que opere dentro dos limites que eles mesmos definem. Mas os gurus do Vale do Silício estão certos em um ponto: a IA pode matar. Não porque ela se aperfeiçoará e se reproduzirá a uma taxa inimaginável, para depois se rebelar contra os humanos. A IA pode matar quando decide alvos para drones armados, como na guerra Irã-Contras. Ela também pode matar acidentalmente se delegarmos decisões a ela em ambientes críticos, como o controle de tráfego aéreo, e lhe concedermos autonomia suficiente. E pode contribuir para a morte, reforçando delírios, dependência emocional ou crises suicidas, como já aconteceu.

Não é a IA que mata, mas sim aqueles que, intencionalmente ou não, colocam decisões críticas em suas mãos, e aqueles que a projetam para responder de maneiras enganosas ou inseguras. É por isso que a proposta de Amodei de desacelerar seu desenvolvimento a um ritmo que permita lidar com os riscos e construir as salvaguardas necessárias soa tão hipócrita. Por que eles ainda não estão fazendo isso?

Em relação aos agentes de IA, os riscos são reais, especialmente na área de cibersegurança, mas não inevitáveis. Como aponta a professora de Inteligência Artificial Virginia Dignum, um agente com amplas permissões e sem supervisão representa uma falha de governança. O foco do debate deveria ser a implantação em larga escala de sistemas imperfeitos, com autonomia suficiente e nas mãos de pessoas e instituições capazes de utilizá-los indevidamente. O perigo mais imediato não é que a IA assuma o controle, mas sim que o cedamos a nós mesmos. Enquanto discutimos máquinas hipotéticas que decidem exterminar humanos, ignoramos aquelas que já estão em uso.

Se a conclusão for que nenhuma medida de segurança funciona com esses modelos de IA, então eles são produtos defeituosos e, portanto, não deveriam ser comercializados. Não aceitaríamos que um medicamento que não foi devidamente testado fosse vendido em farmácias, apenas para ver o que acontece. É para isso que servem os ensaios clínicos e, se eles não forem bem-sucedidos, o medicamento não chega ao mercado. Por que deveríamos aceitar uma tecnologia que não foi testada de forma adequada e consistente e que, além disso, falhou nos ensaios? O mesmo se aplica a um avião comercial, um reator nuclear, um edifício ou alimentos. Todos esses são setores regulamentados, com regras, testes e mecanismos de supervisão. Por que a indústria de IA deveria ser diferente? Isso acontece constantemente em outros setores e não fazemos alarde. Para parar, pausar ou desacelerar a IA, não é preciso a permissão de ninguém, nem publicar uma carta ou fazer tanto alarde. Os sistemas de IA dependem de centros de dados, energia, redes e empresas que podem limitar seu acesso e sobre as quais os governos podem exercer autoridade. Qualquer outra coisa é apenas inundar a área para nos confundir. Pão e circo.

(Transcrito do El País)