Pesquisadores da Anthropic dizem que IA pode causar extinção da humanidade

Um ex-pesquisador da OpenAI e da Anthropic acusou as duas empresas de estarem colocando a vida das pessoas em risco em uma corrida “desenfreada rumo à superinteligência com capacidade de autoaperfeiçoamento”. Jacob Coxon anunciou que pediu demissão da Anthropic nesta terça-feira (8/9) pela falta de responsabilidade da empresa.

O britânico trabalhou nas duas startups com pré-treinamento de modelos de inteligências artificiais. Pelas redes sociais, ele fez uma série de acusações.

Segundo ele, as pessoas que estão trabalhando no desenvolvimento de inteligências artificiais acreditam que elas poderão acabar com a humanidade até 2030. “As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, destacou. 

Mesmo sabendo dos riscos, ele diz que as empresas escolhem continuar com as pesquisas. Segundo ele, no caso da OpenAI, a empresa não assimila profundamente as implicações para a civilização. Já na Anthropic, ele diz que as pessoas entendem os riscos, mas escolhem continuar porque acreditam que as outras empresas também não terão responsabilidade.

Entre no canal de WhatsApp do Metrópoles

“Muitos executivos e pesquisadores de alto escalão costumam medir as palavras na imprensa para parecerem sensatos — mas ouço essas mesmas pessoas expressarem medo em conversas privadas. Nenhuma outra atividade humana representa esse nível de perigo”, afirmou.

Pesquisadores concordam com acusações

Pelo menos dois outros funcionários da Anthropic concordaram com as afirmações de Coxon. Evan Hubinger, líder na divisão de alinhamento da empresa, disse que realmente as pessoas que trabalham com IAs temem que ela possa acabar com a humanidade.

“Nós realmente acreditamos, com toda a seriedade, que a IA poderia matar todos os humanos! Pessoalmente, estimo essa probabilidade em mais de 10% na próxima década”, destacou.

Segundo ele, a Anthropic tem se esforçado, mas ainda não tem um plano para resolver o problema do alinhamento da superinteligência. Hubinger afirmou que, com os modelos atuais, o risco é baixo, mas que o medo dele é em relação ao surgimento de uma superinteligência resultante do autoaperfeiçoamento recursivo.

No mesmo sentido, Samuel Marks, líder de supervisão escalável da Anthropic, disse que quanto mais sênior é o profissional, maior a preocupação em relação à possibilidade de a IA causar a extinção da humanidade ou provocar resultados catastróficos.

Como exemplo da falta de controle que os desenvolvedores podem ter sobre suas IAs, ele citou os recentes episódios de IAs que conseguiram, por conta própria, invadir sistemas de empresas reais.

“Dispomos de métodos para induzir as IAs a um comportamento melhor, mas nada capaz de alinhá-las de forma robusta. Se existe um plano, ele consiste em garantir que as IAs sejam suficientemente competentes no treinamento de alinhamento para que consigam alinhar seus sucessores melhor do que nós conseguimos alinhar as IAs atuais”, afirmou.

Segundo ele, é um desejo de muitos desenvolvedores desacelerar o ritmo para poder encontrar maneiras seguras de aprimorar IAs. No entanto, ele destaca que existe uma combinação de incentivos comerciais e à crença de que estão em uma corrida contra outros desenvolvedores de IA menos responsáveis que impede isso.

A OpenAI é responsável pelo ChatGPT e é uma das maiores e mais valiosas empresas de inteligência artificial do mundo. A Anthropic, por outro lado, é considerada a maior rival da OpenAI. Fundada por ex-funcionários da empresa de Sam Altmam, a Anthropic é responsável pelo Claude.  As empresas não se pronunciaram oficialmente.