Especialistas apontam que IA ainda não consegue criar uma "vida autônoma"

No início de setembro, uma declaração do ex-pesquisador da OpenAI e da Anthropic — duas das principais empresas de pesquisa e desenvolvimento de inteligência artificial (IA) — chamou a atenção. Ao pedir demissão da Anthropic, Jacob Coxon afirmou que a empresa não tinha responsabilidade e que as inteligências artificiais poderiam acabar com a humanidade até 2030.

Coxon disse que o risco poderia estar ligado à corrida desenfreada rumo à superinteligência com capacidade de autoaperfeiçoamento.

Segundo Pedro A. Galvão Junior, professor da Faculdade de Tecnologia (Fatec) São Roque, em São Paulo, o risco sobre a IA não está ligado a ela criar “vida” própria, mas sim ela ser cada vez mais automatizada.

“Nós já vimos isso na guerra da Rússia, por exemplo, com os próprios drones sendo controlados por IA, sem nenhum tipo de ação humana. Simplesmente, o homem colocou o drone para funcionar, e então, os agentes de IA começaram a trocar dados entre si e a provocar o combates autônomos”, diz o docente.

O professor Laerte Peotta de Melo, do departamento de engenharia elétrica da Universidade de Brasília (UnB), diz que nos sistemas atuais ainda não foram encontradas evidências de que o acúmulo de conversas e dados possa tornar a IA em uma espécie de “organismo digital vivo”, com suposta espontaneidade e consciência.

Entre no canal de WhatsApp do Metrópoles

“A IA pode, sim, simular uma personalidade, e ela pode ser extremamente convincente. Mas isso não significa que tenha consciência sobre aquilo. Quando a IA diz “eu penso, eu acho” ou de certa forma, eu prefiro”, isso não comprova que exista ali uma consciência ou um sentimento por trás daquela resposta”, destaca.

Melo defende que atualmente a ferramenta consegue até criar uma personalidade convincente para o usuário, adaptando até a linguagem e usando dialetos comuns à pessoa. Porém, isso não significa uma “consciência autônoma” por parte da máquina.

Segundo o professor da UnB, a questão mais realista atualmente sobre as máquinas é IA ter mais participação na criação de sistemas, escrevendo programas, atuando como agente computacional, controlando equipamentos e auxiliando diferentes tipos de pesquisa.

“Nesse sentido, ela pode, sim, contribuir para a criação de algo novo. Mas isso é muito diferente de afirmar que uma inteligência artificial ganhou vida”, esclarece Melo.

Os riscos da IA cada vez mais automatizada

Pelo menos por enquanto, a inteligência artificial ganhar “vida” própria não é um problema para nossa sociedade. O principal risco está ligado à automatização do sistema. Segundo ambos os especialistas, o aumento da independência da IA pode trazer riscos sérios, incluindo fraudes, ataques cibernéticos automatizados, manipulação de informações, vazamento de dados, decisões erradas e uso em armas.

“Não precisamos chegar ao cenário dos filmes, em que a inteligência artificial é consciente, tem independência e decide enfrentar os seres humanos, para termos problemas muito sérios. Um algoritmo, por exemplo, pode ser defeituoso ou estar mal configurado. Ele pode ser comprometido por um hacker ou simplesmente ser autorizado a fazer coisas que provoquem consequências muito graves”, alerta Melo.

Junior defende que a redução dos riscos passa por uma constante supervisão humana e limite de acesso da IA a sistemas sensíveis e importantes, além da realização de testes e auditorias, que devem garantir mecanismos para desligá-la.

IA na ONU

A inteligência artificial foi um dos assuntos debatidos durante a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), em Nova York, Estados Unidos. Em seu discurso, o presidente norte-americano, Donald Trump, rejeitou que os EUA queiram controlar o desenvolvimento da IA. Porém, o mandatário destacou a importância de estar na vanguarda da tecnologia, pois, segundo ele, “quem vencer a inteligência artificial, ganha”.

Já o secretário-geral da ONU, António Guterres, alertou sobre o uso responsável da IA, visto que, de acordo com ele, a tecnologia está se desenvolvendo mais rapidamente do que a capacidade humana de entender seus efeitos.

Para os dois especialistas, é positivo que o tema seja debatido na ONU, porém há preocupação de como a IA está avançando mais rápido que as regras sobre seu uso, indo ao encontro da fala de Guterres. “O caminho mais seguro é buscar cooperação entre os países, fiscalização independente e a garantia de que decisões de alto risco continuem sob responsabilidade humana”, afirma Junior.

“O maior desafio é encontrar um equilíbrio entre inovação e controle. Uma abordagem baseada em risco parece ser mais adequada: quanto maior o potencial de dano de uma aplicação, maiores devem ser a sua fiscalização e os próprios mecanismos de segurança”, acrescenta Melo.