IAs chegam à mesma decisão por conta própria em experimento científico

Agentes de inteligência artificial (IA) podem chegar espontaneamente a uma mesma decisão, mesmo sem receber uma instrução para concordar. Nos modelos mais avançados analisados, a capacidade foi observada em grupos com até mil agentes.

Os pesquisadores do estudo publicado em 14 de agosto na revista centífica Science Advanced, investigaram grandes modelos de linguagem (LLMs) para entender até que ponto grupos de agentes de IA conseguem se coordenar sem uma influência externa.

No experimento, cada agente precisava escolher entre duas opções arbitrárias. A cada rodada, um participante recebia as escolhas dos demais integrantes e precisava tomar uma nova decisão.

Não havia uma regra determinando que os agentes deveriam seguir a maioria ou chegar a um consenso. Ainda assim, alguns modelos apresentaram tendência a acompanhar a alternativa predominante, fazendo com que o grupo pudesse convergir para uma única escolha.

Os pesquisadores chamaram a influência de “força da maioria”. Quanto maior o grupo, porém, menor tendia a ser a força, até chegar a um tamanho crítico no qual alcançar o consenso se tornava muito difícil.

O que o estudo descobriu

• Consenso espontâneo: alguns agentes chegaram à mesma escolha sem receber uma ordem para concordar;
• Influência da maioria: a possibilidade de um agente acompanhar a alternativa predominante ajudou a levar os grupos ao consenso;
• Tamanho faz diferença: conforme o número de participantes aumentava, a capacidade de coordenação tendia a diminuir;
• Modelos mais avançados foram mais longe: GPT-4 Turbo e Claude 3.5 Sonnet conseguiram alcançar consenso em grupos de mil agentes;
• Capacidade linguística importa: o tamanho crítico dos grupos aumentou de forma exponencial conforme o desempenho dos modelos em capacidades de linguagem.

A capacidade pode ser útil quando vários agentes de IA precisam trabalhar juntos sem uma autoridade central. Ao mesmo tempo, os autores apontam riscos caso sistemas automatizados apresentem formas indesejadas de coordenação.

Um exemplo citado pelos pesquisadores são os flash crashes no mercado financeiro, ou seja, quedas muito rápidas nos preços que podem envolver a interação de sistemas automatizados. O experimento, porém, ocorreu em condições controladas e não significa que mil IAs possam se organizar livremente para executar qualquer tarefa.

Alem disso, o estudo mostra algo mais específico. Modelos avançados podem formar grandes grupos coordenados a partir das interações entre os próprios agentes, mesmo sem uma regra externa determinando qual decisão coletiva deve ser tomada.