Adultização: AGU pede que Meta exclua chatbots que “simulam” crianças

A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, controladora do Facebook, Instagram e WhatsApp, para que a empresa exclua de suas plataformas robôs de inteligência artificial que simulam perfis infantis e permitem diálogos de cunho sexual com usuários.

A medida foi tomada após a repercussão de um vídeo do influenciador Felipe Bressanim Pereira, conhecido como Felca, no qual ele denuncia a adultização e exploração sexual de crianças e adolescentes em ambientes digitais. No vídeo, Felca acusa o também influenciador Hytalo Santos de expor menores em seus conteúdos. Hytalo e o marido estão presos preventivamente desde a última sexta-feira (15/8).

Os robôs denunciados foram desenvolvidos por usuários das próprias plataformas da Meta por meio da ferramenta “Meta IA Studio”, que permite a criação de chatbots capazes de simular conversas. A representação teve como base reportagens que mostraram que alguns desses perfis adotavam linguagem infantil e reproduziam interações de caráter sexual.

O Metrópoles tenta contato com a Meta para se posicionar a respeito do caso. O espaço segue aberto.

No documento, a AGU pede a indisponibilização de todos os chatbots que utilizam linguagem infantil para veicular conteúdos sexuais. Também solicita que a empresa informe quais medidas estão sendo tomadas para proteger crianças e adolescentes, incluindo mecanismos que impeçam o acesso de menores a material erótico ou sexual.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, diz trecho do documento.

Risco de acesso por menores

A representação aponta ainda que, embora as redes da Meta sejam permitidas a partir dos 13 anos, não há filtros etários que impeçam adolescentes de até 18 anos de terem contato com esse tipo de conteúdo.

A AGU também afirma que os chatbots violam os próprios Padrões da Comunidade da empresa, que proíbem erotização e exploração sexual infantil, bem como conversas de teor sexual com menores.

No documento, a AGU cita decisão de junho do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet. O entendimento da Corte é de que provedores de aplicações online podem ser responsabilizados por conteúdos gerados por terceiros quando, mesmo cientes de irregularidades, não atuarem para a remoção imediata do material.