Adultização: AGU pede que Meta exclua chatbots que "simulam" crianças

A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, controladora do Facebook, Instagram e WhatsApp, para que a empresa exclua de suas plataformas robôs de inteligência artificial que simulam perfis infantis e permitem diálogos de cunho sexual com usuários.

A medida foi tomada após a repercussão de um vídeo do influenciador Felipe Bressanim Pereira, conhecido como Felca, no qual ele denuncia a adultização e exploração sexual de crianças e adolescentes em ambientes digitais. No vídeo, Felca acusa o também influenciador Hytalo Santos de expor menores em seus conteúdos. Hytalo e o marido estão presos preventivamente desde a última sexta-feira (15/8).

Os robôs denunciados foram desenvolvidos por usuários das próprias plataformas da Meta por meio da ferramenta “Meta IA Studio”, que permite a criação de chatbots capazes de simular conversas. A representação teve como base reportagens que mostraram que alguns desses perfis adotavam linguagem infantil e reproduziam interações de caráter sexual.

O Metrópoles tenta contato com a Meta para se posicionar a respeito do caso. O espaço segue aberto.

No documento, a AGU pede a indisponibilização de todos os chatbots que utilizam linguagem infantil para veicular conteúdos sexuais. Também solicita que a empresa informe quais medidas estão sendo tomadas para proteger crianças e adolescentes, incluindo mecanismos que impeçam o acesso de menores a material erótico ou sexual.

“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, diz trecho do documento.

Risco de acesso por menores

A representação aponta ainda que, embora as redes da Meta sejam permitidas a partir dos 13 anos, não há filtros etários que impeçam adolescentes de até 18 anos de terem contato com esse tipo de conteúdo.

Receba no seu email as notícias de Boletim Metrópoles

Frequência de envio: Diário

Ver todas

Assinar

Ver todas as newsletters

A AGU também afirma que os chatbots violam os próprios Padrões da Comunidade da empresa, que proíbem erotização e exploração sexual infantil, bem como conversas de teor sexual com menores.

No documento, a AGU cita decisão de junho do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet. O entendimento da Corte é de que provedores de aplicações online podem ser responsabilizados por conteúdos gerados por terceiros quando, mesmo cientes de irregularidades, não atuarem para a remoção imediata do material.