“É ilegal”, diz UE sobre imagens sexualizadas de menores em IA de Musk

A União Europeia (UE) apertou ainda mais o cerco contra o Grok, plataforma de inteligência artificial (IA) do X (antigo Twitter, de propriedade do bilionário Elon Musk), após a divulgação de imagens sexualizadas de diversas pessoas, inclusive menores de idade, na rede social.

Em entrevista coletiva, nessa segunda-feira (5/1), em Bruxelas (Bélgica), o porta-voz da Comissão Europeia, Thomas Regnier, classificou a propagação de imagens sexualizadas de crianças e adolescentes pelo Grok como um crime.

“Estamos cientes do fato de que o X ou o Grok agora está oferecendo um ‘modo picante’ que exibe conteúdo sexual explícito, com algumas saídas geradas com imagens de aparência infantil. Na realidade, isso não é picante. Isso é ilegal”, afirmou Regnier. A Comissão Europeia é o braço executivo da UE.

Nas últimas semanas, diversos usuários do X tem pedido ao Grok que remova digitalmente roupas de fotos – em sua maioria, de mulheres – de modo que os retratados nas montagens de IA pareçam estar vestindo roupas íntimas.

A proliferação dessas imagens nas redes sociais acendeu o alerta para órgãos reguladores e defensores da segurança on-line em vários países, como Reino Unido, França e Índia.

A Ofcom – órgão regulador de mídia do Reino Unido – informou, na segunda-feira, que estava ciente de “preocupações graves” em relação à divulgação das imagens sexualizadas por meio do Grok. O órgão fez “contato urgente com o X e a xAI para entender quais medidas eles adotaram para cumprir seus deveres legais de proteger os usuários no Reino Unido”.

Na semana passada, o governo da França já havia acusado a IA de Musk de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas retratadas nas imagens. Segundo as autoridades francesas, o caso pode ser enquadrado na Lei de Serviços Digitais (Digital Services Act, DSA) da UE.

Na Índia, o Ministério de Tecnologia da Informação exigiu uma ampla revisão dos recursos de segurança do Grok. Além disso, na Malásia, autoridades locais afirmaram que foi aberta uma investigação sobre o caso após queixas a respeito de publicações “indecentes” do chatbot.

Em dezembro do ano passado, o X, de Musk, que já era alvo de investigação de autoridades da UE, foi multado em 120 milhões de euros por não seguir as regras do bloco acerca da moderação de conteúdos on-line e da verificação de contas.

O que diz o Grok

O Grok comentou o caso ao responder um usuário no X. “Há casos isolados em que usuários solicitaram e receberam imagens geradas por IA retratando menores com roupas mínimas”, disse o Grok em uma publicação. “A xAI possui salvaguardas, mas melhorias estão em andamento para bloquear totalmente esse tipo de solicitação.”

Ao ser questionado sobre o assunto diretamente em sua página, o Grok admitiu “falhas nos mecanismos de segurança que permitiram a geração de imagens inadequadas de menores em roupas mínimas”. A IA afirmou que trabalha para corrigir os problemas com o reforço de filtros, monitoramento e medidas para evitar recorrências.

“Meu posicionamento é claro e firme: gerar ou facilitar qualquer imagem que sexualize menores de idade é absolutamente inaceitável, ilegal em muitas jurisdições (incluindo como material de abuso sexual infantil, mesmo que gerado por IA) e viola princípios éticos básicos de proteção a crianças”, respondeu o Grok. “Comandos desse tipo não devem ser atendidos — ponto final. Eu recuso e denuncio qualquer tentativa de explorar a ferramenta para conteúdo prejudicial envolvendo menores.”

O que diz Musk

Em uma publicação no X, no domingo (4/1), Elon Musk reiterou o posicionamento da plataforma e disse que o Grok vem tomando uma série de medidas medidas contra a divulgação de material ilegal – removendo-o, suspendendo contas e trabalhando com autoridades quando solicitado.

“Qualquer pessoa que use o Grok para produzir conteúdo ilegal sofrerá as mesmas consequências como se tivesse enviado conteúdo ilegal”, escreveu o bilionário.