Grok: UE investiga rede X por geração de imagens sexualizadas em IA

A Comissão Europeia anunciou nesta segunda-feira (26/01) a abertura de uma investigação contra o chatbot de inteligência artificial (IA) Grok, do bilionário Elon Musk , por suspeita de disseminação de conteúdo ilegal, como geração de imagens falsas sexualizadas  e sem consentimento, no território da União Europeia (UE) .

O braço executivo da UE comunicou que avaliará se a rede social X examinou adequadamente e mitigou os riscos associados à implementação das funções do Grok na União Europeia, incluindo a possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente explícitas que podem, até mesmo, ser consideradas material de abuso sexual infantil.

Mesmo antes de iniciar a investigação, a Comissão Europeia já havia ordenado à rede social X que conservasse todos os dados  sobre pedidos e produções do Grok até o final de 2026.

O X declarou em 14 de janeiro que a empresa xAI havia restringido a edição de imagens para usuários do Grok e impedido usuários, com base em sua localização, de gerar as imagens em jurisdições onde isso é ilegal. A declaração, que não satisfez a Comissão Europeia, não identificou os países afetados.

A abertura da investigação ocorreu em plena polêmica devido às imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, e que levaram o governo francês a processar o X nos tribunais.

Milhares de imagens geradas pela IA de Musk e publicadas no início deste mês por usuários da tecnologia mostram mulheres e meninas em trajes de banho, seminuas ou em poses sexualizadas. O conteúdo foi produzido sem consentimento das vítimas.

Segundo uma estimativa da ONG britânica CCDH, dentre as imagens publicadas, 23 mil eram de crianças.

X pode ser multado

A Comissão Europeia avalia que, se as alegações forem comprovadas, o X estaria infringindo vários artigos da Lei de Serviços Digitais (DSA, na sigla em inglês) à qual está sujeito ao operar na União Europeia, inclusive sobre a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.

A Lei de Serviços Digitais, aprovada pelos 27 países-membros da UE, inclui medidas como a obrigação de as plataformas eliminarem conteúdos julgados ilegais e a proteção de menores em relação à publicidade personalizada. As empresas podem ser multadas em até 6% do seu faturamento anual global por violações da DSA.

A Comissão Europeia já multou o X em dezembro de 2025 em 120 milhões de euros por descumprir obrigações de transparência previstas na mesma lei devido ao “design enganoso” de seu selo de verificação azul , à falta de transparência de seu arquivo publicitário e à falta de acesso a dados públicos para pesquisadores.

Em paralelo, a Comissão também prorrogou nesta segunda-feira sua investigação iniciada em 2023 sobre se o X cumpre com as obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo.

A plataforma também já está na mira da UE por suspeita de negligenciar seu dever, previsto na DSA, de agir contra a propagação de conteúdo ilegal no X, como imagens sexualizadas, pornografia infantil, ameaças de morte e símbolos nazistas.

Leia mais em DW, parceiro do Metrópoles.