MPF pede que X impeça geração de imagens sexualizadas pelo Grok

O Ministério Público Federal (MPF) de São Paulo recomendou que a plataforma X (ex-Twitter) adote medidas imediatas para impedir que o Grok gere imagens sexualizadas de pessoas reais, inclusive crianças e adolescentes. A recomendação é assinada de forma conjunta pelo MPF, pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça (MJSP).

O documento aponta que o Grok passou a permitir a edição de imagens “sem autorização das pessoas retratadas, a compatibilidade desse recurso com a idade dos envolvidos, ou mesmo a legitimidade da finalidade visada por essas ações”. Segundo os órgãos, a ampla permissividade da ferramenta levou usuários a produzir deepfakes “de teor sexual, erótico e pornográfico” de mulheres adultas sem consentimento e também de crianças e adolescentes reais.

Para os órgãos, essas práticas violam direitos fundamentais como a dignidade humana, a privacidade, a autodeterminação sexual e a proteção integral de crianças e adolescentes.

O texto afirma que “a possibilidade de uso da ferramenta Grok para produzir deepfakes de crianças e adolescentes em contexto sexualizado ou erotizado tem potencial de afetar não apenas sua imagem social, mas sobretudo sua integridade sexual, física e psicológica”.

Os signatários também sustentam que a plataforma X não pode ser tratada como mera intermediária do conteúdo, já que o material é gerado por uma ferramenta de inteligência artificial desenvolvida e disponibilizada pela própria plataforma.

Nesse sentido, o documento registra que os deepfakes “não são produzidos exclusivamente por terceiros, mas sim por meio de uma interação entre usuários que inserem prompts, de um lado, e uma ferramenta de inteligência artificial criada e disponibilizada amplamente pelo provedor de aplicação X”, o que tornaria a empresa “coautora de tais conteúdos”.

A recomendação cita ainda decisões recentes do Supremo Tribunal Federal (STF) que declararam a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, por não oferecer proteção suficiente a direitos fundamentais, reforçando o dever de cuidado das plataformas digitais diante de conteúdos graves, como crimes sexuais e violência de gênero.

Entre as medidas exigidas, os órgãos pedem que a X implemente, de forma imediata, medidas técnicas, administrativas e de governança de dados, destinadas a impedir que a ferramenta Grok gere imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, além de conteúdos sexualizados de adultos identificáveis sem autorização.

O documento também determina que a empresa estabeleça, em até 30 dias, procedimentos para identificar e excluir conteúdos já publicados que representem crianças e adolescentes em contextos sexualizados ou erotizados.

Por fim, o MPF,  a ANPD e a Senacon fixaram prazo até 27 de janeiro deste ano para que o X informe se acatará a recomendação. Em caso de descumprimento, os órgãos alertam que poderão adotar “as providências cabíveis, nas esferas administrativa e judicial”, incluindo sanções previstas no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados.