Após imagens pornográficas, Idec pede suspensão do Grok no Brasil

O Instituto de Defesa de Consumidores (Idec) apresentou, nessa quarta-feira (14/1), uma denúncia formal à Agência Nacional de Proteção de Dados (ANPD) contra o Grok, plataforma de inteligência artificial (IA) do X (antigo Twitter, de propriedade do bilionário Elon Musk).

A ação foi movida em meio a uma série de investigações sobre a IA de Musk que identificaram a propagação de pornografia e imagens sexualizadas de mulheres e jovens. A empresa é alvo de processos semelhantes em diversos países do mundo.

No documento, o Idec pede a suspensão imediata dos serviços do Grok no Brasil.

“A manutenção de uma ferramenta capaz de gerar, automatizar e disseminar imagens sexualizadas envolvendo crianças, adolescentes e mulheres configura violação direta à ordem constitucional, atraindo responsabilidade por ação e por omissão e tornando juridicamente legítima e necessária a adoção de medidas como a suspensão da tecnologia, enquanto persistirem riscos graves e sistêmicos aos direitos fundamentais”, afirma o instituto.

Ainda de acordo com a ação do Idec, o Grok tem violado, sistematicamente, diretrizes estabelecidas pelo Código de Defesa do Consumidor, além da Lei Geral de Proteção de Dados (LGPD), do Estatuto da Criança e do Adolescente (ECA) e do Marco Civil da Internet.

“Espera-se que ANPD exerça seu poder de polícia, agindo de forma imediata para a proteção das vítimas que estão tendo seus dados utilizados de forma ilegal para práticas abusivas e depreciativas a partir de suas imagens”, diz a entidade.

No documento, o Idec também menciona um entendimento do Supremo Tribunal Federal (STF) que reconheceu a inconstitucionalidade parcial do artigo 19 do Marco Civil da Internet – tornando plataformas digitais responsáveis pela remoção de conteúdos ilegais em seus serviços.

“A Corte Suprema determinou que o artigo 19 não pode ser utilizado para eximir empresas de seus deveres constitucionais, sobretudo quando a própria arquitetura tecnológica contribui para a ocorrência e a ampliação do dano”, afirma o Idec.

Segundo o instituto, o Grok opera com meios de segurança falhos, que não exigem o consentimento das pessoas retratadas nas imagens e não impedem o uso de fotos de menores de idade em suas publicações.

O que diz a ANPD

Por meio de nota, a ANPD afirmou que “está acompanhando as matérias veiculadas pela imprensa nacional e internacional sobre o Grok e recebeu, na data de hoje, denúncias sobre possível descumprimento da LGPD pela referida ferramenta de inteligência artificial”.

“As informações recebidas estão sob análise da área de fiscalização da agência, em diálogo com outros órgãos públicos com competências correlatas”, afirma a agência.

Vinculada ao Ministério da Justiça e Segurança Pública, a ANPD é o órgão do governo brasileiro responsável por implementar, fiscalizar e zelar pela Lei Geral de Proteção de Dados (LGPD). A agência atua para proteger os dados pessoais dos cidadãos, orientar empresas e aplicar sanções em caso de descumprimento da lei, garantindo a privacidade e segurança dos dados.

O que diz o Grok

Na semana passada, em reação ao movimento global contra a plataforma, a xAI, dona do Grok, desativou a função de criação de imagens para usuários não pagantes.

Até o momento, o X não se manifestou oficialmente sobre a ação apresentada pelo Idec à ANPD. No começo do mês, a plataforma afirmou que estava adotando “medidas contra os conteúdos ilegais, removendo-os, suspendendo permanentemente as contas e colaborando com as autoridades locais”.

Em mensagem publicada no X, Elon Musk afirmou que todas as pessoas que usarem o Grok para “criar conteúdo ilegal sofrerão as mesmas consequências que se publicassem conteúdo ilegal”.