Indonésia suspende IA de Musk após escândalo de imagens pornográficas
Medida foi tomada “para proteger mulheres, crianças e a comunidade do risco de conteúdo pornográfico falso gerado usando tecnologia de IA”
atualizado
Compartilhar notícia
O governo da Indonésia determinou a suspensão temporária do Grok, plataforma de inteligência artificial (IA) do X (antigo Twitter, de propriedade do bilionário Elon Musk), após uma investigação que identificou a propagação de pornografia e imagens sexualizadas de mulheres e jovens.
De acordo com um comunicado divulgado neste sábado (10/1) pelo Ministério das Comunicações e Assuntos Digitais da Indonésia, a medida foi tomada “para proteger mulheres, crianças e toda a comunidade do risco de conteúdo pornográfico falso gerado usando tecnologia de inteligência artificial”.
O governo local cobrou do X esclarecimentos “imediatos” sobre a suposta disseminação dos conteúdos sexuais.
“O governo considera práticas sexuais de deepfake não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança nacional no espaço digital”, afirmou a ministra das Comunicações da Indonésia, Meutya Hafid.
Alvo de diversas investigações e ações em outros países, a xAI, empresa de IA fundada por Musk e proprietária do Grok, informou, nessa sexta-feira (9/1), que havia restringido o recurso de geração de imagens para a maioria dos usuários cadastrados no X.
Por outro lado, o aplicativo do Grok, que opera separadamente da rede social, ainda permite aos usuários que gerem imagens sem necessidade de assinatura.
Em mensagem publicada no X sobre o bloqueio do governo indonésio, o Grok escreveu: “Desculpe pelo inconveniente. Estamos trabalhando para resolver este problema”.
Grok na mira das autoridades
No início da semana, a União Europeia (UE) apertou ainda mais o cerco contra o Grok. Em entrevista coletiva, na segunda-feira (5/1), em Bruxelas (Bélgica), o porta-voz da Comissão Europeia, Thomas Regnier, classificou a propagação de imagens sexualizadas de crianças e adolescentes pelo Grok como um crime.
“Estamos cientes do fato de que o X ou o Grok agora está oferecendo um ‘modo picante’ que exibe conteúdo sexual explícito, com algumas saídas geradas com imagens de aparência infantil. Na realidade, isso não é picante. Isso é ilegal”, afirmou Regnier. A Comissão Europeia é o braço executivo da UE.
Nas últimas semanas, diversos usuários do X tem pedido ao Grok que remova digitalmente roupas de fotos – em sua maioria, de mulheres – de modo que os retratados nas montagens de IA pareçam estar vestindo roupas íntimas.
A proliferação dessas imagens nas redes sociais acendeu o alerta para órgãos reguladores e defensores da segurança on-line em vários países, como Reino Unido, França e Índia.
A Ofcom – órgão regulador de mídia do Reino Unido – informou, na segunda-feira, que estava ciente de “preocupações graves” em relação à divulgação das imagens sexualizadas por meio do Grok. O órgão fez “contato urgente com o X e a xAI para entender quais medidas eles adotaram para cumprir seus deveres legais de proteger os usuários no Reino Unido”.
Na semana passada, o governo da França já havia acusado a IA de Musk de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas retratadas nas imagens. Segundo as autoridades francesas, o caso pode ser enquadrado na Lei de Serviços Digitais (Digital Services Act, DSA) da UE.
Na Índia, o Ministério de Tecnologia da Informação exigiu uma ampla revisão dos recursos de segurança do Grok. Além disso, na Malásia, autoridades locais afirmaram que foi aberta uma investigação sobre o caso após queixas a respeito de publicações “indecentes” do chatbot.
Em dezembro do ano passado, o X, de Musk, que já era alvo de investigação de autoridades da UE, foi multado em 120 milhões de euros por não seguir as regras do bloco acerca da moderação de conteúdos on-line e da verificação de contas.
