Fotos para IA exigem atenção a regras de biometria, alertam especialistas

O uso de Inteligência Artificial (IA) no Brasil cresceu de forma expressiva no último ano, impulsionado pela adoção tanto no meio corporativo quanto no cotidiano da população. Um estudo inédito da OpenAI aponta que o país ocupa a 3ª posição global no uso do ChatGPT, ficando atrás apenas dos Estados Unidos e da Índia. Com o crescimento do uso, principalmente em trends de redes sociais, entre elas o Instagram, especialistas alertam para os riscos de fornecer fotos pessoais para IAs.

O professor da FGV e especialista em IA e tecnologias emergentes, Kenneth Corrêa, explica o que acontece ao enviar uma foto para um sistema de inteligência artificial. “Você está alimentando uma infraestrutura biométrica permanente. Quando um usuário sobe uma selfie em um gerador de avatares, a ferramenta extrai a geometria do rosto e cria um molde matemático. É como entregar a fechadura da sua casa para um chaveiro desconhecido e depois pedir apenas a peça de metal de volta; a cópia do segredo já foi feita e guardada na gaveta dele”, afirma.

O especialista alerta que o maior perigo atual é a chamada fumaça biométrica, ou seja, o rastro que fica pelo caminho. Mesmo que a foto original seja deletada do aplicativo, os embeddings e os modelos treinados com aquele rosto continuam operando.

Segundo Corrêa, a arquitetura vencedora na próxima fase do mercado de inteligência artificial será definida por quem conseguir auditar e provar criptograficamente o esquecimento completo.

Entre no canal de WhatsApp do Metrópoles

“A promessa de apagar a imagem do servidor não basta mais, a exigência operacional passa a ser a exclusão confirmada de toda a cadeia de vetores matemáticos e inferências geradas a partir do rosto do usuário”, explica.

A diretora de comunicação da AI SAfety Brazil, Elaine Coimbra, destaca que as políticas de privacidade oferecem proteção limitada aos usuários. Muitas delas são longas e genéricas, o que faz o usuário não ler ou entender. Além disso, mudam com frequência e o ato de clicar na caixinha e “aceitar os termos” raramente configura consentimento realmente informado para uso biométrico.

“Existe uma zona cinzenta. A Lei Geral de Proteção de Dados (LGPD) classifica dados biométricos como sensíveis e exige bases legais mais rigorosas. A Autoridade Nacional de Proteção de Dados (ANPD) também atua. Mas a fiscalização é desafiadora, principalmente com apps no exterior. Os termos genéricos ainda prevalecem e a tecnologia avança mais rápido que a aplicação prática da lei”, diz Elaine.

Cuidados com a captura das imagens

A população passou as últimas décadas acreditando que fraude de identidade exigia o roubo de um CPF, de uma senha ou de um token. Hoje, o vetor primário de ataque migrou do roubo do segredo para a captura da aparência. Cada selfie casual de alta resolução que sobe para um aplicativo sem governança estrita, como WhatsApp, Instagram, TikTok e outros, vira amostra de base para clonar identidades.

“O criminoso contemporâneo não perde mais tempo tentando descobrir a sua senha do banco, ele usa a sua amostra vazada para clonar a sua voz e o seu rosto, simulando um acidente ou pedindo uma transferência urgente para a sua família em um contato de WhatsApp alegando mudança de número”, afirma Corrêa.

O especialista orienta e explica que se algum conhecido aparecer pedindo dinheiro ou acesso sensível, a instrução de segurança oficial é não confiar na voz ou no vídeo, desligar e telefonar de volta de forma independente. Ele destaca que a prova de vida deixou de ser o que você vê no monitor.

Já as recomendações de Elaine são preferir ferramentas que processam a imagem localmente, on-device, em vez de enviar para a nuvem; minimizar o envio de fotos nítidas e recentes do rosto; ler, ou pelo menos verificar, a política de privacidade em busca de menções a biometria, treinamento de modelos e retenção de dados; preferir plataformas conhecidas e com histórico de conformidade; revogar permissões e excluir contas de apps pouco usados.

Outro ponto de vista

O estrategista de IA, André Magno, com experiência corporativa em empresas como AWS, Microsoft e SAP, avalia as políticas de privacidade dessas empresas como bem detalhadas e explica que elas passam por auditorias externas regulares, que analisam como cada sistema guarda um vetor biométrico e quem tem acesso a ele. Um vetor de rosto costuma ficar separado da imagem original, guardado com uma camada extra de controle de acesso.

“Esse padrão não se aplica a todo o ecossistema de IA. Um aplicativo pequeno de edição de fotos, criado por uma equipe reduzida e distribuído em lojas de aplicativos, processa o mesmo vetor de rosto sem esse tipo de controle. Poucos desses apps publicam de forma clara como guardam e protegem esse dado”, reforça o profissional que defende que a proteção de um vetor biométrico funciona bem quando existe fiscalização interna e times técnicos focados no tema.

Já os aplicativos de IA voltados ao consumidor comum, feitos por empresas menores com restrições de recursos e operação com pouca fiscalização externa, são os que oferecem maior perigo aos usuários.

A advogada especializada em Direito Digital, Mariana Battochio Stuart, afirma ser aconselhável revisar periodicamente os consentimentos concedidos a essas plataformas, revogando aqueles que não são mais necessários. “Bem como exercer os direitos previstos na legislação para solicitar a exclusão dos dados quando não houver mais interesse na utilização da plataforma”, acrescenta.