Avanço da IA acende alerta sobre racismo tecnológico

Belo Horizonte –  A expansão da inteligência artificial tem levantado um novo alerta no campo dos direitos humanos: a tecnologia pode reproduzir e até ampliar desigualdades raciais já existentes na sociedade. O tema ganha destaque às vésperas do Dia Internacional de Luta pela Eliminação da Discriminação Racial, celebrado, neste sábado (21/3).

Mesmo em um país onde mais da metade da população se declara preta ou parda, segundo o IBGE, especialistas apontam que o ambiente digital não está imune às diferenças sociais e podem inclusive ampliá-las.

A professora da Faculdade Milton Campos, em Belo Horizonte, Luciana C. Souza, especialista em políticas públicas e cidadania digital, explica que o problema não está na tecnologia, mas nos dados utilizados para treiná-la.

“A inteligência artificial aprende a partir das informações que recebe. Quando esses dados carregam desigualdades históricas, o sistema tende a repetir esse padrão. O risco é que o racismo passe a ser reproduzido em escala tecnológica”, afirma a pesquisadora.

Algoritmo e a reprodução de preconceitos

O debate sobre o chamado racismo algorítmico ganhou força após casos concretos. Um dos casos mais conhecidos envolveu a empresa Amazon.com, de comércio eletrônico, que precisou abandonar um sistema de recrutamento baseado em inteligência artificial.

A ferramenta analisava currículos, mas acabou favorecendo perfis semelhantes aos já contratados pela empresa, principalmente em certas áreas, penalizando candidatas mulheres. O episódio virou referência no mundo ao mostrar como algoritmos podem replicar informações.

Hoje, sistemas automatizados já influenciam decisões importantes, como concessão de crédito, processos seletivos e sem transparência e supervisão humana, o risco é reforçar desigualdades.

Avanço no direito

No Brasil, a discussão começa a avançar no campo jurídico. O Projeto de Lei 2338/2023, conhecido como Marco Regulatório da Inteligência Artificial, tramita no Congresso Nacional com o objetivo de estabelecer regras para o uso da tecnologia.

Entre os pontos em análise estão a exigência de supervisão humana em decisões automatizadas, avaliação de riscos e mecanismos para evitar discriminação por raça, gênero ou condição social.

Para a professora Luciana, o desafio é equilibrar inovação e proteção de direitos.

“Não se trata de impedir o avanço da inteligência artificial, mas de garantir que essas ferramentas sejam desenvolvidas com responsabilidade social e respeito aos direitos fundamentais”, pontua.

Discriminação algorítmica racial

A pesquisadora também destaca que a discussão passa pela forma como os dados são coletados e utilizados. Em artigo acadêmico publicado em 2023, ela analisa os impactos da chamada discriminação algorítmica racial.

Segundo a especialista, muitos usuários ainda não têm clareza sobre o volume de informações compartilhadas ao utilizar aplicativos e redes sociais.

“Grande parte das pessoas não tem dimensão do volume de dados que passa a integrar bancos globais. A proteção da cidadania digital passa por transparência, educação e regulação”, explica.

Cultura e reconhecimento

Além do debate tecnológico, o 21 de março também reforça a importância da valorização da cultura afro-brasileira. Desde 2023, a data passou a ter esse reconhecimento no país, ampliando o combate ao racismo para além da discriminação direta.

Práticas culturais historicamente invisibilizadas, como os trançados de cabelo, por exemplo, são lembradas como símbolos de identidade, resistência e comunicação durante o período colonial.

“Valorizar essas expressões também é enfrentar o apagamento histórico. O racismo não aparece apenas de forma explícita, mas também quando histórias e identidades são silenciadas”, conclui a pesquisadora.

Posicionamento

A jornalista Raquel Santiago, mulher preta e mãe de três meninas pretas (7,9 e 10 anos), sentiu que havia um senso de urgência e que precisava agir e usar a educação e o diálogo com as filhas para que elas vivam desde cedo sabendo que há discriminação, mas que é possível aprender a se posicionar e por isso o diálogo, em casa,passou a ser a estratégia fundamental na educação das meninas.

“Ser mãe de três meninas pretas é muito intenso e muito bonito também. “Eu já vivi algumas situações de racismo que me marcaram, e muitas vezes não são coisas explícitas. É aquele racismo mais sutil, que aparece nos olhares, nas interrupções, na forma como as pessoas duvidam da sua capacidade. Eu entendi que eu precisava preparar minhas filhas, não pra viver com medo, mas pra não naturalizar esse tipo de situação. Pra reconhecer e se posicionar”, afirma.

Raquel Santiago diz que transforma as experiências pelas quais ela já passou em diálogo, orientação e fortalecimento da identidade, para que as filhas cresçam sabendo que o problema nunca está nelas.

“Consciência de quem elas são, de onde elas vêm e do valor que elas têm. Porque sendo três meninas negras no Brasil, isso não é só uma característica, é também um lugar que a gente ocupa no mundo”, declara.

A jornalista esclarece que o racismo existe, mas procura deixar claro para as filhas que isso não define quem elas são.

“Eu educo minhas filhas muito a partir da consciência. A gente fala sobre racismo, sim. De forma aberta, sem esconder, mas também sem tirar delas a leveza de serem crianças. A gente trabalha muito a autoestima no dia a dia. No cabelo, no corpo, na forma como elas se enxergam. Eu faço questão de trazer referências positivas, de mostrar pessoas parecidas com elas em lugares de destaque”, afirma.

Além de mostrar que o racismo existe, Raquel fala de estratégias de posicionamento com as filhas: “Não adianta só saber que existe racismo, elas precisam saber como reagir. Então eu ensino a se posicionar, a não aceitar desrespeito, mas também a se proteger emocionalmente. E, ao mesmo tempo, eu quero que elas vivam com alegria, com liberdade. Não é só sobre se defender, é sobre ocupar os espaços com segurança, com orgulho de quem elas são”, desabafa.

A relação entre mãe e filhas é sempre de troca. Raquel diz que aprende muito com elas e afirma que a geração atual é questionadora e que há esperança para mudanças nesses cenário.

“E eu também aprendo muito com elas. Essa geração vem mais questionadora, mais aberta, e isso é muito bonito de ver. Ser mãe delas, pra mim, é isso. É um exercício diário de cuidado, de consciência, mas também de esperança. Porque quando eu olho pra elas, eu vejo que é possível mudar muita coisa” declara a jornalista.

No Dia Internacional de Combate à Discriminação Racial, a jornalista Raquel Santigo lamenta que as meninas tenham que conviver tão cedo com um assunto tão denso como o racismo:

“O meu objetivo sempre foi que elas pudessem se preocupar apenas com as coisas de criança. Mas, infelizmente, o racismo é cruel. Então, o repertório delas precisa ser fortalecido com outras questões, porque ainda vivemos em uma sociedade preconceituosa. E é isso que eu e o meu marido fazemos diariamente: ensinamos, orientamos e preparamos”, disse.

Números do IBGE

Segundo o Censo 2022 do IBGE, a maioria da população brasileira se autodeclara parda ou preta, um total de mais de 112 milhões de pessoas. Os pardos representam 45,3%, ou seja, são 92,1 milhões. Os que se declaram pretos são 20,6 milhões (10,2%), tornando os pardos o maior grupo racial do país.