Smart Sampa samba em seus erros

Em seu canal de YouTube, a Prefeitura de São Paulo comemora a prisão de um homem em uma UBS. Ele é um foragido da Justiça. Algemado, é colocado na viatura. Mais uma vitória do Smart Sampa, programa de reconhecimento facial e joia dos governos de direita paulistas no combate ao crime. Só no dia seguinte ocorreu a audiência de custódia e ali o juiz percebeu o erro. O mandado de prisão seguia vigente desde 2018 enquanto o homem cumpria condenação em regime aberto. O Smart Sampa falhou.

O caso, foi relatado em uma reportagem do Núcleo Jornalismo, não é uma exceção. Entre novembro de 2024 e  novembro de 2025, 211 pessoas foram equivocadamente levadas por policiais à delegacia e liberadas posteriormente. Desse total, 67% dos casos estavam relacionados à falta de baixa de mandados de prisão e 28% a inconsistências no reconhecimento facial. Os dados são do Smart Sampa e foram obtidos pela reportagem.

Os dados contrastam com a promessa de eficiência, com o monitoramento de 50 mil câmeras espalhadas pela cidade e o uso de IA.Desde o início do programa, em julho de 2024, a Prefeitura contabiliza mais de 3,5 mil prisões de foragidos da Justiça. Parte desses números é exibida em um painel de LED instalado em frente à sede do programa, no centro da capital. Batizado de Prisômetro, o equipamento funciona como uma vitrine dos resultados do Smart Sampa.

Um estudo feito pelo Instituto de Defesa do Direito de Defesa (IDDD) revelou que pessoas negras têm até 4 vezes mais chances de sofrerem uma abordagem policial em comparação com pessoas brancas. Será que o Smart Sampa reproduz a lógica racista do policiamento? O  artigo “Racismo Algorítmico: O Reconhecimento Facial em Desconformidade aos Direitos Fundamentais”, de Ingride Coelho da Costa, Thamiris Lima de Araújo e Rosalia Maria Carvalho Mourão, foi publicado na Revista Ibero-Americana de Humanidades, Ciências e Educação (REASE). O texto parte da ideia de que o racismo, como construção histórica e social, também pode influenciar a criação e o funcionamento das tecnologias.

Um dos exemplos no artigo é uma pesquisa  do MIT Media Lab, Instituto de Tecnologia de Massachusetts, EUA, em que  sistemas de reconhecimento facial chegaram a apresentar taxas de erro de até 34,7% na identificação de mulheres negras, enquanto a margem de erro para homens brancos ficou abaixo de 1%. Sistemas de aprendizado de máquina podem incorporar o chamado human bias, ou viés humano, reproduzindo desigualdades presentes nos dados e nos processos que orientam seu desenvolvimento.. As bases de dados policiais refletem as práticas anteriores do sistema de justiça; o algoritmo não inventa o preconceito. Ele pode automatizá-lo.

“Cidade vigiada, sociedade vigilante” é uma dissertação de mestrado escrita por Vinícius Carvalho Lopacinski e apresentada em 2025 à Faculdade de Arquitetura e Urbanismo e de Design da Universidade de São Paulo (FAU-USP). O trabalho interpreta o Smart Sampa como parte de uma transformação da cidade em uma plataforma tecnológica de vigilância. A tese investiga como as imagens e discursos institucionais sobre segurança pública são mobilizados para produzir, naturalizar e legitimar práticas de controle contínuo.

Ao se deter sobre o Termo de Referência (TR) do edital de contratação, o autor indica que o Smart Sampa não é apenas um sistema de câmeras isoladas, mas sim um projeto de “anexação da cidade inteira”. De acordo com o edital, qualquer empresa privada, de qualquer ramo de atuação, pode se integrar ao ecossistema de dados do programa. É ainda previsto o monitoramento aéreo irrestrito por meio de drones com câmeras, “o que anula barreiras físicas e impossibilita qualquer negociação de privacidade por parte dos sujeitos”.

Como no artigo citado anteriormente, Lopacinski argumenta que a utilização de reconhecimento facial na segurança pública paulistana herda bancos de dados historicamente enviesados. Como consequência, cidadãos negros inocentes podem ser expostos a abordagens policiais violentas, algemados e presos de forma indevida devido a erros de leitura biométrica. Ele defende a necessidade conhecer a distribuição racial e seus resultados.. Também seria preciso cruzar esses dados com a localização das ocorrências.

O trabalho chama atenção também para a falta de transparência dos sistemas, um problema que se relaciona ao conceito de opacidade algorítmica. Estes sistemas são “caixas-pretas”, cujos critérios são difíceis de compreender, auditar ou contestar pelo cidadão comum. Isso “impõe uma relação profundamente assimétrica entre os cidadãos (vigiados) e os operadores (vigilantes), reduzindo drasticamente a capacidade de negociação e defesa do indivíduo”.

Voltemos ao homem preso injustamente e à reportagem do Núcleo Jornalismo.Ele estava em processo seletivo para uma vaga de motorista e as imagens foram assistidas por colegas de trabalho. Vergonha. A prisão afetou seu psicológico e sua vida profissional  Mas o que aconteceu? O homem estava entre 67% dos erros relacionados à falta de baixa de mandados de prisão  A Procuradoria Geral do Estado de São Paulo (PGE) atribui a falha ao Banco Nacional de Mandados de Prisão, mantido pelo CNJ (Conselho Nacional de Justiça), que estava desatualizado. Para a PGE, “os agentes apenas cumpriram suas funções com base no alerta do Smart Sampa, que, por sua vez, utiliza esses dados para o “match” do reconhecimento facial”. Tanta tecnologia para reconhecer rostos  e nenhuma para atualizar a cadeia de informações.

O Tribunal de Justiça de São Paulo reconheceu a culpa do Estado  e determinou uma indenização de R$ 5 mil ao homem preso injustamente. O tribunal avaliou que a exposição pública no youtube foi grave, mas minimizou a privação de liberdade. Enquanto isso, o “Prisômetro” comemora seus números em um painel de LED. Sem jamais apontar seus erros.