Em dezembro de 2024, a zona leste de São Paulo foi palco de uma cena que resume o paradoxo da modernidade brasileira. Um homem negro de 80 anos, voluntário em uma Unidade Básica de Saúde (UBS), foi detido por engano após ser “identificado” por um sistema de reconhecimento facial. O crime? Nenhum. O verdadeiro suspeito era um homem branco. Após dez horas de detenção injusta, o erro foi admitido, mas a cicatriz da humilhação tecnológica permaneceu. Este não é um caso isolado; é a face visível de um fenômeno que estudiosos chamam de racismo algorítmico.

A Inteligência Artificial (IA), frequentemente vendida como uma ferramenta neutra e objetiva, está se tornando um potente amplificador das desigualdades históricas no Brasil. Sob o capô de códigos complexos e promessas de eficiência, operam “algoritmos invisíveis” que, alimentados por bases de dados viciadas, perpetuam a exclusão da população negra em setores vitais como segurança pública, mercado de trabalho e acesso ao crédito.

O Olhar Enviesado da Segurança Pública

O uso de reconhecimento facial pelas forças de segurança é o ponto mais crítico dessa engrenagem. Dados da Rede de Observatórios da Segurança e estudos recentes, como o publicado em novembro de 2025, apontam que cerca de 80% das prisões errôneas baseadas em reconhecimento facial no Rio de Janeiro envolvem pessoas negras. A falha não é apenas técnica, mas estrutural: os algoritmos são treinados majoritariamente com rostos brancos, o que eleva drasticamente a taxa de erro ao identificar traços fenotípicos negros. Casos de prisões ilegais de pessoas negras devido a essa tecnologia foram amplamente noticiados em maio de 2025.

“A tecnologia incorre em vieses, erros e falhas frequentes contra pessoas negras, as quais são submetidas a abordagens policiais violentas e prisões ilegais”, afirma Caroline Leal, assessora de litígio da Conectas Direitos Humanos.

A Barreira Digital no Mercado de Trabalho

Se na segurança a IA encarcera, no mercado de trabalho ela exclui. O uso de softwares de triagem automática em processos seletivos tem criado uma “barreira de vidro” digital. O Relatório do Observatório Brasileiro das Desigualdades de 2025 destaca que a desigualdade atinge seu ponto mais agudo quando se comparam as taxas de desocupação das mulheres negras (9,6%) com as dos homens não negros (4%). Dados da PNAD Contínua de fevereiro de 2025, referentes ao 4º trimestre de 2024, mostram que a taxa de desocupação para brancos foi de 4,9%, enquanto para pretos e pardos foi de 7,5%.

Quando empresas utilizam IA para filtrar currículos, os algoritmos tendem a replicar o perfil dos funcionários de “sucesso” atuais — majoritariamente brancos e de origens socioeconômicas privilegiadas. O resultado é a eliminação automática de candidatos negros antes mesmo de uma entrevista humana, baseada em critérios como endereço, formação acadêmica em instituições específicas ou até mesmo padrões de linguagem que o código associa a “baixa performance”.

O “Score” da Exclusão Financeira

No setor financeiro, o racismo algorítmico manifesta-se no chamado credit score. Algoritmos de análise de crédito frequentemente penalizam moradores de periferias ou pessoas com perfis de consumo que o sistema associa a riscos, sem considerar o contexto de desigualdade histórica.

Estudos do IBGE de dezembro de 2025 indicam que diretores e gerentes negros ganham, em média, 34% menos que brancos nos mesmos cargos. Essa disparidade de renda, somada a algoritmos que não consideram variáveis de equidade, dificulta o acesso de empreendedores negros a financiamentos, criando um ciclo vicioso de subcapitalização.

Caminhos para a Justiça Digital

O combate ao racismo algorítmico exige mais do que “ajustes técnicos”. É necessária uma regulação robusta e a democratização do desenvolvimento tecnológico. Entre as recomendações urgentes de órgãos de direitos humanos estão:

1. Moratória no Reconhecimento Facial: Suspensão do uso em segurança pública até que a precisão para pessoas negras seja comprovada e regulamentada.
2. Auditoria de Algoritmos: Obrigatoriedade de empresas e governos realizarem testes de impacto racial em seus sistemas de IA.
3. Diversidade na Tecnologia: Ampliação da presença de profissionais negros no desenvolvimento de códigos e na curadoria de bases de dados.

A Inteligência Artificial não é um destino inevitável, mas uma construção humana. Se os dados que a alimentam refletem um passado de escravidão e exclusão, o futuro que ela projeta será apenas uma versão digitalizada do nosso racismo estrutural. É hora de tornar esses algoritmos visíveis para que a justiça, enfim, deixe de ser cega para a cor.