Imagina você sair de casa só para se divertir, depois uma semana de trabalho. Um jogo de futebol – a final de um campeonato. Entre sorrisos, lágrimas e gritos das torcidas; intervalo! De repente um grupo de policial te aborda. O estádio lotado assistindo todo o constrangimento. Não passa pela sua cabeça o motivo, afinal, você cumpre plenamente o seu papel de cidadão. Mais constrangimentos – Meu deus, o que eu fiz?!

Um policial diz: “O senhor está sendo convidado a nos acompanhar com as mãos para trás”.

– “Como assim? Mais constrangimento. Milhares de celulares filmando a cena, para minha vergonha e também minha proteção”. Perguntam o meu nome – um dos cinco policiais fala: “A última chance de você dizer a verdade, pois você foi reconhecido por um sistema de reconhecimento facial que dificilmente erra”.

Já em uma sala lotada, disse o meu nome novamente, dei a carteira, ele viu o RG, perguntou nome, nome da mãe, abri minha CNH digital, disse o meu endereço completo, data de nascimento e CPF. Quando viram no sistema deles e confirmaram que foi engano, pediram desculpas, disseram que era procedimento padrão, que outro torcedor nesse mesmo dia foi pego de forma correta e me liberaram.

Um pedido de desculpas depois da humilhação que passei. Só passou pela minha cabeça os meus amigos me vendo vivenciar aquilo tudo. Um simples pedido de desculpas.

O relato acima poderia ser ficção, um roteiro de cinema, mas foi real. A história do personal trainer João Antônio Trindade Bastos, de 23 anos – jovem negro – em Sergipe. A única coisa ficcional foi o policial ter dito “reconhecido por um sistema de reconhecimento facial que dificilmente erra”.

Lembro que o diretor Jordan Peele, quando perguntado de onde tinha vido a inspiração para fazer o filme “Corra” (Oscar de Melhor Filme em 2018), respondeu: “Uma viatura policial, à noite, é um filme de suspense para qualquer homem negro americano”.

Alguns falarão: Se não deve, não teme.

Você tem noção o quanto é difícil tirar o estigma quando é preso injustamente? Perde-se emprego, fica fichado durante um bom tempo por um crime que não cometeu. Toda a vez que a polícia te abordar, está lá marcado. E não vão acreditar que houve um erro e que a Justiça demora a reparar.

O reconhecimento facial é uma ferramenta que promete revolucionar diversos setores, desde a segurança até a conveniência em nossas interações diárias. No entanto, por trás da promessa de eficiência e praticidade, surge uma questão preocupante: o viés étnico e o racismo embutido nessa tecnologia, especialmente no contexto brasileiro.

Viés étnico nos algoritmos

No Brasil, um país marcado por uma história de desigualdade racial e discriminação, o reconhecimento facial pode perpetuar e até amplificar injustiças sociais já existentes. Estudos e relatos demonstram consistentemente que os algoritmos de reconhecimento facial têm taxas de erro significativamente mais altas ao identificar pessoas de pele mais escura, em comparação com pessoas de pele clara. Essa disparidade cria um ambiente propício para injustiças e discriminação, afetando principalmente a população negra do país.

Uma das principais preocupações é o impacto desproporcional que esses erros podem ter na vida das pessoas. Em muitos casos, um erro de identificação por reconhecimento facial pode levar a consequências graves, como falsas acusações criminais, detenções indevidas ou exclusão de serviços públicos essenciais. Para as comunidades negras, que já enfrentam altos índices de criminalização e violência policial, o risco é ainda maior. Além disso, a falta de transparência nos algoritmos de reconhecimento facial torna difícil identificar e corrigir o viés étnico embutido nessa tecnologia. Muitas vezes, as empresas responsáveis pelos sistemas de reconhecimento facial não divulgam informações detalhadas sobre como os algoritmos são treinados ou quais dados são utilizados, dificultando a prestação de contas e a correção de eventuais injustiças.

Diante desse cenário, é essencial que medidas sejam tomadas para mitigar o viés étnico no reconhecimento facial e garantir que essa tecnologia não perpetue o racismo estrutural presente na sociedade brasileira. Isso inclui a realização de auditorias independentes nos algoritmos de reconhecimento facial, o estabelecimento de regulamentações claras e transparentes sobre o uso dessa tecnologia e o envolvimento das comunidades afetadas nas decisões relacionadas ao seu desenvolvimento e implementação. Além disso, é fundamental investir em políticas públicas que abordem as raízes do racismo e da desigualdade no Brasil, promovendo a inclusão social e econômica da população negra e garantindo que todos os cidadãos sejam tratados com igualdade e justiça perante a lei.

O reconhecimento facial tem o potencial de trazer benefícios significativos para a sociedade, mas é imperativo que esse avanço tecnológico seja acompanhado por uma reflexão crítica sobre seus impactos social e ético. Somente assim poderemos garantir que o futuro seja construído sobre bases de justiça, igualdade e respeito à dignidade humana, independentemente da cor da pele.

O algoritmo erra. Na maioria das vezes com cidadãos negros.

Cerca de 90% das pessoas presas com uso de reconhecimento facial são negras – pesquisa da Rede de Observatórios da Segurança, que analisou as prisões com a utilização da tecnologia em quatro estados brasileiros: Bahia, Rio de Janeiro, Santa Catarina e Paraíba.

Não há final feliz. Como quase todo filme de terror, os personagens negros morrem no início da história.