Projeto que bane reconhecimento facial expõe problemas da tecnologia

O vereador Reimont (PT-RJ) apresentou em outubro à Câmera Municipal do Rio de Janeiro um projeto de lei para banir o uso de reconhecimento facial. A iniciativa acontece após uma série de casos que acenderam um alerta sobre os potenciais riscos da tecnologia.

O PL nº 824/21 busca proibir o uso do recurso pela Prefeitura do Rio de Janeiro. Levantamento feito pelo Panóptico, projeto de pesquisa do CESeC (Centro de Estudos de Segurança e Cidadania), mostra que ao menos 22 estados brasileiros já utilizam ou pretendem utilizar reconhecimento facial para segurança pública. 

Especialistas ouvidos pelo Metrópoles explicam as problemáticas da tecnologia, que vão do alto custo de aquisição dos equipamentos ao aprofundamento da desigualdade social histórica.

Luã Cruz, pesquisador do programa de Telecomunicações e Direitos Digitais, do Instituto Brasileiro de Defesa do Consumidor (Idec), explica que a Secretaria Nacional do Consumidor (Senacon) atua em ações judiciais apresentadas por clientes de todo o país contra o reconhecimento facial.

“No Brasil, a maior atuação sobre esse tipo de tecnologia têm vindo do Poder Judiciário e de agências governamentais, como a Secretaria Nacional do Consumidor (Senacon)”, diz.

Em São Paulo, a Senacon atuou, por exemplo, na condenação da Hering por utilizar reconhecimento facial sem o conhecimento dos clientes. A ViaQuatro, que tem a concessão da linha amarela do metrô da cidade, foi condenada pelo TJSP por captar imagens dos passageiros enquanto observavam anúncios publicitários.

Para Luã, a tecnologia tem chegado rapidamente às cidades brasileiras sem transparência ou debate público. “As tecnologias de reconhecimento facial são extremamente ineficazes e custam caro”, explica. “À medida que a Europa e os Estados Unidos proíbem essas tecnologias, por entenderem que ela causa mais danos do que traz benefícios aos cidadãos, as empresas que comercializam tecnologias de reconhecimento facial focarão em países populosos, como o Brasil.”

A primeira prisão com uso do recurso foi no Carnaval de Salvador em 2019, diz Pablo Nunes. O coordenador adjunto do CESeC aponta que já foram identificadas cerca de 200 pessoas presas com a ferramenta na capital baiana. Em julho, o governador da Bahia, Rui Costa (PT-BA), anunciou a expansão do uso da tecnologia para mais 70 municípios do estado. “Ao contrário do que a gente tem visto no contexto internacional, o Brasil está em franca aceleração no processo de aquisição desses sistemas”, pontua Pablo.

As ferramentas que usam reconhecimento facial estão dentro do guarda-chuva da inteligência artificial (IA). A IA é o desenvolvimento de sistemas de computador para realizar tarefas que, normalmente, precisariam da inteligência humana, como a aprendizagem e a tomada de decisões. Entre os produtos oferecidos ao consumidor que utilizam a tecnologia estão carros com piloto automático e assistentes virtuais, como Alexa, Cortana, Siri, Google Now e Tina, todos cada vez mais em alta no mercado.

“A inteligência artificial está presente no inconsciente coletivo como algo que irá transformar nossas vidas para melhor, mas em muitos casos é exatamente o contrário”, adverte Luã. O pesquisador cita alguns exemplos: “Prisões injustas, manipulação de debates públicos, exploração de trabalhadores e vícios em dispositivos eletrônicos”.

Condenação de inocentes

Para a construção de um sistema de reconhecimento facial, são usados bancos de dados e imagens. Na maior parte das vezes, compostos por fotos de pessoas brancas, o que faz com que a identificação de indivíduos negros seja menos precisa: “Isso é extremamente problemático em casos de busca por foragidos da Justiça, pois o sistema acaba identificando erroneamente inocentes e, como esse sistema não consegue reconhecer tão bem rostos negros, são essas pessoas as mais afetadas por falsos positivos”, diz Luã Cruz.

Em 2019, o CESeC monitorou 184 prisões feitas com o uso de reconhecimento facial, dentre elas 90% eram de pessoas negras, presas por pequenos delitos. “Tais falhas são muito comuns, mas órgãos governamentais não costumam divulgar dados sobre isso, reforçando o caráter nada transparente que cerca a implementação dessas tecnologias”, questiona Luã.

“Diferentemente do caso do reconhecimento fotográfico e reconhecimento pessoal, o reconhecimento facial com uso de algoritmos cai num lugar de quase ‘não responsabilidade’, tendo em vista que quem reconheceu o suspeito foi o algoritmo, né? E não tem como responsabilizar o algoritmo pelo erro”, explica Pablo.

Para o representante do CESeC, o uso de instrumentos legislativos, como o projeto apresentado na Câmara Municipal do Rio, é fundamental. “Não há como tecnicamente abolir o racismo dentro do sistema de justiça criminal mesmo que haja maior número de tecnologias possíveis envolvidas”, diz.

O coordenador do CESeC defende o banimento da tecnologia. “Tendo em vista que os algoritmos se alimentam de dados e dados são história e a nossa história é baseada no racismo. Então o banimento é fundamental.”

Perseguição política

Em 2019, as imagens de manifestantes em Hong Kong ganharam um ar cyberpunk – a população empunhou lasers e máscaras para barrar os sistemas de reconhecimento facial, além de derrubar torres com câmeras.

Luã cita duas situações recentes em que o uso dessa tecnologia tem perigoso potencial político: o FBI e outras cinco agências federais usaram ferramentas em imagens dos protestos Black Lives Matter, em 2020. O Talibã também teria tido acesso à ferramenta biométrica dos EUA com dados de cidadãos afegãos – possível risco para dissidentes políticos do regime extremista.

Investimento desproporcional

O custo de implementação varia de acordo com os equipamentos comprados e a qualidade das câmeras. “Pode ir de centenas de milhares de reais até dezenas de milhares de reais”, estima Pablo.

Para Luã Cruz, é preciso que a população observe de maneira crítica o investimento público: “A implementação de tecnologias não resolvem problemas históricos do dia pra noite”.