Com o objetivo de evitar falsas identificações, Guida Calixto protocola PL restringindo o uso de tecnologias de reconhecimento facial pelo Poder Público

Com o objetivo de evitar identificações incorretas e consequente insegurança jurídica e ineficiência no gasto público, a vereadora Guida Calixto (PT) protocolou Projeto de Lei que restringe o uso de tecnologias de reconhecimento facial pelo Poder Público no Município de Campinas. Na prática, a proposta proíbe o Executivo de obter, adquirir, reter, vender, possuir, receber, solicitar, acessar, desenvolver, aprimorar ou utilizar tecnologias de reconhecimento facial ou informações derivadas de uma tecnologia de reconhecimento facial. A única exceção prevista no PL é a tecnologia de reconhecimento facial exclusivamente utilizada para pesquisas científicas realizadas por institutos, centros de pesquisa ou universidades.

“A grande possibilidade de erros na identificação promovida por essa tecnologia, principalmente para a população negra, acaba implicando  na restrição de direitos de muitas pessoas, como aconteceu no Rio de Janeiro, quando uma mulher foi detida de maneira equivocada no segundo dia de uso dessa tecnologia . Os sistemas presentes no mercado possuem uma precisão que varia entre 75,8% e 87,5% quando aplicadas em população racializada, o que tem resultados em diversos erros com consequências graves”, alerta a parlamentar.

Geralmente, partir do tratamento de informações sobre o rosto de uma pessoa, a tecnologia do reconhecimento facial primeiro coleta a imagem do rosto, logo depois, o sistema identifica métricas específicas da pessoa, como a distância entre os olhos, largura do queixo e o comprimento da boca. Por fim, com essas informações (dados biométricos), é calculada uma espécie de assinatura facial. Esta assinatura é comparada com outras já armazenadas em um banco de dados e, quando as assinaturas faciais são compatíveis, em teoria, seria possível identificar um sujeito de forma automatizada.

“Ocorre que no processo de identificação das métricas faciais da pessoa os algoritmos podem cometer erros devido a expressões faciais, rosto mal iluminado, envelhecimento, transições de gênero, entre outros. Além disso, boa parte desses algoritmos são treinados a reconhecer rostos a partir de bancos de dados em que não há pessoas racializadas e nem mesmo mulheres, de forma significativa, resultando em maior dificuldade para algoritmo criar uma assinatura facial acurada para essas populações”, diz.

A vereadora conta que, em estudo que marca o campo, a pesquisadora do MIT Joy Buolamwini e a cientista de dados Timnit Gebru se dedicaram a apontar o viés de gênero e raça em diferentes sistemas de reconhecimento facial no projeto Gender Shade . Em um teste preliminar, avaliou-se que os sistemas da Microsoft, Facebook e IBM, tendo em vista que alguns deles eram vendidos para governos.

“Os resultados mostraram que esses sistemas dão respostas de forma acurada quando os sujeitos são homens brancos, mas a proporção de acertos cai no caso de homens negros e é menor ainda no caso de mulheres negras. Ou seja, mulheres negras ficam mais sujeitas a falsos positivos. Na análise de erro da Microsoft, por exemplo, a pesquisadora demonstra que 93,6% das imagens que tiveram o gênero equivocado eram de rostos negros”, exemplifica.

.Guida acrescenta que na cidade de São Francisco (coração do Vale do Silício nos Estados Unidos) o uso da tecnologia de reconhecimento facial nos espaços públicos foi banido em razão do alto potencial de uso abusivo e de instauração de um estado de vigilância opressiva e massiva. A tendência de banimento, considerando que tecnologias podem criar ou perpetuar opressões já existentes na sociedade e que as tecnologias de reconhecimento facial têm mostrado pouca acurácia na identificação de pessoas negras e mulheres, foi também seguida nas cidades de Portland, Mineápolis, Cambridge, Oakland, Nova Orleans e dezenas de outros municípios norte-americanos.

“E na Europa, entidades do poder público, como a Comissão Europeia, o Conselho da Europa e Autoridades de Proteção de Dados, têm exigido uma aplicação imediata do princípio da precaução e recomendam uma proibição geral de qualquer utilização de tecnologias de reconhecimento facial em espaços acessíveis ao público, em qualquer contexto. Em março de 2021, a Autoridade Europeia de Proteção de Dados emitiu um parecer pedindo o banimento de tecnologias de reconhecimento facial em todo o bloco europeu”, afirma.

Texto e foto: Diretoria de Comunicação Institucional da CMC