Ferramentas de reconhecimento facial tem estado em destaque na mídia recentemente. O tema é extremamente delicado pois aborda aspectos como privacidade, uso de imagem, liberdades pessoais e, principalmente, preconceitos e vieses.
Diversos estudos apontam que essa tecnologia tende a reproduzir resultados incorretos para rostos de mulheres e de pessoas negras ou asiáticas. Dentre tantos motivos para isso, os principais elencados são base de dados de treino enviesadas, com majoritariamente imagens de homens brancos, e os próprios desenvolvedores das aplicações – normalmente, homens brancos. A avaliação dos algoritmos, sem separar em grupos como mulheres negras/mulheres brancas/homens negros/homens brancos também dificulta a visualização desses erros.
A pesquisadora Joy Buolamwini sentiu este problema na própria pele. Enquanto realizava um projeto no MIT, ela percebeu que nenhum software de reconhecimento facial detectava o rosto dela. Joy tentou alterar a iluminação, a posição de seu rosto, para onde estava olhando e buscou inúmeras explicações, uma vez que o rosto de seus amigos de pele clara eram identificados. Nada funcionou até que ela resolveu colocar uma máscara branca em seu rosto… e os aplicativos detectaram imediatamente a imagem.
Grandes empresas como a Microsoft, IBM e Google decidiram parar ou pausar as pesquisas em reconhecimento facial, pelo menos até que questões éticas e legislações tenham sido resolvidas.
Reconhecimento Facial no Reino Unido – 2018
Em 2018, a Polícia Metropolitana de Londres começa a chamar atenção pela realização de testes em vias públicas com ferramentas de reconhecimento facial.
Locais de grande movimentação como a Oxford Street e Stratford receberam uma van totalmente verde acoplada com uma câmera e policiais distribuindo panfletos sobre o que estava acontecendo.
A Polícia também colocou algumas placas espalhadas pelo caminho e lançou uma nota pública sobre os testes.
Mesmo assim, a maior parte das pessoas não fazia ideia de quem sua imagem estava sendo escaneada para ser comparada com uma base de dados de pessoas de interesse.
A operação levantou muitas críticas não apenas pelo fato da maior parte da população sequer saber da ocorrência da atividade, mas também pelo fato de que policiais paravam e interrogavam a maior parte das pessoas que tentasse esconder o rosto, mesmo que o comunicado oficial dissesse que não haveria problemas em optar por não participar do teste.
Afinal, eu não tenho o direito de decidir se meu rosto será escaneado e meus dados biométricos usados? Eu não tenho a liberdade de puxar meu casaco para cima ou tapar meu rosto com o capuz?
Junta-se a questão de ameaça a privacidade e liberdades pessoais, o fato de que a taxa de sucesso do software era de aproximadamente 2% e um total de 98% falsos positivos, a falta de consentimento das pessoas nas ruas e falta de um motivo justo para realizar tal operação.
Grupos sociais alertam que a operação não poderia nem ser considerada com teste, uma vez que não havia consentimento das pessoas: a tecnologia estava sendo implementada sem nenhum consenso ou legislação.
Reconhecimento Facial no Reino Unido – 2019
A Metropolitan Police continua a realizar testes com a ferramenta de reconhecimento facial apesar de contínuas críticas.
Em um dos eventos, novamente havia sido declarado que quem recusasse ao escaneamento não seria tratado como suspeito. Testemunhas disseram que muitas pessoas foram paradas por cobrir o rosto e que a abordagem era normalmente agressiva e acusatória.
Um homem, ao reagir ao contato policial, foi multado em 90 libras. Em informe oficial, a Metropolitan Police disse que orientou os agentes a utilizarem o “próprio julgamento” para decidir se abordariam alguma pessoa.
Neste momento, jornais revelam que entre Agosto de 2016 e Julho de 2018, a ação com reconhecimento facial não havia prendido nenhuma pessoa e custado mais de 200.000 libras, em 6 testes. Em dezembro de 2018, entretanto, 2 pessoas foram presas.
Em julho, a Metropolitan Police interrompeu os testes devido a uma decisão judicial. Iniciou-se uma investigação de quebras de leis de dados e privacidade e as bases legais para a realização dos testes foram colocadas em questionamento.
Em agosto, os jornais anunciam que a estação King’s Cross tem utilizado aplicações de reconhecimento facial por toda sua estrutura. O Information Comissioner Office demonstra preocupação com o potencial uso inapropriado dos dados.
Reconhecimento Facial no Reino Unido – 2020
Em janeiro a Metropolitan Police volta a relizar testes com reconhecimento facial nas ruas de Londres. Grupos de direitos humanos e membros do Parlamento continuam com duras críticas.
A polícia continua com a discurso de que a ferramenta é fantástica, mesmo tendo sido divulgados dados de que, dentre os 8 testes realizados entre 2016 e 2018, foram realizadas 8 prisões e que o sistema teve uma taxa de 96% de falsos positivos e apenas 19% dos casos tinham uma acurácia confiável.
De acordo com o Big Brother Watcher, grupo de direitos humanos, o reconhecimento facial automatiza preconceitos – de quem cria a aplicação e dos bancos de dados de treinamento.
Já em fevereiro, foram oficialmente instaladas câmeras de reconhecimento facial em tempo real (LFR) na região de Oxford Circus, uma área movimentada no centro de Londres.
O comissário de biometria do Reino Unido, que supervisiona o uso de LFR, alertou no mês passado que a implantação da tecnologia pela força poderia ser ilegal. Manifestantes estiveram em Oxford Circus com placas para protestar contra a tecnologia, enquanto uma câmera escaneava rostos na área.
Em julho, Reino Unido e Australia lançaram uma investigação conjunta na empresa americana de reconhecimento facial Clearview AI, que utiliza sites de mídia social como Facebook e Twitter em busca de imagens de rostos de pessoas para seu banco de dados, no qual agências de aplicação da lei usam para tentar identificar criminosos. A empresa teve problemas semelhantes no Canadá também.
Google, YouTube, Twitter e Facebook enviaram cartas de cessar-e-desistir para Clearview depois que souberam que estava copiando imagens de suas plataformas. No mês anterior, o Conselho Europeu de Proteção de Dados alertou que a tecnologia Clearview provavelmente seria ilegal na Europa.
Em agosto, em Cardiff (País de Gales, UK), a justiça decidiu que a polícia britânica violou direitos humanos ao utilizar tecnologias de reconhecimento facial de forma ilegal.
Três juízes afirmaram que a Polícia do País de Gales violou o direito à privacidade ao abrigo da Convenção Europeia dos Direitos do Homem, bem como as leis de proteção de dados e deveres para resolver as considerações a respeito de discriminação racial ou sexual.
Os juízes consideraram dois casos em Cardiff, mas a decisão pode ter consequências no Reino Unido inteiro.
Ativistas pediram que o “sinistro” reconhecimento facial fosse banido, mas os líderes da polícia nacional disseram que a decisão não impede que seja utilizado.
A Polícia do Gales do Sul foi uma das duas únicas forças que utilizou o reconhecimento facial automático no Reino Unido. Em Londres, a Metropolitan Police continuou a usar a tecnologia em ações regulares, apesar das preocupações sobre a precisão e legalidade após diversos testes.
Em dezembro, foi divulgada que a rede de supermercados Co-op utilizada ferramentas de reconhecimento facial em 18 lojas há mais de um ano. As franquias instalaram o sistema devido ao aumento de furtos nas lojas. Ativistas ressaltam que a atividade pode ser considerada ilegal.
Reconhecimento Facial no Reino Unido – 2021
No final de janeiro, the Biometrics and Forensics Ethics Group, com apoio do governo do Reino Unido, lançou um relatório sobre questões éticas do Reconhecimento Facial em Tempo Real. A gente vai falar dele no próximo post!
Referências:
https://www.independent.co.uk/voices/editorials/facial-recognition-metropolitan-police-a8687716.html
