Em Londres, desde fevereiro de 2020, uma das regiões mais movimentadas da cidade, tanto por moradores quanto por turistas, já tem instalado sistemas de reconhecimento facial em tempo real (LFR).
Os testes realizados antes da implantação oficial forma alvos de crítica por grupos sociais e membros do Parlamento, devido a questões éticas no uso de reconhecimento facial, de privacidade e liberdade pessoais.
Ética no uso de Reconhecimento Facial
Em 26 de fevereiro de 2019, o Grupo de Ética em Biometria e Forense lançou uma análise sobre questões éticas do uso pela polícia de tecnologias de reconhecimento facial em tempo real. Esse relatório está disponível no site do Governo do Reino Unido.
O relatório foca em 4 pontos principais:
Dados e treinamento do algoritmo
Tecnologias de reconhecimento facial utilizam algoritmos de aprendizado de máquina que foram treinados em um conjunto de dados de imagens previamente rotuladas.
O sistema só pode “reconhecer” com eficiência rostos dentro dos parâmetros dos dados em que foi treinado e previamente exposto.
Se certo tipos de rostos são sub-representado em conjuntos de dados de treinamento LFR, então esse viés será propagado.
Determinação dos resultados
LFR é uma tecnologia baseada em probabilidade, ou seja, o resultado final de cada análise é uma probabilidade de “correspondência” entre a imagem capturada do ambiente e uma imagem no banco de dados.
Múltiplos fatores afetam a probabilidade de uma correspondência,, como:
- Qualidade das imagens no banco de dados(pixel tamanho, iluminação, plano de fundo e custódia imagens versus redes sociais, etc.);
- Qualidade das imagens capturadas em tempo real
- Desempenho de correspondência do algoritmo
- Tamanho da lista de pessoas procuradas
- Condições do ambiente onde a imagem é capturada (principalmente, mas não limitado a, iluminação e câmera posição)
- Limites que são definidos para determinar um coincidir com qualquer decisão biométrica
- Se uma ‘correspondência’ instiga uma resposta quase em tempo real ou não
- Se a resposta inclui um humano que tem o poder de decidir se aceitará ou não o resultado fornecido pela aplicação.
O papel do operador humano na ética do uso de reconhecimento facial
O software de reconhecimento facial não decide como o resultado será interpretado e quais ações serão tomadas. Esta decisão é responsabilidade do operador, do ser humano.
No caso dos policias, eles deveriam decidir se ignorariam o aviso, realizariam alguma intervenção, verificação de identidade ou até a prisão do indivíduo.
Uma preocupação é que um erro, parcialidade ou (im)precisão no resultado do modelo resulte em uma tomada de decisão tendenciosa por parte dos policias.
Por exemplo, os operadores podem começar a agir sem verificar a medida da precisão do algoritmo para cada correspondência, deixando de avaliar criticamente o resultado da análise e comprometendo a ética no uso de reconhecimento facial.
Ou então, se o sistema gerar muitas correspondências falsas, os operadores podem começar a ignorar os resultados.
Ainda, podem ser definidos limites de precisão para definir se um resultado será positivo ou negativo. Por exemplo, podemos definir que, se o algoritmo tiver 85% de “certeza” que as imagens combinam, teremos um resultado positivo – do contrário, será negativo. Esse valor de 85% pode ser alterado conforme o operador do algoritmo desejar.
Se forem definidos limites muito altos, menos correspondências são geradas. Se os operadores ajustarem os limites para produzir mais correspondências, estas tem maiores chances de serem falsos positivos e resultar em mais abordagens desnecessárias, principalmente em casos de grupos minoritários, como negros, asiáticos e mulheres.
Ética no uso de reconhecimento facial em espaços públicos
Os testes da polícia estão sendo realizados em espaços públicos. Sendo assim, os testes são potenciais ações operacionais da polícia. Da mesma forma, cada implantação oficial do sistema de reconhecimento facial pela polícia é também experimental. Essa ambiguidade traz mais questões sobre a ética no uso de reconhecimento facial:
- O consentimento das pessoas foi obtido nos “testes”?
- Como foram criadas as listas de pessoas de interesse? Foram simuladas ou reais?
- Até que ponto os testes em campo podem afetar a confiança da população no policiamento atual?
Conclusão
O relatória termina com alguns questionamentos:
- A precisão do reconhecimento facial em tempo real
- O potencial para resultados enviesadas e consequentes tomadas de decisão enviesadas por parte do sistema operadores
- Uma ambiguidade sobre a natureza dos testes feitos
- É necessário diferenciar os erros e vieses que são inerentes ao modelo e treinamento da tecnologia daqueles que são introduzido quando um operador humano decide sobre uma ação com base na saída do sistema.
