Já vimos aqui uma breve linha do tempo sobre a implantação de reconhecimento facial no Reino Unido, com destaque para a Inglaterra. Essa história começou a tomar destaque em 2019, quando a Polícia Metropolitana decidiu implementar essa ferramenta nas ruas de Londres.
Em Londres, desde fevereiro de 2020, uma das regiões mais movimentadas da cidade, tanto por moradores quanto por turistas, já tem instalado sistemas de reconhecimento facial em tempo real.
Os testes realizados antes da implantação oficial forma alvos de crítica por grupos sociais e membros do Parlamento, devido a questões éticas sobre reconhecimento facial, privacidade e liberdade pessoais.
Em janeiro de 2021, o Grupo de Ética em Biometria e Forense lançou uma análise sobre questões éticas sobre reconhecimento facial em tempo real na colaboração pública-privada. Esse relatório está disponível no site do Governo do Reino Unido.
Na falta de regulamentação, o Grupo delineou questões e recomendações para a implementação de sistemas de reconhecimento facial.
Como a polícia e instituições privadas podem colaborar em questões éticas sobre reconhecimento facial?
- A polícia fornece à iniciativa privada que utiliza reconhecimento facial uma lista de pessoas de interesse (para exemplo, pessoas desaparecidas, pessoas suspeitas de cometer um crime).
- Quando ocorre uma correspondência entre rostos pelo sistema de reconhecimento facial de lista de pessoas de interesse da instituição privada, que pode indicar a necessidade de intervenção policial.
- Uma empresa privada vende software de reconhecimento facial para uma força policial.
O relatório foca nos dois primeiros casos.
Questões éticas sobre reconhecimento facial
Compartilhamento de dados e tecnologias
Bases de dados coletadas para uma finalidade (e por uma organização) são reaproveitados para processamento de uma nova maneira por outra organização, o que tem implicações para legais e pode violar a lei de proteção de dados.
Reconhecimento facial em tempo real e biometria comportamental
As tecnologias de reconhecimento facial em tempo real estão evoluindo rapidamente e se combinando com outras modalidades biométricas. Assim, as questões éticas sobre reconhecimento facial vão além da correspondência biométrica de rosto, pois podem ser usadas como parte de sistemas mais amplos para perfilagem e inferência de comportamento em espaços públicos.
Discriminação e preconceito em colaborações público-privadas
As questões da discriminação racial e viés dentro das tecnologias LFR foram amplamente reconhecidos e tem o potencial de exacerbar a discriminação e o preconceito, especialmente nos casos em que uma autoridade pública não fiscaliza o conjunto de dados de treinamento da entidade privada e o teste de algoritmo.
Além disso, quando a compilação da lista de observação envolve tanto organizações públicas quanto o privadas, uma série de pessoas pode adicionar imagens à lista de observação, e isso potencialmente aumenta o número de pontos onde suposições discriminatórias podem entrar no uso da tecnologia LFR, sendo mais um ponto a ser discutido na ética de reconhecimento facial.
Construção de listas de observação
A construção de listas de observação levanta uma série de questões:
- o tamanho da lista
- quem está incluído
- quem deve ser responsável pela construção da lista.
O Conselho do Chefe da Polícia Nacional e o Colégio de Polícia estão compilando diretrizes sobre o construção e gestão de listas de observação para uso pelas forças policiais, no entanto, quando este relatório foi escrito, não havia diretrizes publicadas no Reino Unido sobre:
- os tipos de pessoas que devem ser incluídas nas listas de observação
- o que conta como o tamanho ideal da lista de observação do ponto de vista ético ou logístico
- quem deve ser responsável pela criação e gerenciamento de listas de observação.
Liberdade de usar espaços privados
Atualmente estão sendo treinados modelos para reconhecer parcialmente faces ocultas. Muitas tecnologias estão sendo atualizadas em resposta ao uso de máscaras durante a pandemia COVID-19.
Desenvolvimentos como este tornam mais difícil para as pessoas exercerem seu direito de “optar por sair” da vigilância. A ética sobre reconhecimento facial deve avaliar que a população pode não se sentir mais livre para se reunir ou entrar em locais onde o reconhecimento facial está em uso.
Questões que devem ser tratadas antes do uso de LFR em colaborações público-privadas.
Demonstrar que a colaboração é necessária
Geralmente não é permitido que a polícia compartilhe informações sobre a população com organizações privadas. Qualquer desvio deste princípio fundamental só pode ser justificado se serve a um importante interesse público que não poderia ser alcançado sem esta colaboração.
Demonstrar que o compartilhamento de dados necessário na colaboração é proporcional
Os benefícios do policiamento devem ser suficientemente grandes para justificar qualquer perda de privacidade envolvida no compartilhamento de informações pela polícia ou por organizações privadas com a polícia. Essa é a condição de proporcionalidade.
Defina os tipos de dados que estão sendo compartilhados na colaboração
Quando avaliamos a ética sobre reconhecimento facial, as imagens devem ser compartilhadas como vetores ou vetores criptografados para que não possam ser interpretadas até que uma correspondência ocorra.
Outras transações biométricas entre colaboradores também podem ocorrer, por exemplo, o compartilhamento de metadados relativos à qualidade da imagem, resultados de correspondência e informações sobre desempenho da câmera.
Além de esclarecer quais tipos de dados são compartilhados, os colaboradores devem confirmar quando os dados são compartilhados e por quanto tempo, ou seja, quando eles serão excluídos do sistema.
Recomendações
1. A polícia só deve compartilhar dados com organizações confiáveis que foram examinadas.
Para manter a ética sobre reconhecimento facial, a polícia só deve compartilhar dados com organizações privadas confiáveis. As organizações que terão acesso aos dados da polícia devem ser avaliadas quanto à sua confiabilidade.
2 Os dados devem ser compartilhados ou acessados por um número mínimo de pessoas.
3 Os dados biométricos (incluindo dados de imagem) devem ser armazenados com segurança e proteção.
Devem ser tomadas providências para o compartilhamento e armazenamento de dados e metadados seja de forma segura e protegida. Dados não deve ser armazenado por mais tempo do que o necessário.
4 As listas de observação devem ser bem direcionadas.
As listas de observação privadas e públicas devem ser direcionadas e proporcionais às implantação para evitar o compartilhamento excessivo de dados pessoais entre privados e públicos organizações e garantir a ética sobre o reconhecimento facial.
5 Deve ser criado um registro acessível ao público dos usos colaborativos da LFR.
Para garantir a transparência, as parcerias público-privadas devem ser registradas publicamente e apresentar documentação para cada implantação contendo: o objetivo da colaboração; a identidade dos colaboradores; e os tipos e a quantidade de dados que estão sendo compartilhados, com quem e por quanto tempo.
6 O uso colaborativo de LFR deve ser autorizado por um policial sênior.
7 Um grupo de ética independente deve supervisionar o uso da ferramenta pelos dois lados
Para manter a confiança do público, mecanismos de supervisão devem ser criados, como um grupo de ética independente deve ser encarregado de supervisionar implantações individuais de tecnologias de reconhecimento biométrico pela polícia e o uso de tecnologias de reconhecimento biométrico nos locais privados.
Este grupo de ética avaliaria quaisquer implantações propostas e monitoraria a operação em intervalos regulares.
