Desenvolvido pelo Grupo de Ética em Biometria e Forense, órgão público que visa aconselhar o Governo do Reino Unido em questões éticas de material biométrico e forense, 9 princípios são listados para avaliar o uso de Reconhecimento Facial.
O princípios trazem questionamentos que devem ser respondido à população em geral, de modo a trazer transparência e esclarecer o motivo do uso e como a ferramenta de reconhecimento facial será ser utilizada.
Como avaliar o uso de Reconhecimento Facial
1. Interesse público
De acordo com o Grupo, o uso de tecnologia de reconhecimento facial é permitido apenas quando for empregada no interesse público.
Em alguns casos, isso pode ser simples, por exemplo, há um interesse público em ser capaz de identificar pessoas envolvidas em atividades criminosas.
Questões de inteligência e coleta de informações podem ser mais complicadas de serem explicadas e justificadas, mas importantes ao avaliar o uso de reconhecimento facial.
Pergunta a ser respondida:
Para que o reconhecimento facial está sendo implementado?
2. Eficácia
Para avaliar o uso de reconhecimento facial, deve-se pensar na eficácia para identificar pessoas.
Perguntas a serem respondidas:
Qual a precisão da tecnologia? (Como são calculadas as taxas de falso positivo / negativo?)
A tecnologia foi validada usando conjuntos de dados que representem a realidade onde será aplicada?
Quais são os critérios para uma implementação bem-sucedida? (Correspondências verdadeiras positivas / nenhum falso positivo partidas, aumento de prisões, menos atividade criminosa / menos prisões?)
Qual é a qualidade das imagens capturadas?
Como o sistema é configurado? (Importância da posição da câmera e da rede sobre a qual os dados são transmitidos.)
Qual é a compensação entre velocidade e precisão?
Com que rapidez os policiais podem responder a um resultado positivo? (Local onde o sistema está implementado)
Que informações os oficiais de campo recebem sobre o resultado? (A informação é detalhada o suficiente para informar uma identificação e intervenção precisa?)
Que treinamento os operadores humanos têm?
O comportamento do operador humano é avaliado/monitorado quanto à deferência/aversão algorítmica?
Como o erro humano do operador é medido?
3. Avaliar o uso de reconhecimento facial para evitar preconceitos e injustiças algorítmicas
Para que o uso da tecnologia seja legítimo, esta não deve envolver ou propagar preconceitos ou vieses.
Isso pode ser injusto de duas maneiras. Primeiro, alguns tipos de reconhecimento incorreto são inerentemente degradantes e insultuosos.
Em segundo lugar, a tecnologia com esses preconceitos podem resultar em tratamento desigual e discriminatório de alguns indivíduos (por exemplo, membros de alguns grupos podem ter muito mais probabilidade de serem detidos e/ou obrigados a identificar).
Para avaliar o uso de reconhecimento facial, sistemas automatizados de reconhecimento biométrico (incluindo conjuntos de treinamento de dados) que serão usados em locais públicos devem ser abertos para avaliação e supervisão eficaz.
Perguntas a serem respondidas:
O viés algorítmico foi levado em consideração?
Como o viés algorítmico é medido?
Qual é a natureza dos dados nos conjuntos de dados de treinamento?
4. Imparcialidade e implantação
Se a tecnologia for implantada para fins de policiamento, ela deve ser usada de uma forma imparcial.
Por exemplo, não deve ser usada desproporcionalmente apenas para certos eventos ou locais sem uma justificativa convincente.
Perguntas a serem respondidas:
Como os locais de implantação são decididos?
Quem decide onde o sistema é implantado?
Foi realizada uma avaliação de impacto na comunidade?
5. Necessidade
Os indivíduos normalmente têm o direito de conduzir suas vidas sem serem monitorados e examinados. Para avaliar o uso de reconhecimento facial, deve-se lembrar que:
(a) Dado que o uso da tecnologia interfere nesses direitos, tal tecnologia pode ser usado somente se outras técnicas menos invasivas não estiverem disponíveis.
(b) Além disso, a tecnologia deve ser usada de forma a minimizar a interferência com pessoas se envolvendo em comportamento legal.
Perguntas a serem respondidas:
Qual é a base legal, se houver, para o uso desta tecnologia?
A lista de pessoas de interesse inclui imagens de crianças?
6. Proporcionalidade
Além de atender a um requisito de “necessidade”, a tecnologia também deve atender a um requisito de “proporcionalidade”.
Ou seja, deve ser permitida a utilização apenas se os benefícios forem proporcionais a qualquer perda de liberdade e privacidade. Os benefícios devem ser suficientemente grandes para justificar qualquer interferência com outros direitos.
Perguntas a serem respondidas:
Qual é o objetivo da implantação do reconhecimento facial?
O uso de é proporcional?
Quais são os custos (para a liberdade individual) e os benefícios (para a segurança pública) do uso da ferramenta?
A retenção de imagens ou dados capturados é proporcional?
7. Imparcialidade, responsabilidade, supervisão e construção de listas de observação
Outras questões para se avaliar o uso de reconhecimento facial são:
(a) Se humanos (ou algoritmos) estiverem envolvidos na construção de listas de pessoas de interesse para uso de reconhecimento facial, é essencial que sejam imparciais e livres de preconceitos.
(b) A construção de “listas de pessoas de interesse” deve estar sujeita à supervisão de um organismo independente.
Perguntas a serem respondidas:
Quem compilou a lista de pessoas de interesse?
Qual é o tamanho da lista de pessoas de interesse?
Por que essa lista de pessoas de interesse?
De onde são obtidas as imagens da lista de pessoas de interesse?
Quão precisas são as imagens inscritas na lista de pessoas de interesse?
Quais diretrizes foram usadas para a compilação da lista de pessoas de interesse
Quem supervisiona a compilação da lista de observação?
Há alguma imagem ou dado capturado que é armazenado?
Por quanto tempo as imagens ou dados capturados são retidos após a implantação?
Onde as imagens capturadas e os dados são armazenados após a implantação?
Quem tem acesso às imagens ou dados capturados?
Se as imagens e dados capturados são compartilhados com outras organizações, quem são eles são compartilhados com e por quê?
Quem supervisiona essas implantações?
Como o uso da tecnologia será avaliado?
8. Avaliar o uso de reconhecimento facial baseado na confiança pública
Se a tecnologia for usada para fins de policiamento, é importante que aqueles que usam (seja em implantações operacionais ou testes) se envolverem em consultas pública e comunicação para fornecer a justificativa do uso.
Perguntas a serem respondidas:
O reconhecimento facial é implantado em um contexto de teste ou operacional?
Com que extensão a implantação é anunciada na comunidade?
Quão ciente está o público em geral sobre esta implantação?
Há transparência adequada sobre esta implantação?
O público em geral pode encontrar facilmente informações sobre a implantação?
Se um conselho de supervisão foi estabelecido, há representação pública neste conselho?
9. Custo-efetividade
Para avaliar o uso de reconhecimento facial deve-se levar em consideração se os recursos necessários poderiam ser melhor empregados em outras áreas ou com outras técnicas.
Perguntas a serem respondidas:
Qual o “custo-efetividade” do uso do reconhecimento facial?
