O uso de uma ferramenta de reconhecimento facial no Canadá pela empresa Clearview AI, Inc. foi tema de uma investigação em Alberta, British Columbia e Quebec. As entidades responsáveis afirmam que a empresa violou leis de privacidade federais e provinciais.
A investigação conjunta do Office of Privacy Commissioner do Canadá, da Commission d’accès à l’information du Québec, do Office of Information and Privacy Commissioner da British Columbia e do Office of Information and Privacy Commissioner de Alberta concluiu que a captura de bilhões de imagens de pessoas na Internet e o tratamento de dados realizado pela empresa de tecnologia Clearview AI representou “vigilância em massa” e foi uma clara violação dos direitos de privacidade dos canadenses.
A tecnologia da Clearview AI permitiu que organizações, para fins de investigação e aplicação da lei, comparassem um banco de dados com fotos e informações de pessoas. O banco de dados continha mais de 3 bilhões de imagens, incluindo canadenses e crianças.
A investigação mostrou que Clearview havia coletado informações biométricas altamente sensíveis sem o conhecimento ou consentimento dos indivíduos. Além disso, a empresa coletou, usou e divulgou informações pessoais dos canadenses para fins inadequados, que não podem ser nem tomados como apropriados por via de consentimento.
Para os comissários, isso cria o risco de danos significativos a indivíduos, a grande maioria dos quais nunca estiveram e nunca serão implicados em um crime.
O que a Clearview alega
- As leis de privacidade canadenses não se aplicam às suas atividades porque a empresa não tem uma “conexão real e substancial” com o Canadá;
- O consentimento não foi exigido porque as informações estavam disponíveis publicamente;
- Indivíduos que colocaram ou permitiram que suas imagens fossem colocadas em sites que foram copiados não tinham preocupações substanciais de privacidade que justificassem uma violação da liberdade de expressão da empresa;
- Dado o benefício potencial significativo dos serviços da Clearview para a aplicação da lei e segurança nacional e o fato de que danos significativos são improváveis de ocorrer para os indivíduos, o equilíbrio entre os direitos de privacidade e as necessidades de negócios da Clearview favoreceu os propósitos inteiramente apropriados da empresa; e
- A Clearview não pode ser responsabilizada por oferecer serviços às autoridades policiais ou a qualquer outra entidade que posteriormente cometa um erro em sua avaliação da pessoa investigada.
A Clearview também alegou que seus serviços eram apropriados “[devido ao benefício potencial significativo dos serviços da Clearview para aplicação da lei e segurança nacional”.
O que o governo fala sobre reconhecimento facial no Canadá
Os relatores rejeitaram os argumentos anteriores, sustentando que “embora algumas das informações coletadas possam ter sido usadas para aplicação da lei, o propósito real da Clearview para a coleta é uma empresa comercial com fins lucrativos e não a aplicação da lei.”
Ainda, afirmam que “a Clearview falha em reconhecer: (i) a miríade de casos em que correspondências falsas ou mal aplicadas podem resultar em danos à reputação de indivíduos, e (ii) mais fundamentalmente, a afronta aos direitos de privacidade dos indivíduos e danos baseados infligidos a todos os membros da sociedade, que se encontram sob vigilância em massa contínua por Clearview com base em sua raspagem indiscriminada e processamento de suas imagens faciais.”
Os comissários ficaram ainda mais preocupados com o fato de a organização não reconhecer que a coleta em massa de informações biométricas de bilhões de pessoas, sem consentimento expresso para reconhecimento facial no Canadá, violava a expectativa razoável de privacidade dos indivíduos e entenderam que a empresa era da opinião de que seus interesses comerciais superavam os direitos de privacidade.
O também relatório sustenta que as imagens carregadas nas redes sociais não são “publicações” da mesma forma que as imagens de uma revista e, portanto, não estão sujeitas às mesmas isenções para o requisito de consentimento. Além disso, o relatório observou que tais imagens não são necessariamente enviadas com o consentimento de todos os indivíduos fotografados, e não seriam enviadas com a expectativa de que tais imagens seriam usadas para vigilância em massa e reconhecimento facial no Canadá.
Sobre a diferenciação de sites de mídia social de outras “publicações”, o relatório observou que sites de mídia social são dinâmicos, com informações sendo adicionadas, alteradas e excluídas em tempo real e os indivíduos exercem um nível de controle direto sobre a acessibilidade do conteúdo ao longo do tempo.
Além disso, redes sociais, de acordo com as leis de privacidade, não são fontes “publicamente disponíveis”.
Sobre a aplicabilidade das leis canadenses, a comissão defende que a Clearview coletou imagens de canadenses e comercializou ativamente seus serviços para agências de aplicação da lei no Canadá.
A investigação também observou os riscos potenciais para os indivíduos cujas imagens foram capturadas e incluídas no banco de dados biométrico da Clearview. Esses danos potenciais incluem o risco de identificação incorreta e exposição a possíveis violações de dados.
Recomendação sobre o uso de reconhecimento facial no Canadá
As autoridades de privacidade recomendaram que a Clearview pare de oferecer seus serviços de reconhecimento facial para clientes canadenses; pare de coletar imagens de pessoas para reconhecimento facial Canadá; e exclua todas as imagens coletadas anteriormente e arranjos faciais biométricos de indivíduos no Canadá.
Logo após o início da investigação, a Clearview concordou em interromper a prestação de seus serviços de reconhecimento facial no Canadá.
No entanto, Clearview discordou das conclusões da investigação e não demonstrou vontade de seguir as outras recomendações.
Caso a Clearview mantenha sua recusa, as quatro autoridades buscarão outras ações disponíveis de acordo com seus respectivos âmbitos para que a Clearview entre em conformidade com as leis canadenses.
O escritório do comissário federal, junto com seus homólogos provinciais, está atualmente desenvolvendo orientações para as agências de aplicação da lei sobre o uso de tecnologias de reconhecimento facial.
Como a ferramenta funciona
A ferramenta de reconhecimento facial do Clearview funciona em quatro etapas sequenciais:
- Cria um banco de dados com imagens de rostos e dados associados de fontes online (incluindo sites de rede social);
- Cria identificadores biométricos para cada imagem;
- Permite que os usuários carreguem uma “imagem alvo”;
- Fornece uma lista de imagens e metadados de imagens que o software da Clearview determina serem semelhantes a “imagem alvo”.
Questões adicionais sobre reconhecimento facial no Canadá
O relatório levantou algumas preocupações adicionais que os comissários consideraram relevantes, mas sobre as quais eles não opinaram especificamente:
- Existem preocupações quanto à eficácia e precisão das tecnologias de reconhecimento facial no Canadá, incluindo Clearview e outras.
- De acordo com o relatório, as tecnologias de reconhecimento facial identificam incorretamente rostos de pessoas negras, especialmente de mulheres, por um fator de 10 a 100 vezes, o que pode resultar em tratamento discriminatório.
- Correspondências falsas positivas podem representar grande risco de danos aos indivíduos, especialmente em um contexto de aplicação da lei.
Outros objetivos do relatório
Parte do motivo para publicar suas descobertas foi “garantir que outras organizações se beneficiem de nossas conclusões, já que contemplam iniciativas que podem compartilhar certas semelhanças com as práticas da Clearview”.
Em outras palavras, o relatório se identifica como um aviso para que empresas se atentem a sensibilidade inerente dos dados de reconhecimento facial no Canadá, na exigência de consentimento expresso para coletar, usar ou divulgar essas informações, além do uso incorreto de fontes online.
Referências:
