O documentário Coded Bias já está disponível na Netflix. Assisti e garanto: vale muito a pena!
O documentário fala sobre práticas discriminatórias e de vigilância em massa com o uso de algoritmos para criar ferramentas de reconhecimento facial. É apenas o ponto de partida para um problema muito mais complexo, mas que é importante que estejamos todos conscientes de que existe.
Veja 5 motivos para assistir ao documentário Coded Bias:
Joy Buolamwini: o maior motivo para assistir Coded Bias
A grande estrela do documentário é a pesquisadora e candidata a PhD no MIT Media Lab. Sua luta começou quando, em uma das disciplinas que cursava, decidiu criar um tipo de “espelho de inspiração”. Com o uso de reconhecimento facial, você poderia colocar imagens sobre o seu próprio rosto. Durante o desenvolvimento do trabalho, ela notou que rostos de pessoas negras, em especial de mulheres como ela, não eram reconhecidos pelos softwares… Mas quando ela colocava uma máscara branca, o rosto era reconhecido imediatamente.
É a partir daí que Joy começa a se aprofundar nos vieses e preconceitos embutidos em algoritmos, que geralmente são criados por homens brancos e ricos.
Cathy O’Neil e muitas grandes mulheres
O’Neil é a escritora do livro Weapons of Math Destruction, grande referência sobre como algortimos podem reproduzir vieses e preconceitos humanos.
Além dela, outras ativistas e pesquisadoras também dão seus depoimentos, como Silkie Carlo, diretora do Big Brother Watch; Virginia Eubanks, autora de Automating Inequality; Safiya Umoja Noble, autora e especialista em discriminação algorítmica e viés de tecnologia e a jornalista de dados Meredith Broussard. A presença delas com certeza é motivo para assistir Coded Bias.
Exemplos da vida real são constantes
Um dos grandes motivos para assistir ao documentário Coded Bias é a série de exemplos que impactaram diretamente a vida dos cidadãos, e como as pessoas com menos poder sempre são as primeiras a terem que conviver com as injustiças que os algoritmos podem trazer.
Um dos exemplos foi o uso de um sistema de pontuação para identificar professores menos produtivos. Foram demitidos 205 docentes, alguns inclusive que eram queridos pelos alunos e haviam vários prêmios de excelência. Como a máquina define o que é um “professor eficiente”? Como discutir essa pontuação se não sabemos como ela é calculada?
Outro caso se passa no Brooklyn, onde inquilinos seriam forçados a utilizar sistemas de reconhecimento facial para acessar o condomínio. Aqui, o documentário chama a atenção que os mais pobres são forçados a experimentar a tecnologia primeiro, que depois, se funcionarem, seguem para quem tem mais poder utilizar.
Temos também a situação na China, onde é destacada a possibilidade de um “crédito social”, o qual usaria o reconhecimento facial e suas atividades para definir o seu crédito e influenciar o de pessoas próximas. Esse crédito daria acesso a transportes e facilidade para outros serviços, além indicar o nível de “confiança” de cada pessoa. A ideia é que o cidadão vai buscar mostrar o melhor comportamento social, pois o seu próprio rosto representa o seu crédito.
Uma reflexão importante sobre a questão da China, é que a população parece ser a favor deste tipo de crédito, uma vez que ajuda a selecionar as pessoas com quem se irá conviver. Além disso, o público sabe que está tendo sendo avaliado e pode ter serviços influenciados por esse score, o que muitas vezes já acontece na internet sem que saibamos.
O trabalho do Big Brother Watch UK está presente no documentário Coded Bias
Conhecemos a atuação de entidades como o Big Brother Watch UK, um grupo ativista que está monitorando o uso experimental da tecnologia de reconhecimento facial pela polícia do Reino Unido.
No documentário, vemos a ação do grupo quando um garoto negro é intimidado por policiais após ter sido apontado por um sistema de reconhecimento facial em Londres.
Liga da Justiça Algorítmica
Mais um motivo para assistir ao documentário Coded Bias é acompanhar Joy até o dia em que vai testemunhar perante o Congresso para pressionar pela primeira legislação sobre reconhecimento facial nos Estados Unidos.
SPOILER ALERT: ela arrasa!
Joy também dá início à Liga da Justiça Algorítmica, que busca lutar pela transparência e responsabilidade na tecnologia.
