A combinação do uso de máquinas – para tarefas de monitoramento e relatórios – e do ser humano – para tomar a decisão apropriada a partir das análises e padrões da máquina – mostra-se cada vez mais uma maneira eficiente e ágil para a melhor utilização das tecnologias de machine learning e inteligência artificial.
A utilização de máquinas também visa reduzir a burocracia e procedimentos internos incontáveis e demorados dentro das empresas.
Mas… pera aí…
Burocracia é basicamente um apanhado de regras e procedimentos que reduzem a autonomia dos envolvidos, correto? E tudo isso fica acima do controle humano, que deve seguir todas as normas determinadas.
A inteligência artificial também é baseada em regras. Regras inferidas de acordo com a análise de inúmeros dados, mas, ainda assim, regras.
Se tirarmos a visão crítica humana do processo, será que não acabamos criando um novo tipo de burocracia?
Essa é a visão de Sylvain Duranton, líder na BCG GAMMA, onde gerencia mais 800 cientistas de dados para criar e implementar soluções de IA e analytics em grandes empresas.
Duranton diz que a falta do elemento humano no processo de decisão pode levar a um novo tipo de burocracia – “algocracia” – onde quem será o responsável pela tomada de decisões críticas será unicamente a máquina, acima de qualquer controle humano. Imagina o impacto disso numa decisão bancária sobre empréstimos ou na hora de criarmos políticas públicas?
Se por um lado a ideia de reduzir a presença humana e permitir o predomínio da máquina (human zero mindset), a primeira vista parece interessante (menos custos, mais simples, menos funcionários a serem contratados, um time mais enxuto e com resultados mais rápidos), por outro isso pode ser perigoso, acarretando em vieses causados por desertos de dados, interpretações mal feitas no modelo e dificuldade da máquina em entender casos com poucos exemplos ou mudanças bruscas de tendência.
A opção de inteligência combinada “Human + AI” necessita de uma variada gama de especialistas (cientistas de dados, gerentes, especialistas em diversos assuntos…) que devem interagir entre si por meses até alcançar o produto final. Custa caro e toma muito tempo, mas…
Qual você acha que tem resultados melhores no final do processo?
A falta da inteligência combinada
Duranton traz exemplos engraçados e curiosos para mostrar como não devemos deixar tudo na mão das máquinas.
Aqui, um cliente da Amazon faz um pedido à empresa. Ele não aguenta mais receber propaganda de assentos sanitários! Sim, ele comprou um poque precisava mas ele não é nenhum tipo de colecionador, ele só precisava de um! Não importa quantos emails ele receba, ele não vai comprar outro!
E essa mensagem teve resposta de um outro cliente com um problema semelhante… O cliente comprou uma urna após a morte da mãe e recebia diversos email com produtos sugeridos baseados nessa compra durante meses. Aquele tradicional “Se você gostou disso então…”
Mas também pode haver consequências realmente graves…
Um algoritmo que selecione estudantes para entrar na faculdade. A máquina se baseia no histórico de dados dos alunos e define os candidatos que teriam mais probabilidade de passar de ano ou repetir matérias.
Parece óbvio, vamos considerar as notas nas provas de vestibular, ENEM, ou seja qual for o método de entrada na universidade, não é?
Mas e se, por algum acaso, todos os estudantes de um determinado CEP repetem de ano? Provavelmente a inteligência artificial vai criar uma regra que descarte candidatos com esse mesmo CEP…
E nenhum aluno nunca poderá provar que alunos daquele CEP podem passar de ano nessa faculdade.
Não podemos simplesmente cancelar essa regra?
De fato, é um pouco mais complexo que isso. Não é possível checar todas as regras uma vez que inteligências artificiais avançadas estão sempre aprendendo e renovando suas regras.
É aí que entra a tal algocracia!
De quem é a responsabilidade desse resultado?
É justo com o estudante? Sim, afinal, as mesmas regras foram utilizadas para todos os candidatos.
Podemos reconsiderar para esse aluno que tem um histórico brilhante? Não, algoritmos não voltam atrás na sua decisão.
E então?
Seguimos com a algocracia ou vamos em direção à inteligência combinada “Human + AI”?
A fóruma secreta de inteligência combinada de Duranton é a seguinte, anota aí:
- 10% do esforço para o código dos algoritmos
- 20% para construer a tecnologia ao redor dos algoritmos (coleção de dados, UI, integração com outros sistemas…)
- 70% para unir a IA com pessoas e processos de forma a maximizar a eficiência dos resultados
4 vezes em que a inteligência artificial precisou de uma ajudinha
70%? Tudo isso?
A interação com o ser humano é extremamente necessária.
As consequências podem variar desde gastar milhões de dólares em tecnologias pouco eficientes até tragédias de verdade, como as mais de 300 mortes no acidente de duas aeronaves B-737 porque os pilotos não conseguiram interagir de maneira apropriada com o sistema de comando computadorizado.
A contribuição que pode vir da colaboração entre cientistas de dados e especialistas na área em questão é crucial para o desenvolvimento de algoritmos de excelência e que serão bem utilizados pelos usuários finais.
Como a inteligência artificial impacta o seu trabalho
Inteligência combinada na vida real
A experiência de Duranton deixa clara a importância dos 70%.
- Saúde
A equipe foi chamada para trabalhar com um novo remédio que tinha um pequeno problema. Ao tomar a primeira dose, alguns pacientes sofriam um ataque cardíaco, portanto, todos os pacientes deviam passar o dia no hospital após a primeira dose para caso algo acontecesse.
A meta da equipe era identificar os pacientes que tinham risco 0 de um ataque e não precisariam passar o dia no hospital.
Após um mês de trabalho, o algoritmo criado pode indicar 62% dos pacientes com risco 0.
Os médicos não ficaram satisfeitos com o resultado… e se houvessem falsos negativos?
Foi aí que começaram os tais 70%. A equipe, em conjunto com um time de médicos, reavaliou toda a lógica de cada variável no modelo.
Uma das variáveis, sobre uma enzima, foi retirada, pois, apesar da forte relação estatística, não havia muito sentido médico. Haveria, então, a possibilidade de uma amostra com bias?
Também foram retirados atributos que os especialistas disseram ser difíceis de ser medidos pelos médicos na vida real.
Quatro meses depois, um novo modelo e um protocolo médico ficaram prontos.
O resultado foi aprovado pelas autoridades médicas americanas, as vendas desse remédio aumentaram e mais da metade dos pacientes puderam retornar a suas casas mais rápido. A inteligência combinada ganhou!
2. Vendas
Nesse exemplo, os 70% foram importantes para criar uma interface criativa que pemitia que a inteligência humana complementasse a da máquina para resolver os problemas.
O desafio era criar um modelo que fizesse previsões de vendas de roupas melhor que os comparadores da compania, que sempre obtiveram excelentes resultados.
Baseado em vendas passadas, após algumas semanas e o modelo estava pronto. O erro na previsão reduziu 25%, o que já seria um resultado interessante.
Porém, a equipe sabia que a capacidade humana de se adaptar e compreender as mudanças nas tendências de moda não seria encontrada apenas na análise de dados históricos.
Então, para o segundo teste, foram implementados os 70%. Os compradores humanos revisaram as quantidades sugeridas pela inteligência e corrigiam se necessário. O resultado? Humanos utilizando IA perdem! 75% das correções humanas reduziram a acurácia.
E se… fosse criado um modelo onde a inteligência pudesse receber também dados dos compradores humanos?
No segundo modelo, a interface dizia algo como “Oi, humano! Eu previ isso aqui, pode corrigir se quiser.” Para esse terceiro modelo, a pergunta era mais elaborada: “Oi, humano! Eu não sei a tendência para a próxima estação. Você pode me ajudar com as suas apostas de venda?” ou “Humano, será que você pode me ajudar a encontrar algum item semelhante a esse no passado?”.
Adivinha o resultado?!
A previsão agora reduz os erros em 50%!
A construção do modelo foi cara e difícil, tendo se arrastado por um ano, mas, em compensação a empresa passou a economizar 100 milhões de dólares por ano. Parece bom para mim.
Ética
O fato é que a fronteira do que é certo ou errado não pode ser definida pela máquina. É dever do ser humano definir isso e, por isso, o uso da inteligência combinada é essencial.
Algumas situações estão em áreas ainda cinzentas.
Por exemplo, se você constroi um modelo para seguradoras que consegue identificar clientes prestes a ir para o hospital, visando realizar uma campanha de marketing para indicar um novo serviço premium… mas o cliente ainda nem faz ideia de que deve precisar ir ao hospital em breve. Qual decisão tomar, continuar com a prática ou parar?
Por causa disso, empresas estão investindo em definir regras e guias para definir os limites entre “personalização” e manipulação; entre discriminação e customização de ofertas; intrusão e “targeting”.
Human + AI
Para Duranton a úniva opção é essa. Não basta apenas investor em tecnologia, temos que trabalhar com nossos recursos humanos e investir em recrutamento e treinamento de especialistas. Apenas dessa maneira os benefícios reais da IA serão obtidos.
Na inteligência combinada, a interferência humana (e com diversidade!) é necessária especialmente quando nos lembramos de levar em consideração conceitos como deserto de dados e vieses inconsciente. As máquinas também incorporam esses vieses e o toque humano pode fazer a diferença na vida de milhares de pessoas.
Nas palavras de Duranton:
Diz-se que os dados são o novo petróleo, mas acredite, o conhecimento humano fará a diferença, porque é a única forma disponível para bombear o óleo oculto nos dados.
