O texto foi baseado neste artigo.
A inteligência artificial se treinada com dados confiáveis, modelada com os parâmetros corretos e guiada por hipóteses coerentes pode ser a resposta para aumentar a eficiência de processos, reduzir custos e incentivar a inovação.
Mas… O problema com os algoritmos é que eles não têm nenhum tipo de “sensibilidade de comércio” ou tato para tratar situações particulares, e foram muitas vezes em que a inteligência artificial precisou da ajuda humana.
“As máquinas são desprovidas de experiências reais, bom senso e princípios morais. Sem esses atributos críticos, a IA é incapaz de ajustar suas decisões à ambiguidade de nosso mundo real.”
Sem a presença humana na análise final e definição da ação, a IA tomar péssimas decisões. Isso afeta diretamente a reputação de empresas e, consequentemente, seu lucro e seus processos.
Casos em que a inteligência artificial precisou da ajuda humana
Aumento de preços
Hoje em dia é prática comum utilizar algoritmos para regular o preço dos produtos, visando aumentar margens de lucro.
Basicamente, esse algoritmos avaliam o quão sensíveis são as vendas em determinadas localidades para o aumento de preços. Isso significa que, nos locais onde o aumento de preço não afetar a demanda, mais os preços podem vir a subir.
O que aconteceu em algumas dessa companhias foi que as lojas selecionadas para a subida de preços encontravam-se em bairros mais simples. Assim que a notícia do aumento de preços para clientes com menos poder aquisitivo se espalhou, já viu, né?
A mídia foi em cima e acabou com a reputação de tais empresas.
Isso poderia ter sido evitado se o processo de precificação incluísse a supervisão humana. A inteligência artificial precisou da ajuda humana para analisar a coerência das alterações e os impactos socais e publicitários que isso poderia causar.
A inteligência artificial precisou da ajuda humana para evitar estereótipos na moda
A inteligência artificial pode apresentar vieses. Por isso temos que prestar muita atenção e selecionar com cuidados nossos dados de treinamento. Eles podem modificar todo o resultado!
Uma loja de roupas implantou um algoritmo que seria capaz de predizer qual peça o cliente teria mais chance de comprar.
O resultado foi que a inteligência acabava selecionando peças com determinados estilos apenas para determinados grupos étnicos.
A seguradora que previa o futuro
Avaliando os tratamentos de cada cliente, uma seguradora de saúde iniciou um programa que oferecia serviços especiais para clientes com maior probabilidade de serem internados em hospitais.
Quando a seguradora começou a propor esses serviços a clientes selecionados, a equipe percebeu que alguns pacientes ainda não sabiam que, de fato, precisavam de cuidados hospitalares.
O mecanismo de IA colocou a equipe da seguradora na posição incômoda de ter que explicar aos clientes por que estavam sendo oferecidos serviços hospitalares de que não sabiam que precisariam. A inteligência artificial precisou da ajuda humana para ter a sensibilidade de não invadir a privacidade dos pacientes.
Um caso semelhante ocorreu com a rede Target. A empresa identificou 25 produtos que, quando comprados juntos, indicavam que a cliente poderia estar grávida. Um caso curioso foi o de um homem que foi até a Target próxima de sua casa questionar o porquê de enviarem cupons para roupas de bebê para sua filha… Depois de um tempo, houve a confirmação: a moça estava grávida.
Produtos relacionados
Talvez você já tenha visto esses prints do Twitter por aí. Eles mostram como os algoritmos de produtos relacionados com itens comprados também precisam de alguma supervisão…
O primeiro tweet diz algo como:
“Cara Amazon, eu comprei um assento de vaso sanitário porque eu precisava de um. Necessidade, não desejo. Eu não os coleciono. Eu não sou viciada em assentos de vaso. Não importa o quão tentador seja o seu email, eu não vou pensar ‘oh, vamos lá, só mais um assento, eu mereço.'”
Já o segundo:
“Passei pela mesma situação com a urna funerária da minha mãe. Durante meses após a morte dela eu recebi mensagens da Amazon dizendo ‘Se você gostou DISSO…'”
Realmente, acho difícil que alguém faça coleção de algum desses itens ou gostaria de adquirir algo relacionado logo após a compra.
A falta da supervisão pode abalar um pouco a imagem da empresa, afinal, ninguém gosta de receber emails de propaganda de coisas que não tem interesse algum. A inteligência artificial precisou da ajuda humana para ajudar a conservar o bom relacionamento com o cliente é muito importante.
Poderiam ser enviados emails com outros produtos para gerar a conversão, por exemplo. Ou ainda, se a quantidade de emails indesejados for em grande escala, poderia-se reduzir gastos e tempo desses processos com baixa probabilidade de conversão.
