Entenda o que é ‘lavagem de IA’

Em 2016, a Amazon revelou uma estratégia aparentemente impressionante, exibindo o maravilhoso potencial da inteligência artificial. Com o programa Just Walk Out, os visitantes dos supermercados Amazon Fresh não precisariam de caixas.

A IA faria todo o trabalho e a Amazon cobraria automaticamente dos compradores pelo conteúdo de sua cesta. 

Contudo, segundo relatos, houve um pequeno problema: a Amazon não estava usando IA da maneira sugerida. Além disso, empregava trabalhadores indianos com baixos salários para contabilizar manualmente as receitas de cada cliente, visualizando-os remotamente através de câmeras enquanto faziam compras.

Isto era certamente “artificial”, mas dificilmente inteligência artificial – mais como terceirização com recursos extras. 

Este truque reacendeu as conversas sobre a ‘lavagem de IA’, onde as empresas promovem suas credenciais de aprendizado de máquina enquanto o trabalho real é realizado por pessoas reais por “trás da cortina”.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

O que é lavagem de IA?

Simplificando, a lavagem de IA pode ser qualquer coisa, desde exagerar as capacidades dos modelos de aprendizagem profunda de uma organização até simplesmente inventar tudo.

Por sua vez, a Amazon disse que o protesto se deveu a um “equívoco” de que Just Walk Out depende de revisores humanos que observam os compradores ao vivo da Índia.

“O modelo subjacente de aprendizado de máquina é continuamente aprimorado por meio da geração de dados sintéticos e da anotação de dados reais de vídeo”, disse o porta-voz Sarmishta Ramesh, acrescentando que seus associados validam uma “pequena parte das visitas de compras” por meio de vídeo para precisão. 

Lavagem com IA: devo me preocupar?

Os analistas costumam dizer que uma das maiores barreiras à adoção generalizada da inteligência artificial ​​é a falta de confiança. Essa é a razão pela qual tantas empresas, incluindo a Amazon, se comprometeram com a “IA responsável” , com partilha de informações, transparência e relatórios públicos de capacidades ou modelos de IA. 

Esses compromissos não parecem estar funcionando.

No mundo dos negócios, tanto os funcionários como os executivos continuam temerosos da tecnologia, com cerca de metade de cada grupo demonstrando receio, de acordo com um estudo recente da Workday .

As últimas acusações feitas à Amazon mostram o porquê. Para qualquer organização que lidera implementações de IA, é importante ser honesto. Com o tempo, as empresas terão de ser mais transparentes sobre as suas capacidades reais.

Leia também: