Air Canada perde processo judicial depois que seu chatbot deu informações erradas para passageiro

O incidente de 2022 envolveu um cliente da Air Canada, Jake Moffatt, e o chatbot de inteligência artificial da companhia aérea – que o passageiro usou para obter informações sobre como se qualificar para uma ‘tarifa de luto’ em uma viagem de última hora para comparecer a um funeral.

Air Canada loses court case after its chatbot hallucinated fake policies to a customer https://t.co/sbphFkdkEh

— Mashable (@mashable) February 18, 2024

O chatbot explicou que Moffat poderia solicitar um reembolso retroativo da diferença entre o custo de uma passagem regular e o custo de uma passagem de luto, desde que estivesse dentro de 90 dias da compra.

Mas essa não é – de forma alguma – a política da companhia aérea. De acordo com o site da Air Canada:

“A política de viagem de luto da Air Canada oferece uma opção para nossos clientes que precisam viajar devido à morte iminente ou morte de um membro da família imediata. Por favor, esteja ciente de que nossa política de luto não permite reembolsos para viagens que já ocorreram.”

Quando a Air Canada se recusou a emitir o reembolso devido ao erro de informação, Moffat levou o caso ao tribunal.

O argumento da Air Canada contra o reembolso incluía a alegação de que eles não eram responsáveis pelas “palavras enganosas” de seu chatbot. A Air Canada também argumentou que o chatbot era uma “entidade legal separada” que deveria ser responsabilizada por suas próprias ações, alegando que a companhia aérea também não é responsável pelas informações fornecidas por “agentes, servos ou representantes — incluindo um chatbot.”

Chatbot é suspenso depois de criticar a própria empresa de entregas, clientes e outros bots: é “lenta” e “inútil”

Uma empresa de entregas europeia teve que desativar o seu chatbot de inteligência artificial (IA) depois que ele começou a xingar um cliente e admitiu que ela era a “pior empresa de entregas do mundo”.

“Embora um chatbot tenha um componente interativo, ele ainda é apenas uma parte do site da Air Canada,” respondeu um membro do tribunal canadense. “Deve ser óbvio para a Air Canada que ela é responsável por todas as informações em seu site. Não faz diferença se as informações vêm de uma página estática ou de um chatbot.”

No primeiro caso do tipo, a decisão em um tribunal canadense pode ter implicações futuras para outras empresas que adicionam “agentes” alimentados por IA ou aprendizado de máquina às suas ofertas de serviço ao cliente.

Leia também:

SoftBank busca US$ 100 bilhões para novo projeto de chip de IA

Masayoshi Son, do SoftBank, está buscando US$ 100 bilhões para construir um novo projeto de chip de IA que irá competir com a Nvidia. O projeto, codinome Izanagi, colaborará com a Arm, empresa de design de chips que o SoftBank possui 90% de participação.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!