O incidente de 2022 envolveu um cliente da Air Canada, Jake Moffatt, e o chatbot de inteligência artificial da companhia aérea – que o passageiro usou para obter informações sobre como se qualificar para uma ‘tarifa de luto’ em uma viagem de última hora para comparecer a um funeral.
PUBLICIDADE
Air Canada loses court case after its chatbot hallucinated fake policies to a customer https://t.co/sbphFkdkEh
— Mashable (@mashable) February 18, 2024
O chatbot explicou que Moffat poderia solicitar um reembolso retroativo da diferença entre o custo de uma passagem regular e o custo de uma passagem de luto, desde que estivesse dentro de 90 dias da compra.
Mas essa não é – de forma alguma – a política da companhia aérea. De acordo com o site da Air Canada:
“A política de viagem de luto da Air Canada oferece uma opção para nossos clientes que precisam viajar devido à morte iminente ou morte de um membro da família imediata. Por favor, esteja ciente de que nossa política de luto não permite reembolsos para viagens que já ocorreram.”
PUBLICIDADE
Quando a Air Canada se recusou a emitir o reembolso devido ao erro de informação, Moffat levou o caso ao tribunal.
O argumento da Air Canada contra o reembolso incluía a alegação de que eles não eram responsáveis pelas “palavras enganosas” de seu chatbot. A Air Canada também argumentou que o chatbot era uma “entidade legal separada” que deveria ser responsabilizada por suas próprias ações, alegando que a companhia aérea também não é responsável pelas informações fornecidas por “agentes, servos ou representantes — incluindo um chatbot.”
“Embora um chatbot tenha um componente interativo, ele ainda é apenas uma parte do site da Air Canada,” respondeu um membro do tribunal canadense. “Deve ser óbvio para a Air Canada que ela é responsável por todas as informações em seu site. Não faz diferença se as informações vêm de uma página estática ou de um chatbot.”
PUBLICIDADE
No primeiro caso do tipo, a decisão em um tribunal canadense pode ter implicações futuras para outras empresas que adicionam “agentes” alimentados por IA ou aprendizado de máquina às suas ofertas de serviço ao cliente.
Leia também:
