Falha em IA do Snapchat causa preocupação em usuários

O recurso My AI do Snapchat – que é alimentado pelo ChatGPT – normalmente oferece recomendações, responde a perguntas e conversa com os usuários. Mas postar um story ao vivo (um pequeno vídeo do que parecia ser uma parede) foi uma novidade: é um recurso normalmente reservado apenas para usuários humanos.

Os fãs do aplicativo foram rápidos em compartilhar suas preocupações nas mídias sociais. “Por que My AI tem um vídeo da parede e do teto de sua casa?” escreveu um usuário. “Isso é muito estranho e honestamente perturbador.” Outro usuário escreveu depois que a ferramenta ignorou suas mensagens: “Mesmo um robô não tem tempo para mim”.

Acontece que isso não era o Snapchat trabalhando para tornar sua ferramenta My AI ainda mais realista. A empresa disse à CNN na quarta-feira (16) que foi uma falha. Ainda assim, a forte reação destacou os temores que muitas pessoas têm sobre os riscos potenciais da inteligência artificial.

Desde o lançamento em abril, a ferramenta enfrentou reação não apenas dos pais, mas também de alguns usuários do Snapchat com críticas sobre questões de privacidade, trocas “assustadoras” e incapacidade de remover o recurso de seu feed de bate-papo, a menos que paguem por uma assinatura premium.

Ao contrário de algumas outras ferramentas de IA, a versão do Snapchat tem algumas diferenças importantes: os usuários podem personalizar o nome do chatbot, criar um avatar personalizado e trazê-lo para conversas com amigos.