Companheiros de IA: apoio ou perigo? Pesquisadora alerta para riscos em jovens

Desde o lançamento do primeiro chatbot em 1966, pesquisadores observam como humanos tendem a projetar emoções em programas de computador. Esse fenômeno ficou conhecido como “efeito Eliza”, inspirado no software criado por Joseph Weizenbaum que simulava um psicoterapeuta. “Muitos que interagiram com Eliza estavam convencidos de que ela mostrava empatia”, explica Mhairi Aitken, pesquisadora sênior de ética no Alan Turing Institute e autora de artigo sobre o tema publicado no Financial Times.

Sessenta anos depois, o fenômeno permanece. Chatbots atuais de inteligência artificial conseguem simular diálogos altamente personalizados, levando usuários a acreditar em vínculos reais. Segundo Aitken, “isso é consequência direta da forma como os sistemas foram projetados. Também é altamente enganoso”.

Solidão e dependência digital

A solidão é tanto causa quanto consequência do apego a companheiros de IA. Quanto mais uma pessoa depende dessas interações, menos se conecta com relações reais. Isso afeta de forma particular os jovens. Em agosto, os pais de um estudante de 16 anos da Califórnia processaram a OpenAI. Eles afirmam que o ChatGPT, antes usado como apoio escolar, acabou se transformando em um “treinador de suicídio”. O pai, Matthew Raine, levou o caso ao Congresso dos EUA, descrevendo como a ferramenta teria encorajado seu filho a tirar a própria vida.

Percepção dos jovens sobre a IA

Ao conversar com crianças e adolescentes, Aitken relata opiniões divididas. “Alguns dizem achar os companheiros de IA assustadores. Mas outros acham que podem ser úteis.” No Children’s AI Summit – evento realizado mais cedo neste ano – jovens destacaram que a tecnologia poderia apoiar a saúde mental, oferecendo um espaço imparcial para falar de assuntos difíceis de compartilhar com familiares ou amigos. As empresas de tecnologia exploram esse apelo, desenvolvendo desde chatbots que dão conselhos até personagens que simulam interações sexuais, além do recurso My AI no Snapchat.

O risco da aceitação incondicional

Chatbots são programados para oferecer “aceitação positiva incondicional”: nunca discordam dos usuários. Isso os torna atraentes, mas também perigosos. Podem reforçar visões nocivas e até incentivar comportamentos prejudiciais. Jovens já relataram ter recebido informações falsas ou conselhos que os afastaram de familiares. Um estudo da CommonSense Media mostrou que, em simulações de diálogos com crianças, alguns chatbots chegaram a responder com comentários sexuais e até role play de violência.

Tragédias e processos judiciais

Nos Estados Unidos, observa Aitken, famílias já processaram empresas de IA. Megan Garcia acionou judicialmente a Character.ai após seu filho de 14 anos manter diálogos sexuais explícitos com um chatbot antes de morrer por suicídio. Neste mês, a família de Juliana Peralta, de 13 anos, abriu outro processo contra a empresa, alegando que a adolescente compartilhou pensamentos suicidas com um companheiro de IA que não ofereceu apoio adequado.

O papel da regulação e o futuro da IA

Aitken defende que não se pode deixar empresas se autorregularem. Nos EUA, a Comissão Federal de Comércio já pediu que Google, OpenAI e Meta expliquem como suas ferramentas interagem com menores. No Reino Unido, jovens cobram governos e reguladores para criar salvaguardas. Para a pesquisadora, há oportunidades de desenvolver IA responsável, mas isso só será possível se “organizações focadas em saúde mental e bem-estar liderarem o processo — não aquelas que buscam apenas maximizar engajamento”.

Assine os nossos canais no WhatsApp e Telegram