Character.AI proíbe menores de 18 anos após processo que apontou suicídio infantil ligado ao chatbot

A startup de chatbots de inteligência artificial (IA) Character.AI anunciou que a partir de final de novembro de 2025 vai impedir o acesso de usuários com menos de 18 anos à sua plataforma principal de “companions” virtuais — uma medida que marca uma resposta importante a críticas, processos judiciais e à crescente atenção regulatória sobre os impactos de IAs conversacionais em saúde mental.

O que está por trás da mudança

A reformulação tem origem direta em um caso que ganhou atenção internacional: a família de um garoto de 14 anos, Sewell Setzer III, processou a Character.AI após o jovem ter se suicidado e alegar-se que havia criado uma “relação emocional” com um dos personagens virtuais da plataforma.

A startup admite que “tem visto relatórios recentes levantando questionamentos sobre o conteúdo que adolescentes podem encontrar ao conversar com IAs e sobre como o chat aberto pode afetar adolescentes, mesmo quando controles de conteúdo funcionam perfeitamente”.

Além disso, no contexto dos EUA, há iniciativas legislativas em curso — incluindo um projeto de lei federal que buscaria banir menores de usarem companions de IA e obrigar empresas a implementar processos de verificação de idade.

Principais mudanças anunciadas

• A partir de 25 de novembro, a Character.AI implantará uma “funcionalidade de garantia de idade” (‘age assurance functionality’) para assegurar “que os usuários recebam a experiência adequada à sua faixa etária”.
• A plataforma para menores de 18 anos será completamente removida do modelo de chat aberto com personagens virtuais — ou seja, jovens não poderão mais interagir livremente nesses ambientes de IA que simulam companheiros ou amigos virtuais.
• A empresa classificou a mudança como algo que “não fazemos de ânimo leve”, mas que julgam ser “o passo certo” dada a série de questões levantadas sobre o modo como adolescentes devem ou podem interagir com essa nova tecnologia.

Por que este movimento importa no contexto de IA

Este caso ilustra de modo contundente o dilema que as empresas de IA conversacional enfrentam hoje: como equilibrar inovação e risco. Plataformas que simulam conversas abertas com personagens virtuais estão cada vez mais sob olhar crítico — especialmente no que toca a efeitos em usuários vulneráveis, como adolescentes com problemas de saúde mental.

De fato, segundo reportagem citada, a também renomada OpenAI já informa que mais de um milhão de pessoas por semana demonstram intenção suicida durante conversas com o seu modelo ChatGPT, e “centenas de milhares” mostram sinais de psicose.

Em um cenário em que a adoção de IAs está massiva — “mais de 70 % das crianças americanas estão usando esses produtos de IA”, segundo um dos legisladores citados.

Reflexão para o ecossistema de IA

Para o setor de IA, a decisão da Character.AI aponta duas mensagens chave:

1. Verificação de idade e moderação de conteúdo não são opcionais. À medida que IAs conversacionais se tornam mais sofisticadas e socialmente integradas, deixar usuários vulneráveis, como menores, acessarem livremente essas plataformas pode gerar consequências graves — éticas, legais e de reputação.
2. O design de interação importa tanto quanto o algoritmo. Se usuários formam vínculos emocionais com chatbots, a empresa precisa antecipar e mitigar os riscos associados — desde dependência emocional até automutilação ou suicídio. A “companionship IA” revela-se como um espaço de alto risco se não for adequadamente regulado e moderado.

A proibição da Character.AI ao público menor de 18 anos representa uma virada relevante no modo como plataformas de IA conversacional vão operar nos próximos anos. No blog de IA, esse episódio serve como alerta: estamos entrando numa era em que responsabilidade social, verificações etárias e salvaguardas psicológicas passam a ser requisitos básicos — não meros opcionais — em serviços de inteligência artificial que simulam relações humanas.

Leia também: