OpenAI lança controles parentais no ChatGPT para aumentar segurança de adolescentes

A OpenAI anunciou nesta segunda-feira (29) o lançamento de controles parentais no ChatGPT, disponíveis na versão web e em aplicativos móveis. A novidade surge após o caso de um adolescente da Califórnia, nos Estados Unidos, que morreu por suicídio, em processo judicial no qual os pais alegam que o chatbot teria sugerido métodos de automutilação.

Como funcionam os novos controles parentais do ChatGPT

Os novos recursos permitem que pais e adolescentes vinculem suas contas para ativar camadas extras de proteção. O sistema só entra em vigor quando ambas as partes aceitam o convite. Entre as funcionalidades, estão:

• Bloqueio de conteúdos sensíveis;
• Controle sobre se o ChatGPT pode memorizar conversas passadas;
• Opção de permitir ou não que os diálogos sejam usados para treinar os modelos da OpenAI;
• Definição de “horários de silêncio”, que restringem o uso em determinados períodos;
• Possibilidade de desativar o modo de voz e os recursos de geração e edição de imagens.

Apesar das novidades, a empresa reforçou que os pais não terão acesso direto ao histórico de conversas dos filhos.

Alertas de risco e monitoramento da conta

Em casos considerados graves — quando sistemas automáticos ou revisores humanos identificarem indícios de risco à vida — os pais poderão ser notificados, mas apenas com informações essenciais para garantir a segurança do adolescente. Além disso, os responsáveis serão avisados caso o jovem desvincule as contas.

OpenAI aposta em proteção para menores

A OpenAI revelou também que está desenvolvendo um sistema de previsão de idade, capaz de identificar automaticamente se o usuário tem menos de 18 anos e, assim, aplicar as configurações apropriadas para adolescentes. Hoje, o ChatGPT tem cerca de 700 milhões de usuários ativos semanais.

Pressão sobre empresas de IA

A medida vem em meio ao crescente escrutínio de reguladores nos Estados Unidos sobre os riscos de chatbots para menores. Em agosto, uma investigação revelou que a Meta permitia conversas de teor romântico entre sua IA e crianças. No mês passado, a empresa anunciou novos mecanismos de segurança, incluindo filtros para bloquear diálogos sobre suicídio e automutilação, além de restrições temporárias de acesso a personagens virtuais.

Leia também: