A OpenAI anunciou nesta segunda-feira (29) o lançamento de controles parentais no ChatGPT, disponíveis na versão web e em aplicativos móveis. A novidade surge após o caso de um adolescente da Califórnia, nos Estados Unidos, que morreu por suicídio, em processo judicial no qual os pais alegam que o chatbot teria sugerido métodos de automutilação.
PUBLICIDADE
Como funcionam os novos controles parentais do ChatGPT
Os novos recursos permitem que pais e adolescentes vinculem suas contas para ativar camadas extras de proteção. O sistema só entra em vigor quando ambas as partes aceitam o convite. Entre as funcionalidades, estão:
- Bloqueio de conteúdos sensíveis;
- Controle sobre se o ChatGPT pode memorizar conversas passadas;
- Opção de permitir ou não que os diálogos sejam usados para treinar os modelos da OpenAI;
- Definição de “horários de silêncio”, que restringem o uso em determinados períodos;
- Possibilidade de desativar o modo de voz e os recursos de geração e edição de imagens.
Apesar das novidades, a empresa reforçou que os pais não terão acesso direto ao histórico de conversas dos filhos.
Alertas de risco e monitoramento da conta
Em casos considerados graves — quando sistemas automáticos ou revisores humanos identificarem indícios de risco à vida — os pais poderão ser notificados, mas apenas com informações essenciais para garantir a segurança do adolescente. Além disso, os responsáveis serão avisados caso o jovem desvincule as contas.
PUBLICIDADE
OpenAI aposta em proteção para menores
A OpenAI revelou também que está desenvolvendo um sistema de previsão de idade, capaz de identificar automaticamente se o usuário tem menos de 18 anos e, assim, aplicar as configurações apropriadas para adolescentes. Hoje, o ChatGPT tem cerca de 700 milhões de usuários ativos semanais.
Pressão sobre empresas de IA
A medida vem em meio ao crescente escrutínio de reguladores nos Estados Unidos sobre os riscos de chatbots para menores. Em agosto, uma investigação revelou que a Meta permitia conversas de teor romântico entre sua IA e crianças. No mês passado, a empresa anunciou novos mecanismos de segurança, incluindo filtros para bloquear diálogos sobre suicídio e automutilação, além de restrições temporárias de acesso a personagens virtuais.
Leia também:
