A OpenAI, criadora do ChatGPT, anunciou nesta terça-feira (2) um pacote de medidas e novas ferramentas com o objetivo de tornar a experiência de seus usuários mais segura e útil, especialmente em momentos de dificuldade e para o público jovem. As novidades, que incluem um sistema de controle parental, estão programadas para serem implementadas ao longo dos próximos 120 dias, com foco especial para o mês que se aproxima.
PUBLICIDADE
A empresa destaca que o trabalho de aprimorar a forma como os modelos de IA reconhecem e respondem a sinais de sofrimento mental e emocional tem sido uma prioridade constante, guiada por especialistas.
Proteção reforçada para adolescentes
Um dos focos principais das novas iniciativas é a segurança dos adolescentes, considerados os primeiros “nativos digitais de IA”. Reconhecendo que muitos jovens já utilizam a ferramenta, a OpenAI busca dar suporte às famílias e a eles próprios para que possam estabelecer diretrizes de uso saudáveis.
PUBLICIDADE
O ChatGPT receberá funcionalidades de controle parental em até um mês. Através de um convite por e-mail, os pais poderão vincular suas contas às de seus filhos (a partir de 13 anos). Com isso, será possível:
- Aplicar regras de comportamento: Os pais poderão controlar como o ChatGPT responde ao adolescente, com regras de comportamento apropriadas para a idade, que virão ativadas por padrão.
- Gerenciar recursos: Será possível desativar funcionalidades como a memória e o histórico de conversas, garantindo maior privacidade e controle.
- Receber alertas de segurança: O sistema poderá enviar notificações aos pais caso detecte que o adolescente está em um momento de sofrimento agudo, com o objetivo de apoiar a confiança mútua.
Essas funcionalidades se somam a outras já existentes, como lembretes para pausas durante sessões longas de uso.
Modelos de raciocínio para conversas delicadas
Para garantir respostas mais precisas e seguras em conversas sensíveis, a OpenAI está introduzindo um sistema de “roteamento em tempo real”. Esse sistema consegue escolher entre modelos de IA mais eficientes e os chamados modelos de raciocínio (como o GPT-5-thinking), baseando-se no contexto da conversa.
PUBLICIDADE
Em breve, conversas que envolvam sinais de sofrimento agudo serão automaticamente direcionadas para um modelo de raciocínio. Treinados com um método chamado “alinhamento deliberativo”, esses modelos dedicam mais tempo para analisar o contexto antes de responder, o que, segundo testes da empresa, os torna mais eficazes em seguir diretrizes de segurança e mais resistentes a comandos maliciosos.
Parcerias com especialistas em bem-estar e saúde
A evolução da IA da OpenAI está sendo orientada por dois grupos de especialistas: o Conselho de Especialistas em Bem-Estar e IA e a Rede Global de Médicos.
O conselho é composto por especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. Seu papel é definir uma visão clara e baseada em evidências sobre como a IA pode apoiar o bem-estar das pessoas. Já a rede de médicos, que conta com mais de 250 profissionais em 60 países (incluindo psiquiatras, pediatras e clínicos gerais), contribui diretamente para a pesquisa de segurança, informando o treinamento dos modelos de IA e ajudando a engajar os especialistas certos quando necessário.
PUBLICIDADE
A OpenAI reforça que essas medidas são apenas o começo e que o trabalho de aprimoramento é contínuo.
