OpenAI se prepara para riscos de armas biológicas; saiba como

A OpenAI publicou uma nova postagem em seu blog detalhando as medidas de segurança que estão sendo tomadas em preparação para os perigosos níveis de criação de armas biológicas que a empresa espera que sua próxima geração de modelos possa atingir.

Detalhes da publicação da OpenAI

• A OpenAI prevê que os sucessores de seu modelo de raciocínio “o3” acionarão o status de “alto risco” sob sua estrutura de prontidão para ameaças biológicas.
• As medidas de mitigação incluem treinar modelos para recusar solicitações prejudiciais, implementar sistemas sempre ativos para detectar atividades suspeitas e realizar “red-teaming” avançado (simulações de ataques para identificar vulnerabilidades).
• A empresa também está planejando uma cúpula de biossegurança em julho com pesquisadores governamentais e ONGs para discutir riscos, contramedidas e pesquisas.
• Essa iniciativa segue medidas de segurança semelhantes da Anthropic, que recentemente ativou protocolos mais rigorosos para o lançamento de sua família Claude 4.

Por que isso importa

As mesmas capacidades que podem levar a avanços científicos também permitirão coisas extremamente perigosas nas mãos erradas — e este próximo salto nos modelos levará os riscos a um novo e sério patamar. Embora as salvaguardas adicionais e as ações proativas sejam positivas, estamos prestes a entrar rapidamente em um território muito desconhecido.

Leia também: