A OpenAI publicou uma nova postagem em seu blog detalhando as medidas de segurança que estão sendo tomadas em preparação para os perigosos níveis de criação de armas biológicas que a empresa espera que sua próxima geração de modelos possa atingir.
PUBLICIDADE
Detalhes da publicação da OpenAI
- A OpenAI prevê que os sucessores de seu modelo de raciocínio “o3” acionarão o status de “alto risco” sob sua estrutura de prontidão para ameaças biológicas.
- As medidas de mitigação incluem treinar modelos para recusar solicitações prejudiciais, implementar sistemas sempre ativos para detectar atividades suspeitas e realizar “red-teaming” avançado (simulações de ataques para identificar vulnerabilidades).
- A empresa também está planejando uma cúpula de biossegurança em julho com pesquisadores governamentais e ONGs para discutir riscos, contramedidas e pesquisas.
- Essa iniciativa segue medidas de segurança semelhantes da Anthropic, que recentemente ativou protocolos mais rigorosos para o lançamento de sua família Claude 4.
Por que isso importa
As mesmas capacidades que podem levar a avanços científicos também permitirão coisas extremamente perigosas nas mãos erradas — e este próximo salto nos modelos levará os riscos a um novo e sério patamar. Embora as salvaguardas adicionais e as ações proativas sejam positivas, estamos prestes a entrar rapidamente em um território muito desconhecido.
Leia também:
