Senadores americanos pressionam OpenAI por segurança em IA

Cinco senadores dos Estados Unidos enviaram uma carta ao CEO da OpenAI, Sam Altman, exigindo detalhes sobre os esforços da empresa para garantir a segurança da IA após relatos de testes de segurança apressados para o GPT-4 Omni.

Os detalhes

• Os senadores questionam os protocolos de segurança da OpenAI, citando relatos de que a empresa acelerou os testes de segurança do GPT-4 Omni para cumprir uma data de lançamento em maio.
• A carta solicita que a OpenAI disponibilize seu próximo modelo de base para agências do governo dos EUA para testes, revisão, análise e avaliação de implantação.
• Os legisladores perguntam se a OpenAI se comprometerá a alocar 20% dos recursos computacionais para pesquisa de segurança em IA, uma promessa feita em julho de 2023 ao anunciar a agora extinta equipe “Superalignment“.

Por que isso importa

Com alegações de testes de segurança apressados, potencial retaliação contra denunciantes e o desmantelamento da equipe “Superalignment”, a OpenAI está sob intenso escrutínio. Esta carta também marca um momento crítico para toda a indústria de IA, com potencial para levar a uma supervisão governamental mais rígida e novos padrões do setor.

Leia também: