OpenAI dissolve equipe de segurança de IA

A OpenAI dissolveu, na prática, sua equipe de segurança de inteligência artificial (IA), focada em riscos de longo prazo, após a saída dos líderes-chave Ilya Sutskever e Jan Leike na semana passada.

Entenda o que aconteceu

• A equipe de Superalinhamento, criada há menos de um ano para garantir a segurança de futuros sistemas de IA, será integrada a esforços de pesquisa mais amplos.
• Ilya e Leike pediram demissão na semana passada após meses de tensão – Leike citou desacordos sobre as prioridades centrais da empresa.
• Leike afirmou que a cultura e os processos de segurança ficaram em segundo plano em relação a “produtos chamativos”, e a OpenAI precisa se tornar uma “empresa de IAG (Inteligência Artificial Geral) que prioriza a segurança”.
• O presidente Greg Brockman publicou uma resposta às alegações de Leike no ​​plataforma X, reiterando o compromisso da empresa com a segurança da IA.

Mais uma semana, mais drama na OpenAI. A dissolução da equipe de superalinhamento é polêmica – levanta sérias preocupações de grupos mais cautelosos de IA que desejam o foco na segurança, enquanto atrai aplausos daqueles que querem aceleração a qualquer custo.

Leia também: