OpenAI dissolve equipe de segurança de IA

Publicado por

Isabella Caminoto

20 de maio de 2024 12:41

Ilya Sutskever on X

A OpenAI dissolveu, na prática, sua equipe de segurança de inteligência artificial (IA), focada em riscos de longo prazo, após a saída dos líderes-chave Ilya Sutskever e Jan Leike na semana passada.

OpenAI: cofundador e cientista-chefe anuncia saída da empresa

Entenda o que aconteceu

A equipe de Superalinhamento, criada há menos de um ano para garantir a segurança de futuros sistemas de IA, será integrada a esforços de pesquisa mais amplos.
Ilya e Leike pediram demissão na semana passada após meses de tensão – Leike citou desacordos sobre as prioridades centrais da empresa.
Leike afirmou que a cultura e os processos de segurança ficaram em segundo plano em relação a “produtos chamativos”, e a OpenAI precisa se tornar uma “empresa de IAG (Inteligência Artificial Geral) que prioriza a segurança”.
O presidente Greg Brockman publicou uma resposta às alegações de Leike no plataforma X, reiterando o compromisso da empresa com a segurança da IA.

Mais uma semana, mais drama na OpenAI. A dissolução da equipe de superalinhamento é polêmica – levanta sérias preocupações de grupos mais cautelosos de IA que desejam o foco na segurança, enquanto atrai aplausos daqueles que querem aceleração a qualquer custo.

Leia também:

ChatGPT ganha integração com Google Drive e OneDrive para análise de dados

Este post foi modificado pela última vez em %s = human-readable time difference 12:42

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.