Ex-líder de segurança da OpenAI se junta à Anthropic

Publicado por

Isabella Caminoto

29 de maio de 2024 13:00

@janleike on X

Jan Leike, ex-executivo da OpenAI e líder em segurança de inteligência artificial (IA), acaba de anunciar sua entrada na rival Anthropic para liderar uma nova equipe focada em “superalinhamento”, priorizando segurança e proteção.

Leike deixou a OpenAI em meados de maio, junto com Ilya Sutskever, o que resultou na dissolução da equipe de segurança por superalinhamento da empresa.
Leike compartilhou que sua nova equipe na Anthropic se concentrará em “supervisão escalável, generalização fraca para forte e pesquisa de alinhamento automatizado”.
A mudança ocorre semanas depois de Leike ter dito que a cultura de segurança da OpenAI havia sido deixada de lado em favor de “produtos chamativos”.

‘Mapeando a Mente de Grandes Modelos de Linguagem’: Entenda a pesquisa da Anthropic

Por que isso importa

Leike não demorou muito para encontrar uma nova casa para a segurança de IA – e foi em uma das maiores rivais da OpenAI. A mudança credencia a Anthropic como um refúgio para o desenvolvimento mais focado em segurança e talvez até atraia outro grande especialista em segurança de IA disponível no mercado (que pode ou não ter visto algo preocupante na OpenAI).

Leia também:

Meta lança resumos de notícias gerados por IA

Este post foi modificado pela última vez em %s = human-readable time difference 13:01

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.