Ex-líder de segurança da OpenAI se junta à Anthropic

Jan Leike, ex-executivo da OpenAI e líder em segurança de inteligência artificial (IA), acaba de anunciar sua entrada na rival Anthropic para liderar uma nova equipe focada em “superalinhamento”, priorizando segurança e proteção.

• Leike deixou a OpenAI em meados de maio, junto com Ilya Sutskever, o que resultou na dissolução da equipe de segurança por superalinhamento da empresa.
• Leike compartilhou que sua nova equipe na Anthropic se concentrará em “supervisão escalável, generalização fraca para forte e pesquisa de alinhamento automatizado”.
• A mudança ocorre semanas depois de Leike ter dito que a cultura de segurança da OpenAI havia sido deixada de lado em favor de “produtos chamativos”.

Por que isso importa

Leike não demorou muito para encontrar uma nova casa para a segurança de IA – e foi em uma das maiores rivais da OpenAI. A mudança credencia a Anthropic como um refúgio para o desenvolvimento mais focado em segurança e talvez até atraia outro grande especialista em segurança de IA disponível no mercado (que pode ou não ter visto algo preocupante na OpenAI).

Leia também: