Jan Leike, ex-executivo da OpenAI e líder em segurança de inteligência artificial (IA), acaba de anunciar sua entrada na rival Anthropic para liderar uma nova equipe focada em “superalinhamento”, priorizando segurança e proteção.
PUBLICIDADE
- Leike deixou a OpenAI em meados de maio, junto com Ilya Sutskever, o que resultou na dissolução da equipe de segurança por superalinhamento da empresa.
- Leike compartilhou que sua nova equipe na Anthropic se concentrará em “supervisão escalável, generalização fraca para forte e pesquisa de alinhamento automatizado”.
- A mudança ocorre semanas depois de Leike ter dito que a cultura de segurança da OpenAI havia sido deixada de lado em favor de “produtos chamativos”.
Por que isso importa
Leike não demorou muito para encontrar uma nova casa para a segurança de IA – e foi em uma das maiores rivais da OpenAI. A mudança credencia a Anthropic como um refúgio para o desenvolvimento mais focado em segurança e talvez até atraia outro grande especialista em segurança de IA disponível no mercado (que pode ou não ter visto algo preocupante na OpenAI).
Leia também:
