Inteligência Artificial

Ex-líder de segurança da OpenAI se junta à Anthropic

Publicado por
Isabella Caminoto

Jan Leike, ex-executivo da OpenAI e líder em segurança de inteligência artificial (IA), acaba de anunciar sua entrada na rival Anthropic para liderar uma nova equipe focada em “superalinhamento”, priorizando segurança e proteção.

  • Leike deixou a OpenAI em meados de maio, junto com Ilya Sutskever, o que resultou na dissolução da equipe de segurança por superalinhamento da empresa.
  • Leike compartilhou que sua nova equipe na Anthropic se concentrará em “supervisão escalável, generalização fraca para forte e pesquisa de alinhamento automatizado”.
  • A mudança ocorre semanas depois de Leike ter dito que a cultura de segurança da OpenAI havia sido deixada de lado em favor de “produtos chamativos”.

Por que isso importa

Leike não demorou muito para encontrar uma nova casa para a segurança de IA – e foi em uma das maiores rivais da OpenAI. A mudança credencia a Anthropic como um refúgio para o desenvolvimento mais focado em segurança e talvez até atraia outro grande especialista em segurança de IA disponível no mercado (que pode ou não ter visto algo preocupante na OpenAI).

Leia também:

Este post foi modificado pela última vez em 29 de maio de 2024 13:01

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.

Posts recentes

Google integra controles para casa inteligente no Gemini

O Google está adicionando uma extensão do Google Home ao aplicativo Gemini, permitindo que você…

3 de novembro de 2024

Walt Disney forma unidade de negócios para coordenar o uso de IA e realidade aumentada

A Walt Disney está formando um novo grupo para coordenar o uso da empresa de…

1 de novembro de 2024

HOVER: Modelo de IA compacto domina o controle de humanoides

A Nvidia acaba de publicar uma nova pesquisa apresentando o HOVER, uma pequena rede neural…

1 de novembro de 2024

O ChatGPT agora é um mecanismo de busca com IA

O ChatGPT agora é oficialmente um mecanismo de busca com inteligência artificial (IA). A empresa…

31 de outubro de 2024

Ucrânia lança dezenas de sistemas de IA para ajudar seus drones a atingir alvos

A Ucrânia está usando dezenas de sistemas de inteligência artificial (IA) fabricados localmente para seus…

31 de outubro de 2024

Google Maps usará IA para responder suas perguntas; entenda

A Alphabet, dona do Google, anunciou na quinta-feira (31) um conjunto de recursos que incorporam…

31 de outubro de 2024