Pesquisadores de IA exigem o “Direito de Alerta”; entenda

Ex-funcionários e funcionários atuais de laboratórios de ponta em inteligência artificial (IA), incluindo OpenAI, Anthropic e DeepMind, acabam de publicar uma carta aberta pedindo que as empresas expandam as proteções para denunciantes. O objetivo é permitir que trabalhadores alertem sobre possíveis perigos da IA sem medo de retaliação.

Entenda melhor

• A petição “Direito de Alerta sobre IA” foi elaborada por atuais e ex-funcionários da OpenAI, Anthropic e Google DeepMind.
• A carta aberta também recebeu o apoio de visionários da IA como Yoshua Bengio, Geoffrey Hinton e Stuart Russell.
• O documento pressiona empresas de IA a concordar com diversos princípios:
  • Eliminar cláusulas de sigilo que proíbam falar sobre riscos da IA.
  • Estabelecer e facilitar canais anônimos para denúncias.
  • Ampliar as proteções para denunciantes e medidas anti-retaliação.
• Vários pesquisadores publicaram relatos online sobre suas experiências. Daniel Kokotajlo revelou que deixou a OpenAI após “perder a esperança” de que a empresa agiria com responsabilidade.

Por que isso importa

O debate sobre segurança da IA está atingindo um ponto crítico, e há claramente uma grande divisão na indústria que transcende qualquer empresa ou pesquisador específico. Os princípios propostos parecem razoáveis e necessários, mas resta saber se os líderes de IA realmente ouvirão.

Leia também: