Pesquisadores de IA exigem o “Direito de Alerta”; entenda

Publicado por

Isabella Caminoto

5 de junho de 2024 12:42

Pesquisadores de IA exigem o "Direito de Alerta"; entenda

Ex-funcionários e funcionários atuais de laboratórios de ponta em inteligência artificial (IA), incluindo OpenAI, Anthropic e DeepMind, acabam de publicar uma carta aberta pedindo que as empresas expandam as proteções para denunciantes. O objetivo é permitir que trabalhadores alertem sobre possíveis perigos da IA sem medo de retaliação.

Funcionários do Google DeepMind e OpenAI alertam sobre riscos da IA

Entenda melhor

A petição “Direito de Alerta sobre IA” foi elaborada por atuais e ex-funcionários da OpenAI, Anthropic e Google DeepMind.
A carta aberta também recebeu o apoio de visionários da IA como Yoshua Bengio, Geoffrey Hinton e Stuart Russell.
O documento pressiona empresas de IA a concordar com diversos princípios:
- Eliminar cláusulas de sigilo que proíbam falar sobre riscos da IA.
- Estabelecer e facilitar canais anônimos para denúncias.
- Ampliar as proteções para denunciantes e medidas anti-retaliação.
Vários pesquisadores publicaram relatos online sobre suas experiências. Daniel Kokotajlo revelou que deixou a OpenAI após “perder a esperança” de que a empresa agiria com responsabilidade.

Por que isso importa

O debate sobre segurança da IA está atingindo um ponto crítico, e há claramente uma grande divisão na indústria que transcende qualquer empresa ou pesquisador específico. Os princípios propostos parecem razoáveis e necessários, mas resta saber se os líderes de IA realmente ouvirão.

Leia também:

Gemini pode ganhar integração com o Spotify em breve

Este post foi modificado pela última vez em %s = human-readable time difference 12:42

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.