“Padrinho” da IA e vencedor do Prêmio Turing lança iniciativa para IA segura

Yoshua Bengio, uma das maiores referências em inteligência artificial (IA) e ganhador do Prêmio Turing, acaba de lançar a LawZero, uma organização sem fins lucrativos dedicada a construir sistemas de IA “seguros por design”. A iniciativa também garantiu um financiamento de US$ 30 milhões para desenvolver a “Scientist AI”, uma IA que prioriza a verdade e a transparência.

Detalhes do LawZero

• A LawZero tem como objetivo criar sistemas de IA que forneçam avaliações probabilísticas em vez de respostas definitivas, reconhecendo a incerteza em suas respostas.
• A “Scientist AI” da organização espera acelerar o desenvolvimento científico, monitorar outros agentes de IA em busca de comportamentos enganosos e lidar com os riscos da inteligência artificial.
• Entre os primeiros apoiadores estão o braço filantrópico do ex-CEO do Google, Eric Schmidt, o co-fundador do Skype, Jaan Tallinn, e várias organizações de segurança de IA.
• Bengio alerta que os modelos de IA líderes atuais, como o GPT-3 e o Claude 4 Opus (N.T.: tradução de o3 e Claude 4 Opus, por serem exemplos mais próximos do conhecimento popular), mostram características preocupantes, incluindo instintos de autopreservação e engano estratégico.
• Ele também afirmou ao Financial Times (FT) que não confia que a OpenAI (empresa por trás do ChatGPT) vá aderir à sua missão original, citando pressões comerciais.

Por que isso importa

Os “padrinhos” da IA, Bengio e Geoffrey Hinton, têm sido críticos vocais dos principais laboratórios de IA no quesito segurança, soando o alarme com constantes aparições na mídia e cartas abertas. Contudo, a LawZero representa o maior passo de Bengio até agora, assumindo a segurança da IA em suas próprias mãos com uma organização dedicada a esse esforço.

Leia também: