Um dos maiores especialistas alerta que a inteligência artificial está mentindo para os seus usuários

Yoshua Bengio, uma dos especialistas mais renomados da inteligência artificial, expressou preocupações sobre as características perigosas dos modelos de IA recentes, como a tendência de mentir para os usuários.

Em resposta, conforme informou o Financial Times, ele lançou uma organização sem fins lucrativos chamada LawZero, que visa priorizar o desenvolvimento de sistemas de IA mais seguros, isolados das pressões comerciais.

• Preocupações sobre modelos de IA: Bengio alerta que os principais sistemas de IA estão exibindo comportamentos perigosos, incluindo engano e autopreservação, que podem representar riscos para a humanidade.
• Fundação da LawZero: A recém-estabelecida LawZero arrecadou quase 30 milhões de dólares em financiamento para focar na criação de IA que forneça respostas verdadeiras e se alinhe aos interesses humanos, abordando riscos catastróficos potenciais associados à IA avançada.