A IA Pode ser Consciente? Executivo da Microsoft Questiona e Alerta

Em um ensaio recente, o CEO da Microsoft AI, Mustafa Suleyman, alertou para o risco de IAs que parecem ser conscientes. Elas podem ser tão convincentes que levam os usuários a acreditar que são seres sencientes, merecedores de direitos e proteções. Suleyman argumenta que isso representa um risco tanto para a sociedade quanto para o desenvolvimento da própria inteligência artificial (IA).

Aqui estão os pontos principais levantados no ensaio

• Suleyman defende que IAs “aparentemente conscientes” (SCAI) já podem ser criadas com a tecnologia atual, simulando traços como memória, personalidade e experiências subjetivas.
• Ele destacou o aumento de casos de usuários que experienciam uma espécie de “psicose de IA”, e acredita que em breve as pessoas estarão defendendo o bem-estar e os direitos de modelos de IA.
• Suleyman classificou o estudo do bem-estar de modelos como “prematuro e francamente perigoso”, pois as considerações morais podem levar a ainda mais ilusões.
• O ensaio faz um apelo para que as empresas evitem comercializar IAs como seres conscientes e as desenvolvam “para pessoas, e não para ser uma pessoa”.

Por que isso é importante

Suleyman adota uma postura firme contra a ideia de consciência em IAs, em contraste com a Anthropic, que já realizou estudos aprofundados sobre o bem-estar de modelos.

Estamos navegando por águas desconhecidas, e com a ciência ainda incerta sobre o que é de fato a consciência, a abordagem de Suleyman pode parecer um passo atrás, fechando discussões importantes antes mesmo de serem devidamente iniciadas.

Leia também: