Em um ensaio recente, o CEO da Microsoft AI, Mustafa Suleyman, alertou para o risco de IAs que parecem ser conscientes. Elas podem ser tão convincentes que levam os usuários a acreditar que são seres sencientes, merecedores de direitos e proteções. Suleyman argumenta que isso representa um risco tanto para a sociedade quanto para o desenvolvimento da própria inteligência artificial (IA).
PUBLICIDADE
Aqui estão os pontos principais levantados no ensaio
- Suleyman defende que IAs “aparentemente conscientes” (SCAI) já podem ser criadas com a tecnologia atual, simulando traços como memória, personalidade e experiências subjetivas.
- Ele destacou o aumento de casos de usuários que experienciam uma espécie de “psicose de IA”, e acredita que em breve as pessoas estarão defendendo o bem-estar e os direitos de modelos de IA.
- Suleyman classificou o estudo do bem-estar de modelos como “prematuro e francamente perigoso”, pois as considerações morais podem levar a ainda mais ilusões.
- O ensaio faz um apelo para que as empresas evitem comercializar IAs como seres conscientes e as desenvolvam “para pessoas, e não para ser uma pessoa”.
Por que isso é importante
Suleyman adota uma postura firme contra a ideia de consciência em IAs, em contraste com a Anthropic, que já realizou estudos aprofundados sobre o bem-estar de modelos.
Estamos navegando por águas desconhecidas, e com a ciência ainda incerta sobre o que é de fato a consciência, a abordagem de Suleyman pode parecer um passo atrás, fechando discussões importantes antes mesmo de serem devidamente iniciadas.
Leia também:
