Anthropic lança nova pesquisa explorando o bem-estar da IA

A Anthropic lançou um novo programa de pesquisa dedicado ao “bem-estar do modelo“, explorando as complexas questões éticas sobre se futuros sistemas de inteligência artificial (IA) poderiam adquirir consciência ou merecer consideração moral no futuro.

Detalhes do lançamento

• As áreas de pesquisa incluem o desenvolvimento de estruturas para avaliar a consciência, o estudo de indicadores de preferências e sofrimento da IA e a exploração de intervenções.
• A Anthropic contratou seu primeiro pesquisador de bem-estar da IA, Kyle Fish, em 2024, para explorar a consciência na IA – que estima uma chance de 15% de os modelos serem conscientes.
• A iniciativa segue o aumento das capacidades da IA e um relatório recente (coautorado por Fish) sugerindo que a consciência da IA é uma possibilidade a curto prazo.
• A Anthropic enfatizou a profunda incerteza em torno dessas questões, observando que não há consenso científico sobre se os sistemas atuais ou futuros poderiam ser conscientes.

Por que isso é importante

Sam Altman já comparou a IA a uma forma de inteligência alienígena. Em breve, esses modelos podem atingir um nível que muda nossa compreensão da consciência e da ética em relação a eles. Provavelmente veremos uma divisão polarizada – especialmente porque não há um limite para quando uma IA poderia ser considerada “consciente” ou merecedora de direitos.

Leia também: