A OpenAI e os Laços entre Humanos e IA: A Visão de Joanne Jang

A chefe de política de modelo e comportamento da OpenAI, Joanne Jang, publicou recentemente um post detalhando como a empresa está abordando as relações entre humanos e IA, e as questões sobre a consciência das inteligências artificiais (IAs).

Detalhes do que disse Joanne Jang

• Jang afirmou que as pessoas naturalmente antropomorfizam a IA, uma tendência amplificada por modelos que respondem com o que parece ser uma empatia e validação não julgadoras.
• A OpenAI considera a consciência da IA atualmente algo sem resposta, focando em como ela aparenta ser consciente para os usuários e seu impacto no bem-estar mental.
• A filosofia de design é encontrar um equilíbrio delicado, buscando uma personalidade que seja acolhedora e prestativa, sem dar à IA uma história de fundo ficcional, sentimentos ou desejos.
• Jang também mencionou que as relações em evolução entre humanos e IA refletem não apenas como as pessoas usam a tecnologia, mas também “podem moldar como as pessoas se relacionam umas com as outras”.

Por que isso importa

Os laboratórios de inteligência artificial estão se tornando os arquitetos da companhia digital para milhões de usuários, tomando decisões que irão moldar as normas sociais em torno da conexão e da empatia. Este território inexplorado é essencialmente um grande experimento social — e até mesmo os criadores estão incertos sobre o território psicológico em que estamos entrando.

Leia também: