OpenAI está considerando permitir que usuários criem pornografia gerada por IA

A OpenAI, a empresa por trás do ChatGPT, está explorando se os usuários devem ser autorizados a criar pornografia gerada por inteligência artificial (IA) e outros conteúdos explícitos com seus produtos. Embora a empresa tenha destacado que sua proibição de deepfakes continuaria a se aplicar ao material adulto, ativistas sugeriram que a proposta minava sua declaração de missão de produzir IA “segura e benéfica”.

🇬🇧 Subscribe to the best newsletter about AI (in English 🇬🇧) 

🇧🇷 Assine a melhor newsletter sobre IA (em português 🇧🇷)

A OpenAI, que também é a desenvolvedora do gerador de imagens DALL-E, revelou que estava considerando permitir que desenvolvedores e usuários “de forma responsável” criassem o que chamou de conteúdo “não seguro para o trabalho” (NSFW) por meio de seus produtos. A OpenAI disse que isso poderia incluir “erotismo, violência extrema, insultos e palavrões não solicitados”.

A empresa afirmou: “Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos adequados à idade … Esperamos entender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área”.

A proposta foi publicada como parte de um documento da OpenAI discutindo como ela desenvolve suas ferramentas de IA. Joanne Jang, uma funcionária da empresa sediada em São Francisco que trabalhou no documento, disse que a OpenAI queria iniciar uma discussão sobre se a geração de texto erótico e imagens nuas sempre deveria ser proibida em seus produtos. No entanto, ela ressaltou que os deepfakes não seriam permitidos.

“Queremos garantir que as pessoas tenham o máximo de controle, desde que não violem a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de cogitação, ponto final”, disse Jang. “Isso não significa que estamos tentando agora criar pornografia com IA.”

Leia também: