A OpenAI, l'entreprise à l'origine du ChatGPT, étudie si les utilisateurs devraient être autorisés à créer de la pornographie générée par l'intelligence artificielle (IA) et d'autres contenus explicites avec ses produits. Bien que l'entreprise ait souligné que son interdiction de deepfakes continuellementaria pour s'appliquer au matériel pour adultes, les militants ont suggéré que la proposition sapait son énoncé de mission consistant à produire une IA « sûre et bénéfique ».
PUBLICITÉ
???????? souscrivez a notre newsletter le meilleur newsletter sur l'IA (en anglais 🇬🇧) ???? Signez-le le meilleur newsletter sur l'IA (en portugais 🇧🇷)
A OpenAI, qui est également le développeur du générateur d'images DALL-E, a révélé qu'il envisageait de permettre aux développeurs et aux utilisateurs de créer de manière « responsable » ce qu'il appelle du contenu « non sûr pour le travail » (NSFW) à travers ses produits. UN OpenAI a déclaré que cela pourrait inclure « l’érotisme, la violence extrême, les insultes non sollicitées et les grossièretés ».
La société a déclaré : « Nous étudions si nous pouvons fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge… Nous espérons mieux comprendre les attentes des utilisateurs et de la société concernant le comportement des modèles dans ce domaine. »
La proposition a été publiée dans le cadre d'un document de OpenAI discuter de la manière dont il développe ses outils d’IA. Joanne Jang, une employée de l'entreprise basée à San Francisco qui a travaillé sur le document, a déclaré que OpenAI Je voulais lancer une discussion sur la question de savoir si la génération de textes érotiques et d'images nues devrait toujours être interdite dans vos produits. Elle a toutefois souligné que les deepfakes ne seraient pas autorisés.
PUBLICITÉ
"Nous voulons garantir que les gens ont un contrôle maximum tant qu'ils ne violent pas la loi ou les droits d'autrui, mais autoriser les deepfakes est hors de question, point final", a déclaré Jang. "Cela ne veut pas dire que nous essayons maintenant de créer du porno avec l'IA."
Lire aussi:
