A OpenAI, perusahaan di belakang ChatGPT, sedang menjajaki apakah pengguna harus diizinkan membuat pornografi yang dihasilkan oleh kecerdasan buatan (AI) dan konten eksplisit lainnya pada produknya. Meskipun perusahaan menyoroti larangannya deepfakes kontinuaria untuk diterapkan pada materi dewasa, para aktivis berpendapat bahwa proposal tersebut melemahkan pernyataan misi mereka dalam memproduksi AI yang “aman dan bermanfaat”.
PUBLISITAS
Ekstraterrestrial Berlangganan yang terbaik newsletter tentang AI (dalam bahasa Inggris 🇮🇩) 🇧🇷 Tanda tangani terbaik newsletter tentang AI (dalam bahasa Portugis 🇧🇷)
A OpenAI, yang juga merupakan pengembang pembuat gambar DALL-E, mengungkapkan bahwa mereka sedang mempertimbangkan untuk mengizinkan pengembang dan pengguna untuk “secara bertanggung jawab” membuat apa yang disebut konten “tidak aman untuk bekerja” (NSFW) melalui produknya. A OpenAI mengatakan hal ini dapat mencakup “erotisme, kekerasan ekstrem, penghinaan yang tidak diminta, dan kata-kata kotor.”
Perusahaan tersebut menyatakan: “Kami sedang menjajaki apakah kami dapat secara bertanggung jawab memberikan kemampuan untuk menghasilkan konten NSFW dalam konteks yang sesuai dengan usia… Kami berharap dapat lebih memahami ekspektasi pengguna dan masyarakat tentang perilaku model di bidang ini.”
Proposal tersebut diterbitkan sebagai bagian dari dokumen dari OpenAI mendiskusikan bagaimana mereka mengembangkan alat AI-nya. Joanne Jang, seorang karyawan perusahaan yang berbasis di San Francisco yang mengerjakan dokumen tersebut, mengatakan OpenAI ingin memulai diskusi tentang apakah pembuatan teks erotis dan gambar telanjang harus selalu dilarang di produk Anda. Namun, dia menekankan bahwa deepfake tidak diperbolehkan.
PUBLISITAS
“Kami ingin memastikan bahwa masyarakat mempunyai kendali maksimal selama mereka tidak melanggar hukum atau hak orang lain, tapi membiarkan deepfake tidak mungkin dilakukan, titik,” kata Jang. “Itu tidak berarti kami sekarang mencoba membuat film porno dengan AI.”
Baca juga:
