Saat berpidato di MIT, Sam Altman, CEO dari OpenAI, berbicara tentang surat terbuka yang menyerukan jeda dalam kemajuan teknologi AI. Altman membenarkan bahwa perusahaannya tidak melatih GPT-5, yang dianggap sebagai penerus model bahasa GPT-4.
Pernyataan itu disampaikan Kamis (13) lalu.
Bulan lalu, ribuan pakar teknologi mutakhir, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka yang menyerukan jeda enam bulan dalam pelatihan sistem AI yang lebih canggih daripada GPT-4.
PUBLISITAS
Surat tersebut menyoroti meningkatnya kekhawatiran mengenai perlombaan untuk mengembangkan AI yang semakin canggih dan risiko yang ditimbulkannya terhadap masyarakat. Meskipun sistem AI kontemporer seperti GPT-4 sudah dapat bersaing dengan manusia dalam tugas-tugas umum, surat tersebut memperingatkan kemungkinan bias informasi, otomatisasi pekerjaan, dan risiko kehilangan kendali atas peradaban manusia.
ChatGPT-4: versi baru memiliki masalah lama
Altman menyetujui beberapa aspek dari surat terbuka tersebut, khususnya mengenai perlunya peningkatan kemampuan keamanan dalam pengembangan AI. Dia menyatakan bahwa OpenAI mengambil tindakan keamanan ekstensif saat melatih GPT-4, termasuk audit eksternal dan pemeriksaan keamanan.
“Kami melakukan hal-hal lain selain GPT-4 yang menurut saya memiliki semua jenis masalah keamanan yang penting untuk diatasi dan sama sekali tidak diikutsertakan,” kata Altman.
SAN FRANCISCO, CALIFORNIA – 03 OKTOBER: OpenAI Co-Founder & CEO Sam Altman berbicara di atas panggung selama TechCrunch Disrupt San Francisco 2019 di Moscone Convention Center pada 03 Oktober 2019 di San Francisco, California. Steve Jennings/Getty Images untuk TechCrunch/AFP (Foto oleh Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Namun, ia tidak setuju dengan usulan jeda moneter pada pengembangan AI dan mencatat kurangnya kekhususan teknis dalam surat tersebut. Altman juga membantah klaim bahwa OpenAI sedang melatih GPT-5, menekankan pentingnya penilaian dan pemantauan keamanan AI yang akurat.
PUBLISITAS
Lebih lanjut beliau menjelaskan bahwa tujuan dari OpenAI adalah untuk mendorong keterlibatan global dengan AI, mendorong individu dan institusi untuk meningkatkan atau mengadaptasi sistem yang ada untuk menciptakan masa depan yang diinginkan.
Kami baru-baru ini melaporkan di sini Berita sebaliknya bahwa OpenAI telah mengumumkan serangkaian inisiatif untuk membuat alat ini lebih aman. Perusahaan punyapromemilik Anda untuk melakukan pengujian menyeluruh, mencari masukan dari pakar eksternal, dan berkolaborasi dengan pemerintah untuk mengembangkan peraturan yang efektif.
