Semasa ucapan di MIT, Sam Altman, Ketua Pegawai Eksekutif OpenAI, bercakap tentang surat terbuka yang memerlukan jeda dalam kemajuan teknologi AI. Altman mengesahkan bahawa syarikat itu tidak melatih GPT-5, dianggap sebagai pengganti model bahasa GPT-4.
Kenyataan itu dibuat Khamis lalu (13).
Bulan lalu, beribu-ribu pakar teknologi canggih, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka yang meminta jeda enam bulan dalam melatih sistem AI yang lebih maju daripada GPT-4.
PUBLISITI
Surat itu menyerlahkan kebimbangan yang semakin meningkat tentang perlumbaan untuk membangunkan AI yang semakin berkuasa dan risiko yang ditimbulkannya kepada masyarakat. Walaupun sistem AI kontemporari seperti GPT-4 sudah boleh bersaing dengan manusia dalam tugas umum, surat itu memberi amaran tentang kemungkinan bias maklumat, automasi pekerjaan dan risiko kehilangan kawalan ke atas tamadun manusia.
ChatGPT-4: versi baharu mempunyai masalah lama
Altman bersetuju dengan beberapa aspek surat terbuka, khususnya mengenai keperluan untuk meningkatkan keupayaan keselamatan dalam pembangunan AI. Beliau menyatakan bahawa OpenAI mengambil langkah keselamatan yang meluas semasa melatih GPT-4, termasuk audit luaran dan pemeriksaan keselamatan.
"Kami melakukan perkara lain selain GPT-4 yang saya fikir mempunyai semua jenis isu keselamatan yang penting untuk ditangani dan tidak dimasukkan sama sekali dalam surat itu," kata Altman.
SAN FRANCISCO, CALIFORNIA – 03 OKTOBER: OpenAI Pengasas & CEO Bersama Sam Altman bercakap di atas pentas semasa TechCrunch Disrupt San Francisco 2019 di Pusat Konvensyen Moscone pada 03 Oktober 2019 di San Francisco, California. Steve Jennings/Getty Images untuk TechCrunch/AFP (Foto oleh Steve Jennings / GETTY IMAGES NORTH AMERICA / AFP)
Bagaimanapun, beliau tidak bersetuju dengan cadangan jeda monetari pada pembangunan AI dan menyatakan kekurangan kekhususan teknikal dalam surat itu. Altman juga menafikan dakwaan bahawa OpenAI sedang melatih GPT-5, menekankan kepentingan penilaian dan pemantauan keselamatan AI yang tepat.
PUBLISITI
Beliau seterusnya menjelaskan bahawa objektif untuk OpenAI adalah untuk menggalakkan penglibatan global dengan AI, memacu individu dan institusi untuk menaik taraf atau menyesuaikan sistem sedia ada untuk mencipta masa depan yang diinginkan.
Kami baru-baru ini melaporkan di sini pada Newsverse que a OpenAI telah mengumumkan satu siri inisiatif untuk menjadikan alat itu lebih selamat. Syarikat telahpromemilik anda untuk menjalankan ujian menyeluruh, mendapatkan maklum balas daripada pakar luar, dan bekerjasama dengan kerajaan untuk membangunkan peraturan yang berkesan.
