คำแถลงดังกล่าวมีขึ้นเมื่อวันพฤหัสบดีที่แล้ว (13)
เมื่อเดือนที่แล้ว ผู้เชี่ยวชาญด้านเทคโนโลยีล้ำหน้าหลายพันคนรวมถึง Elon Musk และ Steve Wozniak ได้ลงนามในจดหมายเปิดผนึกเรียกร้องให้หยุดการฝึกอบรมระบบ AI ขั้นสูงกว่า GPT-4 เป็นเวลาหกเดือน
การเผยแพร่
จดหมายฉบับนี้เน้นย้ำถึงความกังวลที่เพิ่มขึ้นเกี่ยวกับการแข่งขันเพื่อพัฒนา AI ที่ทรงพลังยิ่งขึ้น และความเสี่ยงที่มีต่อสังคม ในขณะที่ระบบ AI ร่วมสมัยอย่าง GPT-4 สามารถแข่งขันกับมนุษย์ในงานทั่วไปได้แล้ว จดหมายดังกล่าวเตือนถึงอคติด้านข้อมูลที่เป็นไปได้ งานอัตโนมัติ และความเสี่ยงในการสูญเสียการควบคุมอารยธรรมของมนุษย์
Altman เห็นด้วยกับบางแง่มุมของจดหมายเปิดผนึก โดยเฉพาะอย่างยิ่งเกี่ยวกับความจำเป็นในการเพิ่มขีดความสามารถด้านความปลอดภัยในการพัฒนา AI โดยเขาระบุว่า OpenAI ใช้มาตรการรักษาความปลอดภัยที่ครอบคลุมเมื่อฝึกอบรม GPT-4 รวมถึงการตรวจสอบภายนอกและการตรวจสอบความปลอดภัย
“เรากำลังทำสิ่งอื่นๆ นอกเหนือจาก GPT-4 ซึ่งผมคิดว่ามีปัญหาด้านความปลอดภัยทุกประเภทที่สำคัญที่ต้องแก้ไขและถูกละเลยในจดหมายนี้” อัลท์แมนกล่าว
อย่างไรก็ตาม เขาไม่เห็นด้วยกับข้อเสนอการระงับการพัฒนา AI ทางการเงินชั่วคราว และกล่าวถึงการขาดความเฉพาะเจาะจงทางเทคนิคในจดหมาย อัลท์แมนยังหักล้างคำกล่าวอ้างที่ว่า OpenAI กำลังฝึกอบรม GPT-5 โดยเน้นย้ำถึงความสำคัญของการประเมินและติดตามความปลอดภัยของ AI ที่แม่นยำ
การเผยแพร่
ทรงอธิบายเพิ่มเติมว่าวัตถุประสงค์ของ OpenAI คือการส่งเสริมการมีส่วนร่วมระดับโลกกับ AI ผลักดันบุคคลและสถาบันให้อัปเกรดหรือปรับใช้ระบบที่มีอยู่เพื่อสร้างอนาคตที่ต้องการ
เราเพิ่งรายงานที่นี่เมื่อ ข่าว คิว OpenAI ได้ประกาศโครงการริเริ่มต่างๆ เพื่อทำให้เครื่องมือปลอดภัยยิ่งขึ้น บริษัทมีpromeให้คุณดำเนินการทดสอบอย่างละเอียด ขอคำติชมจากผู้เชี่ยวชาญภายนอก และร่วมมือกับรัฐบาลเพื่อพัฒนากฎระเบียบที่มีประสิทธิภาพ
ดูเพิ่มเติมที่: