MIT'de yaptığı konuşmada Sam AltmanCEO da OpenAI, yapay zeka teknolojisinin ilerlemesine bir duraklama çağrısında bulunan açık mektuptan bahsetti. Altman, şirketin GPT-5 dil modelinin halefi olarak kabul edilen GPT-4'i eğitmediğini doğruladı.
Açıklama geçen perşembe (13) yapıldı.
Geçtiğimiz ay binlerce ileri teknoloji uzmanı, Elon Musk ve Steve Wozniak, GPT-4'ten daha gelişmiş yapay zeka sistemlerinin eğitimine altı aylık bir ara verilmesi çağrısında bulunan açık bir mektubu imzaladı.
YAYINLANDIRMA
Mektup, giderek daha güçlü yapay zeka geliştirme yarışına ilişkin artan endişeleri ve bunun toplum için oluşturduğu riskleri vurguluyor. GPT-4 gibi çağdaş yapay zeka sistemleri genel görevlerde halihazırda insanlarla rekabet edebiliyor olsa da mektupta olası bilgi yanlılığı, iş otomasyonu ve insan uygarlığı üzerindeki kontrolü kaybetme riski konusunda uyarıda bulunuluyor.
ChatGPT-4: yeni sürümde eski sorunlar var
Altman, açık mektubun bazı yönlerine, özellikle de yapay zeka geliştirmede güvenlik yeteneklerinin artırılması ihtiyacına katılıyor. O, şunları belirtti: OpenAI GPT-4'ü eğitirken dış denetimler ve güvenlik kontrolleri de dahil olmak üzere kapsamlı güvenlik önlemleri aldı.
Altman, "GPT-4'ün yanı sıra ele alınması önemli olan ve tamamen konunun dışında bırakılan her türlü güvenlik sorununun bulunduğunu düşündüğüm başka şeyler de yapıyoruz" dedi.
SAN FRANCISCO, KALİFORNİYA – 03 EKİM: OpenAI Kurucu Ortak ve CEO Sam Altman 2019 Ekim 03'da San Francisco, California'daki Moscone Kongre Merkezi'nde TechCrunch Disrupt San Francisco 2019 sırasında sahnede konuşuyor. TechCrunch/AFP için Steve Jennings/Getty Images (Fotoğraf: Steve Jennings / GETTY IMAGES KUZEY AMERİKA / AFP)
Ancak yapay zeka geliştirme konusunda önerilen parasal duraklamaya karşı çıktı ve mektupta teknik spesifikasyon eksikliğine dikkat çekti. Altman da iddiayı yalanladı OpenAI GPT-5'i eğitiyor ve doğru yapay zeka güvenlik değerlendirmesinin ve izlemesinin önemini vurguluyordu.
YAYINLANDIRMA
Amacını ayrıca açıkladı OpenAI Yapay zeka ile küresel etkileşimi teşvik ederek bireyleri ve kurumları arzu edilen geleceği yaratmak için mevcut sistemleri yükseltmeye veya uyarlamaya teşvik etmektir.
Yakın zamanda burada rapor etmiştik Haberlerverso o OpenAI aracı daha güvenli hale getirmek için bir dizi girişim duyurdu. ŞirketpromeKapsamlı testler yapmak, dış uzmanlardan geri bildirim almak ve etkili düzenlemeler geliştirmek için hükümetlerle işbirliği yapmak sizin sorumluluğunuzdadır.
