طی سخنرانی در MIT، Sam Altman، مدیر عامل دا OpenAI، درباره نامه سرگشاده ای صحبت کرد که خواستار توقف در پیشرفت فناوری هوش مصنوعی است. آلتمن تأیید کرد که این شرکت GPT-5 را که جانشین مدل زبان GPT-4 است، آموزش نمی‌دهد.
این بیانیه پنجشنبه گذشته (13) اعلام شد.
ماه گذشته، هزاران متخصص فناوری پیشرفته، از جمله Elon Musk و استیو وزنیاک، نامه ای سرگشاده را امضا کردند که در آن خواستار توقف شش ماهه در آموزش سیستم های هوش مصنوعی پیشرفته تر از GPT-4 شدند.
تبلیغات
این نامه بر نگرانی‌های فزاینده درباره رقابت برای توسعه هوش مصنوعی قدرتمندتر و خطراتی که این امر برای جامعه ایجاد می‌کند، تاکید می‌کند. در حالی که سیستم‌های هوش مصنوعی معاصر مانند GPT-4 می‌توانند در وظایف عمومی با انسان‌ها رقابت کنند، این نامه درباره سوگیری اطلاعاتی احتمالی، اتوماسیون شغلی و خطر از دست دادن کنترل تمدن انسانی هشدار می‌دهد.
ChatGPT-4: نسخه جدید مشکلات قدیمی دارد
آلتمن با برخی از جنبه های نامه سرگشاده، به ویژه در مورد نیاز به افزایش قابلیت های امنیتی در توسعه هوش مصنوعی، موافقت کرد. وی اظهار داشت که OpenAI هنگام آموزش GPT-4 اقدامات امنیتی گسترده ای از جمله ممیزی های خارجی و بررسی های امنیتی انجام داد.
آلتمن گفت: «ما در حال انجام کارهای دیگری به جز GPT-4 هستیم که فکر می‌کنم همه انواع مسائل امنیتی دارند که باید به آنها رسیدگی شود و کاملاً از نامه حذف شده است.
سان فرانسیسکو، کالیفرنیا - 03 اکتبر: OpenAI بنیانگذار و مدیر عامل Sam Altman در طول TechCrunch Disrupt San Francisco 2019 در مرکز همایش Moscone در 03 اکتبر 2019 در سانفرانسیسکو، کالیفرنیا روی صحنه صحبت می کند. استیو جنینگز/گتی ایماژ برای TechCrunch/AFP (عکس توسط استیو جنینگز / GETTY IMAGES شمال امریکا / خبرگزاری فرانسه)
با این حال، او با توقف پولی پیشنهادی در توسعه هوش مصنوعی مخالف بود و به فقدان مشخصات فنی در نامه اشاره کرد. آلتمن همچنین این ادعا را رد کرد که OpenAI GPT-5 را آموزش می داد و بر اهمیت ارزیابی و نظارت دقیق امنیت هوش مصنوعی تأکید می کرد.
تبلیغات
وی در ادامه توضیح داد که هدف از OpenAI تشویق مشارکت جهانی با هوش مصنوعی است که افراد و موسسات را به ارتقا یا تطبیق سیستم های موجود برای ایجاد آینده مطلوب سوق می دهد.
ما اخیراً در اینجا گزارش دادیم اخبار که OpenAI مجموعه ای از ابتکارات را برای ایمن تر کردن ابزار اعلام کرده است. شرکت داردpromeبرای انجام آزمایشات کامل، جستجوی بازخورد از کارشناسان خارجی و همکاری با دولت ها برای تدوین مقررات مؤثر.
