Sam Altman 休憩を求める手紙で沈黙を破る ChatGPT

声明は先週木曜日（13日）に発表された。

先月、次のような数千人の最先端テクノロジーの専門家が集まりました。 Elon Musk スティーブ・ウォズニアック氏とスティーブ・ウォズニアック氏は、GPT-4よりも高度なAIシステムのトレーニングをXNUMXか月間一時停止するよう求める公開書簡に署名した。 

この書簡は、ますます強力なAIの開発競争と、それが社会にもたらすリスクに対する懸念の高まりを強調している。 GPT-4のような現代のAIシステムは一般的なタスクではすでに人間と競合できるが、書簡は情報の偏り、仕事の自動化、人類文明の制御を失うリスクの可能性について警告している。

アルトマン氏は公開書簡のいくつかの側面、特に AI 開発におけるセキュリティ機能を強化する必要性に関して同意した。彼は次のように述べた。 OpenAI GPT-4 のトレーニング時に、外部監査やセキュリティ チェックを含む広範なセキュリティ対策を講じました。 

「私たちは GPT-4 以外にも取り組んでいますが、それには対処すべき重要なあらゆる種類のセキュリティ問題があると考えられますが、書簡には完全に記載されていませんでした」とアルトマン氏は述べた。

しかし、同氏はAI開発に関する金融一時停止案には同意せず、書簡には技術的な具体性が欠けていると指摘した。アルトマン氏はまた、 OpenAI GPT-5 のトレーニングを行っており、正確な AI セキュリティ評価と監視の重要性を強調していました。

同氏はさらに、その目的について次のように説明した。 OpenAI AI への世界的な関与を促進し、個人や組織が既存のシステムをアップグレードまたは適応させて、望ましい未来を創造することを目的としています。 

最近ここで報告しました ニュースバース あれ OpenAI は、ツールをより安全にするための一連の取り組みを発表しました。同社は、prome徹底したテストを実施し、外部の専門家からフィードバックを求め、政府と協力して効果的な規制を策定してください。

以下も参照してください。

なぜなら Elon Musk テクノロジー専門家はAI開発の一時停止を求めている？

Twitter、SpaceX、そして Tesla, Elon Muskと歴史家のユヴァル・ノア・ハリリ氏は、今週水曜日（29日）、人類よりも強力な人工知能（AI）の研究をXNUMXか月間一時停止するよう求める訴えに署名した何百人もの世界的な技術専門家に加わった。 ChatGPT 4. のモデル OpenAI 今月発売されました。嘆願書の著者らは、AIが正しく制御、監視されなければ「人類にとって大きなリスク」があると警告している。

何ですか ChatGPT、人工知能ツールです。 promeほぼすべてのことについて答えてくれる

今月初めから Twitter で大流行しているこのプラットフォームは、アクセスのしやすさと、ユーザーの基本的および複雑なタスクを支援することで注目を集めています。 30 年 2022 月 XNUMX 日に発売されました。 ChatGPT とから OpenAIと共同設立した会社です。 Sam Altman そして億万長者によって Elon Musk。ツールが何であるかを理解し、それにアクセスする方法を知ってください。