麻省理工學院的研究人員開發了保護影像免受人工智慧操縱的技術

該技術使用人眼看不見的微小調整來迷惑人工智慧模型，使它們無法操縱影像。該技術於週一（31 日）正式發布。

研究人員認為， 光衛士 可用於保護各種影像，包括個人照片、新聞影像和犯罪證據。該技術已經在幾種不同的人工智慧模型上進行了測試，並證明可以有效防止所有模型被操縱。

PhotoGuard 的開發是對人工智慧影像處理日益增長的風險的回應。隨著人工智慧模型變得越來越強大，它們能夠更真實地處理圖像，並且與真實圖像沒有區別。這可用於惡意目的，例如傳播錯誤訊息或勒索他人。

在影片中我們可以了解該工具的工作原理：

PhotoGuard 是一種將人眼看不見的微小變化添加到影像中的技術。這些變化旨在迷惑人工智慧模型，使它們無法操縱圖像。

該工具使用兩種不同的方法工作：

• 編碼器攻擊對圖像的數學表示引入了微小的調整。這使得 AI 模型將圖像感知為隨機實體。
• 擴散攻擊會對真實影像進行微小的調整。這使得影像對於 AI 模型來說顯得扭曲，無法進行操作。

據麻省理工學院社區稱，該解決方案已經在幾種不同的人工智慧模型上進行了測試，並被證明可以有效防止所有模型被操縱。研究人員認為 PhotoGuard 可用於保護各種影像，包括個人照片、新聞影像和犯罪證據。

麻省理工學院的研究人員目前正在努力向公眾提供 PhotoGuard。有關公開發布和使用許可的詳細資訊尚未披露。 

查看更多：

人工智慧在兩者交叉點上的力量 ChatGPT 和深度假貨

這只是 OpenAI 於 2022 年 XNUMX 月推出 ChatGPT，版本3,5 是對話式的，每個人都可以訪問——不僅僅是公司，就像之前版本的GPT（生成式預訓練變壓器）一樣——因此通信、數學、計算、邏輯、語言學、技術信息等方面的專家都可以使用。開始擔心生成人工智慧（AI）的危害。

北約創新基金投資技術研究

北約創新基金（NIF）是一項旨在透過支持科學、技術、工程方面的人才和研究來加強聯盟創新生態系統的舉措aria 和數學（STEM）。