網路安全解決方案供應商 Check Point Software Technologies 最近的一項研究分析了生成式人工智慧對即將到來的民主選舉的潛在影響。研究人員確定了兩個主要風險:
宣傳
- 選民操縱:人工智慧可用於創建難以與人類書寫的文本區分開的個人化文字。這可以用來透過傳播虛假訊息或宣傳來操縱選民。
- 誹謗候選人:人工智慧可用於創建深度偽造的影片和圖像,這些影片和圖像足夠逼真,看起來很真實。這可以用來誹謗候選人或傳播假新聞。
研究人員警告說,這些風險是真實存在的,需要採取多方面的方法來緩解。他們強調需要:
- 教育選民了解人工智慧操縱的潛力。
- 開發工具來檢測和打擊虛假資訊和宣傳。
- 規範人工智慧在政治競選中的使用。
人工智慧可以乾擾民主進程,但人類必須學會辨別訊息
選民教育至關重要,這樣他們才能辨別真假訊息。選民必須能夠識別被操縱內容的跡象,例如語言錯誤或事實不一致。
研究還指出,開發檢測和打擊錯誤訊息和宣傳的工具非常重要。這些工具可以使用人工智慧來識別被操縱的內容並提醒選民。
宣傳
最後,根據 Check Point 的指導方針,有必要考慮規範人工智慧在政治競選中的使用。這可能包括限制深度偽造的使用或要求識別人工智慧產生的內容的規則。
值得記住的是,最近在美國選舉和加拿大競選活動中,人工智慧為競選活動生成的圖像已經引起了人們對濫用技術傳播虛假訊息的警惕。
另見:
* 本文的文本部分由人工智慧工具和最先進的語言模型生成,有助於文本的準備、審查、翻譯和摘要。文字條目是由 Curto 來自人工智慧工具的新聞和回應被用來改善最終內容。
需要強調的是,人工智慧工具只是工具,發佈內容的最終責任在於 Curto 消息。透過負責任且合乎道德的方式使用這些工具,我們的目標是擴大溝通的可能性並使優質資訊的獲取民主化。 🤖
宣傳