AIによって変更された画像は「民主的プロセスに対する脅威」であると専門家が警告

英国の政治家カール・ターナー氏は、フェスティバルで首相が低品質のビールを飲み、それをあざけるような表情で見守る女性の画像をプラットフォームX（旧ツイッター）で共有した。この画像は元の写真を加工したもので、スナクはパブビールを飲みながら写っており、その後ろにいる人物は無表情だ。

画像を作成する人工知能、それはどのように機能するのでしょうか?

人工知能を使用した画像の生成は、一連のステップを含む非常に洗練されたプロセスです。一般に、AI イメージング技術は生成ニューラル ネットワーク (GAN) または自己回帰フロー モデルに基づいています。これらの手法では、既存のデータを使用して、新しい画像を生成する方法を学習します。

この画像は広範な批判を引き起こし、オリバー・ダウデン副首相は「容認できない」と述べた。

専門家らは、この戦いは将来の選挙運動中に何が起こるかを示していると警告した。スナクの画像が AI ツールを使用して操作されたかどうかは不明ですが、これらのプログラムにより、説得力のある偽のテキスト、画像、音声を簡単かつ迅速に作成できるようになりました。

AIが生成した画像をどうやって識別するのか？見て

ファッショニスタの法王も、トランプ大統領も逮捕されましたが、これらはすべて人工知能によって生成されました。しかし、AI が生成した偽の画像を識別する方法を知っていますか?ヒントを参照してください:

ウェンディホール、サウサンプトン大学教授、 警告: 「AI を含むデジタル技術の使用は、私たちの民主的なプロセスに対する脅威だと思います。英国と米国での 2 つの大きな選挙が来年に迫っており、AI リスク登録の議題の上位に入るはずです。」

シュエタシンウォリック大学の教育者であるウォリック大学の教授は次のように付け加えています。「これらの新しいテクノロジーのユーザーが読んでいるニュースが信頼できるものであることを保証し、安心させることができる一連の倫理原則が必要です。このような規制が存在しない場合、公正で公平な選挙を想像することは不可能であるため、私たちは今すぐにこのことに行動する必要があります。これは深刻な懸念事項であり、時間がなくなりつつあります。」

一方、最も強力な AI 企業は、AI が生成したコンテンツにタグを付けるシステムの必要性を認識しています。先月、アマゾンの開発者は、 Google、メタ、 Microsoft e ChatGPT, OpenAI、ジョー・バイデンとの会談で、AIを利用したビジュアルおよびオーディオコンテンツへの透かしの使用を含む一連の新たな保護措置に同意した。

米国のAI大手が自主規制を求めて団結

Google, Microsoft、人類と OpenAI、最先端の人工知能（AI）シーンをリードするアメリカ企業26社は、今週水曜日（XNUMX日）、この技術に関連するリスクと戦うための新しい専門機関の創設を発表した。

また、お読みください。

候補者は選挙活動を促進するためにAIによって生成された偽の画像を使用しています。腕が3本ある有権者もいる

今年はブラジルでは選挙はありませんが、世界の他の地域ではすでに選挙運動が本格化しています。候補者たちは人気者になるために結集しており、その多くはインターネット上で拡散することで人気を得ようとしています。問題は方法です。政治家は、人工知能 (AI) によって作成された画像を使用して、誤解を招く広告を作成したり、虚偽の内容で政敵を攻撃したりするようになりました。理解する。

MITの研究者がAI操作から画像を保護する技術を開発

マサチューセッツ工科大学 (MIT) の研究者は、人工知能 (AI) モデルによる画像の操作を防ぐために使用できる PhotoGuard と呼ばれる新しい技術を開発しました。

* この記事のテキストの一部は、テキストの準備、レビュー、翻訳、要約を支援する最先端の言語モデルである人工知能ツールによって生成されました。テキストエントリは、 Curto AI ツールからのニュースと応答は、最終的なコンテンツを改善するために使用されました。
AI ツールは単なるツールであり、公開されたコンテンツに対する最終的な責任は AI ツールにあることを強調することが重要です。 Curto ニュース。これらのツールを責任を持って倫理的に使用することで、コミュニケーションの可能性を拡大し、質の高い情報へのアクセスを民主化することが私たちの目的です。 🤖