Les images modifiées par l'IA constituent une "menace pour les processus démocratiques", préviennent les experts

Le politicien britannique Karl Turner a partagé une image sur Platform X, anciennement Twitter, qui montre le Premier ministre buvant une bière de mauvaise qualité lors d'un festival, tandis qu'une femme le regarde avec une expression moqueuse. L'image a été manipulée à partir d'une photo originale, sur laquelle Sunak apparaît avec une bière de pub, tandis que la personne derrière lui a une expression neutre.

L'intelligence artificielle pour créer des images, comment ça marche ?

Générer des images à l’aide de l’intelligence artificielle est un processus très sophistiqué qui implique une série d’étapes. Généralement, les techniques d’imagerie de l’IA sont basées sur des réseaux de neurones génératifs (GAN) ou des modèles de flux autorégressifs. Ces techniques utilisent les données existantes pour apprendre à générer de nouvelles images.

L’image a suscité de nombreuses critiques, le vice-Premier ministre Oliver Dowden la qualifiant d’« inacceptable ».

Les experts ont averti que ces combats sont une indication de ce qui pourrait arriver lors des futures campagnes électorales. Bien qu'il ne soit pas clair si l'image de Sunak a été manipulée à l'aide d'un outil d'IA, ces programmes ont rendu plus facile et plus rapide la production de faux textes, images et sons convaincants.

Comment identifier une image produite par l’IA ? Regarder

Il y a eu le pape fashionista, l’arrestation de Trump, le tout généré par l’intelligence artificielle. Mais savez-vous comment identifier une fausse image générée par l’IA ? Voir les conseils :

Wendy Salle, professeur à l'Université de Southampton, alerte: « Je pense que l’utilisation des technologies numériques, dont l’IA, est une menace pour nos processus démocratiques. Cela devrait figurer en bonne place dans le registre des risques liés à l’IA à l’approche de deux élections majeures – au Royaume-Uni et aux États-Unis – l’année prochaine.

Shweta Singh, éducateur à l'Université de Warwick, ajoute : « Nous avons besoin d'un ensemble de principes éthiques qui puissent garantir et rassurer les utilisateurs de ces nouvelles technologies sur la fiabilité des informations qu'ils lisent. Nous devons agir dès maintenant, car il est impossible d’imaginer des élections justes et impartiales sans de telles réglementations. C’est une préoccupation sérieuse et nous manquons de temps.

Pendant ce temps, les sociétés d’IA les plus puissantes ont reconnu la nécessité d’un système permettant de baliser le contenu généré par l’IA. Le mois dernier, le développeur Amazon, Google, Méta, Microsoft e ChatGPT, OpenAI, a accepté un ensemble de nouvelles garanties lors d'une réunion avec Joe Biden, qui comprenait l'utilisation de filigranes pour le contenu visuel et audio alimenté par l'IA.

Les géants américains de l’IA s’unissent pour s’autoréguler

Google, Microsoft, Anthropique et OpenAI, quatre des entreprises américaines leaders sur la scène de l'intelligence artificielle (IA) de pointe, ont annoncé ce mercredi (26) la création d'un nouvel organisme professionnel pour lutter contre les risques associés à cette technologie.

Lire aussi:

Les candidats utilisent de fausses images générées par l’IA pour booster leurs campagnes ; Il y a même des électeurs à trois bras

Nous n'avons pas d'élections au Brésil cette année, mais dans d'autres régions du monde, les campagnes battent déjà leur plein. Les candidats se mobilisent pour devenir populaires, et nombre d’entre eux tentent d’y parvenir en devenant viraux sur Internet. Le problème c'est la méthode. Les politiciens ont commencé à utiliser des images créées par l’intelligence artificielle (IA) pour produire des publicités trompeuses et même attaquer leurs opposants politiques avec de faux contenus. Comprendre.

Des chercheurs du MIT développent une technique pour protéger les images contre la manipulation de l'IA

Des chercheurs du Massachusetts Institute of Technology (MIT) ont développé une nouvelle technique appelée PhotoGuard qui peut être utilisée pour protéger les images contre la manipulation par des modèles d'intelligence artificielle (IA).

* Le texte de cet article a été partiellement généré par des outils d'intelligence artificielle, des modèles linguistiques de pointe qui aident à la préparation, la révision, la traduction et le résumé des textes. Les entrées de texte ont été créées par le Curto Les nouvelles et les réponses des outils d'IA ont été utilisées pour améliorer le contenu final.
Il est important de souligner que les outils d’IA ne sont que des outils et que la responsabilité finale du contenu publié incombe au Curto Nouvelles. En utilisant ces outils de manière responsable et éthique, notre objectif est d’élargir les possibilités de communication et de démocratiser l’accès à une information de qualité. 🤖