MyCity, le chatbot IA du gouvernement de New York, diffuse de fausses nouvelles

MyCity est un Chatbot de intelligence artificielle (IA) libéré dans la ville de New York en octobre de l'année dernière. L'outil, censé aider les habitants de la ville en leur proposant des informations sur la législation locale et des articles liés à la mairie, a répondu de manière incorrecte aux utilisateurs sur plusieurs questions importantes.

Dans son annonce de lancement, la mairie a déclaré que le chatbot serait un moyen pour les résidents de « gagner […] du temps et de l'argent en leur fournissant instantanément des informations utiles et fiables provenant de plus de deux mille pages Web d'entreprises new-yorkaises et d'articles sur des sujets. telles que le respect des codes et des réglementations, les incitations commerciales disponibles et les meilleures pratiques pour éviter les violations et les amendes.

La ville de New York teste des scanners d'armes à feu IA dans le métro

En réponse aux récents incidents de violence, la ville de New York teste des scanners d'armes portables basés sur l'intelligence artificielle (IA) dans le métro. L'initiative, annoncée par le maire Eric Adams, vise à mettre fin à la violence et à accroître la sécurité des passagers.

Selon ArsTechnica, un rapport de "The City" et Le balisage, MyCity a apporté aux utilisateurs des informations erronées sur les politiques fondamentales de la municipalité. Un exemple de fausse information proposée par le chatbot est qu'il prétend que les immeubles d'habitation de la ville « ne sont pas tenus d'accepter les bons de la section 8 ». Cependant, le Page de la mairie Le Conseil municipal de New York pour le logement abordable dit exactement le contraire : les immeubles d'appartements sont tenus d'accepter les bons de la section 8 dans certains logements.

MyCity est un chatbot qui utilise des modèles prédictifs basés sur des jetons et utilise également la technologie de Microsoft Azur. Il utilise un processus statistique complexe, analysant des millions de jetons pour prédire le prochain mot probable dans n'importe quelle séquence. Cependant, cette approche n’implique pas une réelle compréhension des informations sous-jacentes véhiculées.

Par conséquent, lorsque les données de formation ne parviennent pas à capturer une seule réponse factuelle précise à une question, cela peut poser un problème.

Élections sûres : l’UE exige des mesures contre les deepfakes et les fausses nouvelles

L'Union européenne (UE) apromedéterminé à garantir des élections libres et équitables, et les plateformes numériques ont un rôle crucial à jouer dans ce processus. Pour lutter contre la désinformation et protéger l’intégrité des processus électoraux, l’UE a récemment publié des lignes directrices pour les grandes plateformes numériques.

MyCity – qui reste en version bêta – indique, dans ses avis d'utilisation, qu'il « peut occasionnellement produire du contenu incorrect, préjudiciable ou biaisé » et que les utilisateurs « ne devraient pas se fier à ses réponses comme substitut aux conseils d'un professionnel ».

Dans le même temps, il rapporte que le chatbot est « formé pour fournir des informations officielles de NYC Business » et est vendu comme un moyen « d’aider les propriétaires d’entreprises à naviguer dans le gouvernement ».

À The Markup, Andrew Rigie, directeur exécutif de la NYC Hospitality Alliance, a déclaré avoir trouvé des inexactitudes dans le robot et avoir reçu des rapports identiques d'au moins un homme d'affaires local.

Pour sa part, la porte-parole du Bureau de technologie et d'innovation de New York, Leslie Brown, a déclaré à The Markup que MyCity « a déjà fourni à des milliers de personnes des réponses précises et en temps opportun » et que « nous continuerons à nous concentrer sur la mise à jour de cet outil afin que nous puissions mieux soutenir les petites entreprises de la ville.

Lire aussi:

DrugGPT : un outil d’IA peut aider les médecins à prescrire des médicaments