纽约政府的人工智能聊天机器人 MyCity 传播假新闻

我的城市是一个 聊天机器人 de 人工智能 (AI) 在该市发布 纽约 去年10月。该工具本应通过提供有关当地立法和与市政厅相关的文章的信息来帮助城市居民，但在几个重要问题上一直对用户做出错误的响应。

市政厅在其发布公告中表示，聊天机器人将成为居民“节省时间和金钱的一种方式，通过立即向他们提供来自两千多个纽约商业网页和主题文章的有用且可靠的信息”例如遵守准则和法规、可用的商业激励措施以及避免违规和罚款的最佳实践。”

纽约市在地铁上测试人工智能枪扫描仪

为了应对最近的暴力事件，纽约市正在地铁系统上测试支持人工智能 (AI) 的便携式枪支扫描仪。该倡议由市长埃里克·亚当斯 (Eric Adams) 宣布，旨在制止暴力并提高乘客安全。

根据 ArsTechnica，一份报告来自 城市 做 标记， MyCity 向用户提供了有关市政府基本政策的错误信息。聊天机器人提供的虚假信息的一个例子是，它声称该市的住房建筑“不需要接受第 8 节优惠券”。但是，那 市政厅页面 纽约市经济适用住房委员会的说法恰恰相反：公寓楼的某些单元必须接受第 8 节优惠券。

MyCity 是一个聊天机器人，它使用基于代币的预测模型，并使用来自 Microsoft 天蓝色。它采用复杂的统计过程，分析数百万个标记来预测任何序列中下一个可能的单词。然而，这种方法并不意味着真正理解所传达的底层信息。

因此，当训练数据无法捕获问题的单一准确事实答案时，这可能会出现问题。

安全选举：欧盟要求采取措施打击深度造假和假新闻

欧盟（EU）已prome致力于确保自由和公平的选举，数字平台在这一过程中可以发挥至关重要的作用。为了打击虚假信息并保护选举程序的完整性，欧盟最近发布了大型数字平台指南。

MyCity（仍处于测试阶段）在其使用通知中声明，它“可能偶尔会产生不正确、有害或有偏见的内容”，并且用户“不应依赖其响应来替代专业建议”。

与此同时，他报告说，该聊天机器人“经过培训，可以提供纽约市商业的官方信息”，并作为“帮助企业主与政府打交道”的一种方式出售。

纽约市酒店联盟执行董事安德鲁·里吉 (Andrew Rigie) 向 The Markup 表示，他发现该机器人存在不准确之处，并从至少一名当地商人那里收到了相同的报告。

纽约技术与创新办公室发言人 Leslie Brown 告诉 The Markup，MyCity“已经为数千人提供了及时、准确的答案”，并且“我们将继续专注于更新这个工具，以便我们能够更好地解决问题”。支持全市的小企业。”

阅读：

DrugGPT：人工智能工具可以帮助医生开药

一种新工具可以提供处方“安全网”，并减少英格兰每年 237 亿次用药错误。