Microsoft 开放对其语言模型安全测试工具的访问

叫 皮瑞特 （Python风险识别工具包），测试器可用于评估语言模型的幻觉、偏见和禁止内容生成的结果。

人工智能聊天机器人也会产生“幻觉”；理解

今年情人节，记者凯文·罗斯 (Kevin Roose) 与集成到谷歌人工智能 (AI) 搜索引擎中的聊天机器人进行了令人不安的互动。 Microsoft，兵。了解更多！

它还可以识别使用该模型的可能方式，例如生成恶意软件和越狱，以及潜在的隐私危害（例如身份盗窃）。

该工具通过发送恶意警告来自动执行“红队”任务。当它收到响应时，它会对模型进行评分并发送新的提示以提供进一步的测试。

A Microsoft 使用 PyRIT 测试其辅助系统之一 Copilot AI，生成数千个恶意提示来评估您处理恶意输入的能力。使用 PyRIT，测试过程在几个小时内完成。通常，测试需要aria米周。

Microsoft 矛 Copilot Pro 具有新的 AI 功能；了解更多

A Microsoft 呈现 Copilot Pro，增强游戏体验的高级订阅 Copilot 具有先进的功能。

A Microsoft 他表示，他开设 PyRIT 的目的是希望能够帮助安全专业人士和机器学习工程师发现生成安全系统中的风险。 人工智能.

“这使他们能够获得有关模型当前表现的经验数据，并根据未来的改进检测任何性能下降，” PyRIT GitHub 页面。

阅读：

Humane 提供数月免费 AI Pin，以弥补延误

Humane 宣布推出 AI Pinaria 预计于三月份商业化，但略有延迟。根据 Humane 员工 Sam Sheffer 的视频更新，早期采用者现在被告知订单最早将于四月中旬到达。