开放人工智能推出“锁定模式”以遏制聊天机器人中的提示注入风险

开放人工智能为敏感工作添加更严格的聊天机器人模式

开放人工智能推出了一项新的“锁定模式”，面向聊天机器人用户，旨在降低提示注入攻击的风险——这类攻击会将恶意指令隐藏在网页、文档或其他内容来源中。

公司表示，该模式针对处理敏感数据并希望获得更强保护以防止数据外泄的个人和组织。开放人工智能称，这并非面向所有人的设置，而是为需要更严格控制聊天机器人可访问内容和响应方式的用户提供的选项。

“锁定模式”会禁用若干可能扩大攻击面功能。用户将无法使用实时网页浏览，这意味着聊天机器人只能访问缓存内容。该模式还会关闭从网页检索和显示图片的功能，但仍然可以生成图片。此外，深入研究和代理模式也会被禁用。

开放人工智能提醒，这一设置并非万无一失。即便启用了“锁定模式”，聊天机器人仍可能受到出现在缓存网页内容或上传文件中的提示注入影响，这些注入仍可能影响回答的准确性或行为。公司表示，其目标是尽量降低在这些交互过程中敏感信息被暴露的可能性。

此次功能首先在自助式聊天机器人企业账户中推出，同时向符合条件的个人账户提供。

提示注入已成为一个日益令人关注的问题，尤其针对那些从网络和其他外部来源读取内容的人工智能系统，因为隐藏的指令可以改变模型行为而不为用户所察觉。开放人工智能的新模式正是对这一风险的直接回应，在用户希望获得更受控的环境时，缩减聊天机器人可用的工具。

来源：

• techcrunch.com

在 Doppler VPN Blog 阅读更多科技新闻。