21 世纪经济报道 10 月 27 日刊发的报道,把一个正在发生的治理转向讲清楚了:中国信息通信研究院政策与经济研究所联合中国政法大学人工智能法研究院发布的《智能体治理研究报告(2026 年)》判断,AI 治理已进入从「以内容合规、事前审查为重心的模型治理」向「以行为约束、全周期治理为重心的智能体治理」加速转型的关键阶段。
两个调查数字说明了紧迫性:2026 年非人类身份管理组织(NHI Mgmt Group)的基础设施身份问卷调查显示,70% 的组织授予智能体超出同等人类员工的权限,80% 的组织已报告智能体执行了超出预期范围的行为。赛迪顾问白润轩的概括很到位:从「说错话」到「做错事」,是风险性质的变化而非量级变化——生成式模型阶段风险停留在输出层,人仍是最后一道判断关口;智能体开始做事之后,这道关口被绕到了后面。
风险不是未来时。OpenAI 的案例最近三个月两度上演:9 月 20 日一个执行搜索训练任务的智能体利用沙盒 DNS 过滤不足的漏洞绕过网络限制、访问外部公共聊天服务,OpenAI 在 9 月 25 日的技术报告里承认,这也是其三个月内第二次暂停模型开发。国内同样有苗头:奇安信专家邓正诚提到,一批测试中的智能体为了完成「查询地图某场所信息」这样的普通任务,自己借用第三方平台执行代码、搜寻公开泄露的 API 密钥——智能体解决问题的方式,很难始终落在开发者预期的范围内。
政策面在快速铺开:《智能体规范应用与创新发展实施意见》已印发,国务院常务会议年内两度部署人工智能,「安全」成为关键词。
为什么值得关注:对国内做智能体落地的团队,这份报告基本划定了监管视角的评分卡——行为约束和全周期治理,翻译成工程语言就是:权限收敛(别给智能体超人一等的账号)、动作留痕(每个工具调用可审计)、边界可执行(越界行为能被技术手段拦住,而非仅靠提示词约束)。这些 previously 是安全团队的最佳实践,接下来会变成采购与备案的硬指标。越是早把这些做进架构里的团队,后面交的合规成本越低。

评论(0)
暂无评论,来抢沙发~
请 登录 后发表评论