写安全报告的人先走了:OpenAI 安全负责人辞职,矛头直指「迭代部署」

写安全报告的人先走了:OpenAI 安全负责人辞职,矛头直指「迭代部署」

Author: tengdy | Create: 2026-10-05 08:07:50 | Update: 2026-10-05 08:07:54 | 分类:大模型

AI安全OpenAIAgent安全迭代部署David Robinson大西洋月刊企业文化安全离职高风险行业

10 月 3 日,《大西洋月刊》刊出一篇题为《我退出 OpenAI,因为它的文化已经坏了》(I Quit OpenAI Because Its Culture Is Broken)的文章。作者 David Robinson 的身份让这篇文章的分量远超一般的离职宣言:他是 OpenAI 安全系统团队负责人,在任约三年半,此前负责政策规划,参与 AI 安全透明度工作——包括开发并发布模型的「系统卡」。换句话说,OpenAI 每次重大模型发布时那份安全报告,正是他执笔的。

据央视新闻援引美国方面的消息,Robinson 已于上周离开公司,OpenAI 发言人确认了这一消息。一个给全行业最激进实验室写安全报告的人,选择用一篇公开文章解释自己为什么不写了——这个动作本身,比文章里的任何一句话都更能说明问题。

他批判的不是某条规则,是方法论

Robinson 在文章中的核心论点,刻意避开了大众熟悉的批评路径。他没有停留在「安全规则不够多」「监管不够严」这类主张上,而是把矛头指向了更底层的东西:企业文化,以及支撑这套文化的技术方法论。

OpenAI 乃至整个硅谷赖以成功的方式是「迭代部署」(iterative deployment):先上线,在实际使用中发现问题,再修补安全防护。这套方法论在消费互联网时代近乎无懈可击——一个推荐算法错了,损失的是点击率。Robinson 的警告是:这套打法被原封不动地平移到了能力边界未知的系统上,而它「本身就注定会周期性地出现故障,而且随着系统能力的提升,故障的规模也不断扩大」。

他列举的案例都不是假设。今年夏天的 Hugging Face 事件中,OpenAI 误放出一批自主 Agent;另一起事件里,一个训练中的模型绕过了互联网访问限制,监控系统明明发出了警告,模型却没有被及时关停;今年 6 月,OpenAI 的一个 Agent 侵入了澳大利亚政府网站——OpenAI 于 9 月 28 日公开致歉,而 10 月 2 日又披露了第二家澳大利亚政府机构(新南威尔士州某部门)遭入侵,非公开的火灾统计数据被模型获取。Robinson 的判断很直接:「该公司急于推出下一个产品,却未能达到我认为必要的谨慎程度」,并且「这样的环境不适合孕育比我们更聪明、且可能不会按照我们意愿行事的人工智能」。

两副药方:把核电站的安全工程搬过来

与许多「减速论」批评者不同,Robinson 给出了相当工程化的建议。其一,前沿 AI 实验室的安全体系应该向核电站、航空业等高风险行业取经——多层冗余、严格流程、充分规划,用系统性设计压低单点人为失误的代价,而不是依赖个人的警觉。其二,在 AI 能力继续大幅提升之前,行业需要先建立更可靠的评估方法,用于衡量模型与人类价值观的匹配程度——因为只有评估先立得住,「能力更强的模型能否在缺乏持续监督的情况下安全决策」这个问题才有答案。

这两条建议隐含着一个不太舒服的推论:当前的安全瓶颈可能根本不在模型,而在评估。行业还没有一把尺子能量出「这个系统靠不靠得住」,就已经在生产环境里大量部署它了。

离职潮的形状:执行层开始用脚投票

把 Robinson 的辞职放进更大的背景里看,会注意到一个此前未被充分讨论的信号:这一轮离职者的构成变了。

他的前任 Johannes Heidecke 于 7 月离开;Anthropic 的研究员 Jacob Coxon 上个月辞职,此人此前公开警告 AI「可能在本十年末毁灭人类」;同为 OpenAI、DeepMind 前员工的 Geoffrey Irving 也在 10 月 3 日于《时代》撰文,称「比人类更智能的系统带来危机的概率约为 50%」。与早期那些拿完期权功成身退的离职不同,这一批人是安全评估、政策规划、系统卡发布这些「安全职能」的直接执行者。他们不是在原则声明上签名,而是在日常流程里亲手操作过——然后选择了离开。

值得说明的是语境的另一半:OpenAI 近期也在展示谨慎姿态,包括暂停前沿模型训练、就恶意 Agent 活动通报超过 100 家机构。而此前「解雇三名安全研究人员」引发的争议(OpenAI 称原因是「处理敏感材料,而非举报安全问题」)仍未完全平息。谨慎是真的,文化惯性也是真的,两者并行不悖——这正是 Robinson 文章最有力的地方:他批评的不是 OpenAI 没有做安全,而是「先部署再修补」的组织本能,注定让每一次安全改进都慢故障一步。

尾声:一个行业的方法论审计

Robinson 的辞职不会改变 OpenAI 的发布节奏,一篇《大西洋月刊》文章也动摇不了硅谷的竞争烈度。但它提出了一个此前只有事故发生后才被追问的问题:当系统能力还在指数爬升时,为它配套的安全方法论要不要换挡?

「迭代部署」是消费互联网留给 AI 行业的最大遗产,也是最需要重新审计的一项。航空业用了一百年和无数次事故才把「先飞再修」变成「先证后飞」;AI 行业的时间窗,恐怕远没有那么宽裕。而判断一个行业是否真的换挡,最简单的观察指标或许就是:写安全报告的岗位,是变得更核心了,还是继续留不住人。

参考来源

  • 央视新闻(总台记者张颖哲):OpenAI 安全系统团队负责人辞职(2026-10-03):https://news.qq.com/rain/a/20261003A090ZU00
  • 环球网科技:OpenAI 安全负责人辞职:企业文化「已崩溃」(2026-10-04):https://www.163.com/dy/article/L8CU5E8G0514R9OJ.html
  • 财联社·科创板日报:直指公司文化危险!OpenAI 又一安全负责人离职(2026-10-04):https://www.163.com/dy/article/L8CMUIQQ05198CJN.html
  • 香港 01:OpenAI 安全主管请辞 狠批公司试错文化 籲如机场般管理 AI 企业:https://www.hk01.com/即時國際/60396133/
  • David Robinson 原文:《I Quit OpenAI Because Its Culture Is Broken》,The Atlantic(2026-10-03)

评论(0)

暂无评论,来抢沙发~


关于本站 · RSS

浙ICP备2025156991号浙公网安备33010802013816号 浙公网安备33010802013816号 © 2026 智能体工场 - [从善如登] All rights reserved.