Anthropic与OpenAI日前双双表态，计划将独立安全评估员“嵌入”自家AI研发实验室内部。这一罕见举动让研究者们看到了前所未有的访问权限，但在欢迎之余，他们更担心：如果缺乏透明度、独立性和最终的外部监管，这种“嵌入”恐怕只是另一种形式的“透明表演”。
事件背景：两家头部实验室的同向选择
Anthropic与OpenAI长期以来在AI安全话语上竞争激烈，如今却在同一件事上达成默契——允许外部评估人员深入实验室内部，对模型训练、部署前测试以及红队演练进行实时监督。过去，外部安全评估多发生在模型发布之后，或仅凭有限的API访问进行“黑盒测试”，评估者难以触及训练数据、强化学习奖励设置、系统提示等核心环节。此次“嵌入式”安排，理论上意味着评估人员将获得更接近工程师的视角，能够观察模型在开发过程中的行为变化，而不仅仅是最终产品。
这一动向并非凭空而来。美国AI安全研究所（US AI Safety Institute）今年陆续与多家前沿实验室签署测试协议，而加州一项约束AI开发的法案虽被州长否决，却让业界意识到“自证安全”时代即将终结。在这种压力下，主动开放内部评估权限，既是姿态，也是策略。
关键细节：研究者怎么看？
前所未有的访问权限
多位参与过外部评估的学者指出，能够进入实验室内部是一大进步。传统评估如同拿着温度计探测病人，而嵌入式评估则像是给医生一个听诊器——虽然仍非透视，但已能近距离听到模型的“心跳”。这些评估员可以查看训练日志、复现关键实验、询问工程师设计意图，甚至参与风险触发条件的讨论。这种开放性在AI行业几乎从未有过。
独立性的三重疑问
但“嵌入”本身就带有风险。评估员吃谁的饭、住谁的楼、用谁的设备？如果薪酬由实验室支付、工作场所设在实验室内部、研究数据最终归实验室所有，那么他们的结论还能否保持中立？研究者们普遍担忧，缺乏财务独立和行政独立的评估员，很难对雇佣自己的对象下狠手。即便个人意志坚定，组织文化的同化也会慢慢削弱批判性——人是环境的产物。
透明度才是真正的试金石
研究人员强调，嵌入不等于透明。一个健康的评估体系需要公开评估标准、方法、发现以及相应用户的反应措施。但目前Anthropic和OpenAI均未承诺披露完整评估报告，也未说明哪些失败案例会被公之于众。如果评估结果经过法律部门“消毒”后才发布，“独立”就只剩下象征意义。
最终需要监管兜底
多位受访者不约而同地提到同一个词：监管。自愿性的入驻评估，无论设计多精巧，都会因商业竞争压力而变形。当营收压力上升，实验室对安全评估的容忍度必然下降。只有法律明确规定了评估者的独立地位、权限边界、报告公开义务以及违规后果，这种嵌入才真正具有约束力。否则，它只会成为一场可随时中止的公关表演。
行业意义：从“内部安全”走向“外部审视”的转折点
这两家公司的做法哪怕有瑕疵，也标志着AI安全治理从“自说自话”向“他人监督”迈出了一步。过去数年间，前沿AI模型的研发几乎处于黑箱状态，公众只能通过事后报告和解读性文章了解安全措施。安全评估员入驻实验室，相当于在密闭房间内安装了摄像头——虽然角度有限，但至少能让人看见一些真实发生的画面。
这一模式能否持续，将直接影响其他实验室的决策。如果Anthropic和OpenAI通过开放评估获得了公众信任并规避了监管风险，其他AI开发商大概率会跟进。反之，如果这次尝试只是公关噱头，反而会透支学术界和监管部门对“自愿安全承诺”的信任，让未来的强制监管变得更急迫、更严格。
更深远的影响在于，它可能开创一种“嵌入式外部监督”的新范式。类似审计师进驻上市公司、检察官进驻要害部门，AI领域正在发展出属于自己的监督职业。尽管目前的嵌入安排还处于实验阶段，但方向已经清晰：保证AI安全，不能只靠实验室的自觉，那既不透明，也不独立。