当全球最先进的人工智能模型即将面世，决定其“安全”与否的权力究竟掌握在谁手中？一段政府与AI公司之间的秘密对话，正成为整个行业最受瞩目的谜团。
不透明的安全审批：政府与AI巨头的闭门对话
据近期披露的信息，美国政府与OpenAI、Anthropic等前沿AI公司之间就模型安全评估进行了持续的沟通，但具体的对话细节至今未公开。一位熟悉内情的人士直言：“政府与Anthropic和OpenAI之间的对话到底是什么样子，仍不清楚。”这句隐晦的表述背后，折射出AI监管体系中一个关键但模糊的环节——政府在决定“前沿模型是否安全可发布”时所扮演的角色。
长期以来，AI行业的安全发布流程被视为企业自律的范畴。OpenAI在推出GPT-4、GPT-4o等模型时，都会发布一份“系统卡片”或安全评估报告，宣称已通过内部红队测试和外部审计。然而，随着美国政府2023年签署AI行政令、2024年成立AI安全研究所（AISI），联邦机构开始以更具主动性的姿态介入模型发布前的安全审查——但这种介入的具体形式、标准和法律效力，外界知之甚少。
谜题的核心：政府评估了哪些维度？
根据现有公开信息，政府与AI公司的对话可能涉及以下几个关键维度：
– 能力红线测试：模型是否具备自主复制、获取资源、编写恶意代码等“危险能力”？例如，OpenAI的“o系列”推理模型是否能在未经训练的情况下攻破网络安全挑战，已成为监管关注焦点。
– 对抗性攻击防御：在提示注入、越狱攻击等场景下，模型保持安全边界的稳健性如何？政府可能要求企业披露对“越狱”样本的检测率。
– 社会影响评估：模型在选举、医疗、金融等敏感领域的潜在危害，是否已被充分识别并加入内容过滤器？
但问题的关键在于：这些评估结果是如何被解读的？当一个模型被判定“有风险”时，政府能强制禁止发布吗？ 目前美国尚未出台类似于欧盟AI法案的硬性法规，更多依靠企业自愿承诺和行政指导。因此，所谓的“政府决定安全可发布”更像一种协商式背书，而非命令式审批。
黑箱的代价：公众知情权与产业竞争的博弈
这种不透明的对话机制，正在引发多方担忧。
一方面，若政府与某家头部企业达成“安全共识”，而细节不公开，其他中小型AI公司可能面临不公平竞争——他们无法得知所谓的“安全标准”究竟是什么，只能自行摸索。另一方面，公众看到的是模型顺利上线，却无从判断安全评估的真实严谨程度。当类似Deepfake、虚假内容生成等问题爆发时，监管机构难辞其咎。
更微妙的是，Anthropic作为一家以“安全第一”著称的公司，其与政府的对话可能与OpenAI存在显著差异。Anthropic曾公开呼吁对前沿模型实施可验证的监管机制，甚至主张在极端情况下暂停训练。若两家企业与政府的沟通路径不同，那么“安全”的定义本身也可能出现分化——究竟是统一标准，还是因企施策？答案藏在那场无人知晓的闭门会议中。
透明度的分水岭：从自愿承诺到法定披露
行业分析普遍认为，目前的混乱状态只是过渡期的必然阵痛。随着AI大模型的算力需求指数级上升，以及多模态能力的融合（如图像、视频生成），其潜在风险远超传统软件。美国政府已开始推动模型评估数据的强制公开议程，建立类似“食品标注”的透明度框架。
例如，美国AI安全研究所正探索发布“模型安全评级”，并建立公共数据库。倘若成为现实，未来每款前沿模型发布前，政府与企业的对话内容（至少是评估结果摘要）将必须向公众披露。这将是AI治理史上的分水岭——从封闭的专家密室走向阳光下的公众监督。
回到当下的悬念：当OpenAI的下一个前沿模型即将获批时，我们看到的将不再是“安全已确认”的简单声明，而是一份详尽的对话实录、测试数据与风险缓解方案。这一天或许不会太远。在此之前，每一个“不清楚”的细节，都在提醒我们：AI的信任，不能只靠闭门造车。