中美都谈AI失控，却互把对方视为风险源：全球AI安全缺的是可验证的责任机制

人工智能安全正在从技术圈争论进入中美高层议程。美国财政部长贝森特与中国国务院副总理何立峰在习近平访美前的纽约磋商中，计划讨论AI安全、开放权重模型以及防止滥用的“护栏”；习近平与特朗普下周在华盛顿会晤时，AI治理也被列入可能讨论的议题。

真正困难的地方并不是两国是否承认风险，而是谁来定义风险、谁负责验证安全、出现事故后由谁承担责任。美联社本周梳理中美AI治理分歧时指出，双方都担忧先进模型被滥用或失控，却同时怀疑对方借“安全”维护技术优势或扩大政治控制。全球治理因此面临一种悖论：最有能力影响AI规则的两个国家，也是彼此最缺乏信任的两个国家之一。

“安全”已经不是同一个词

美国当前的AI安全争论主要围绕前沿模型开发者、第三方评测和政府监管之间如何分工。路透社报道，OpenAI首席执行官Sam Altman主张引入类似航空业的独立监督机制；Anthropic首席执行官Dario Amodei支持逐步形成更强的行业和国际安全标准；英伟达首席执行官黄仁勋等人则担心新增法律会拖慢创新。特朗普政府总体上更强调保持美国技术领先，并对广泛的联邦监管持谨慎态度。

中国的路径更偏向政府制定标准、企业承担合规义务和监管机关进行安全评估。公开政策文件近年已经把生成式AI、算法推荐、数据安全和AI代理纳入监管体系。中国正在制定AI智能体安全国家标准，政策讨论中也开始出现“运行失控”、数据投毒、算法操纵和系统漏洞等风险概念。

两套体系并非简单的“一个监管、一个不监管”。美国大型AI公司拥有较强的内部安全团队和第三方评测生态，但政府层面的统一监管框架仍存在争议；中国拥有更集中化的行政监管能力，但外界对独立评测机构能否在企业与监管部门之外真正发挥监督作用存在疑问。

开放权重模型让责任链更难划清

中美差异在开放权重模型上尤其突出。中国多家头部AI企业通过开放或较低成本模型迅速扩大海外采用，而美国最先进的商业模型多数仍保持较强的封闭性。开放权重有利于研究者、开发者和中小企业低成本使用与修改模型，但模型一旦被下载、再训练和重新部署，原开发者对下游用途的控制能力就会下降。

这也是贝森特与何立峰会谈将开放权重模型列入议题的原因之一。路透社报道，美国官员希望讨论如何在不完全阻断开放生态的前提下，对高风险能力、恶意用途和自主代理行为设置可执行护栏。

问题在于，单纯要求“企业负责”并不能覆盖整个责任链。一个基础模型可以由A公司训练，被B平台托管，由C开发者接入代理系统，再通过D企业部署到医疗、金融、工业或公共服务场景。出了事故，究竟是训练数据、模型能力、部署环境、权限设置还是使用者操作造成，往往需要完整的日志和独立调查才能判断。

AI代理把“模型犯错”变成“系统采取行动”

安全争论之所以在2026年明显升温，与AI代理快速进入真实业务有关。与只生成文字的聊天机器人不同，代理系统可以调用软件、浏览网页、写代码、操作数据库甚至执行交易。系统一旦拥有持续权限，错误就可能从一次错误回答扩大为连续行动。

中国监管文件开始要求AI代理具备发现、干预、阻断和恢复能力，并强调涉及自主决策时应告知用户、保留最终人工控制。美国科技公司则通过内部红队、权限隔离、外部评估和“停止开关”等方式探索类似问题。技术路径可以不同，但责任问题最终相通：高风险系统必须能够被追踪、暂停和复盘。

真正可谈的不是谁相信谁，而是谁接受验证

中美AI竞争短期内不会因为一次峰会消失。芯片出口管制、模型访问限制、人才竞争以及国家安全审查仍会继续影响双方政策。把AI安全完全建立在政治互信上并不现实。

更具有可操作性的合作空间，是建立最低限度、可验证的共同机制。例如，对严重AI安全事故采用兼容的报告分类；为高风险代理保留可审计的操作记录；允许经过认证的第三方使用共同测试集进行能力和滥用评估；在模型出现跨境网络攻击、生物安全或关键基础设施风险时，建立政府之间的紧急通报渠道。这些并不要求双方采用相同政治制度，也不意味着放弃技术竞争。

相反，如果“安全”只成为限制对方芯片、模型和市场准入的另一种政治语言，而本国企业和监管机构无需接受同样严格的验证，所谓全球AI治理就很难建立可信度。无论是企业自律、政府许可还是国家标准，最终都应落到同一问题：出现重大风险时，谁知道发生了什么，谁有权立即停止系统，谁保存证据，谁承担法律责任。

习近平与特朗普会谈或许无法形成一套完整的中美AI安全协议，但如果双方能够把讨论从抽象的“领先”与“威胁”推进到事故报告、代理权限、模型评测和紧急联络这些具体机制，就至少能为竞争设下一些可核验的边界。AI安全真正需要的不是彼此保证善意，而是让任何一方的系统在出问题时都能够被看见、被追踪并被追责。