
857次模型发布,只有9次同步拿出安全结果:AI快跑中的公开监督困局
SemiAnalysis调查九家中国人工智能开发商的857次模型发布,发现仅9次在发布时提供对应安全评测。文章讨论技术扩张背后谁能检验模型风险,以及监管为什么不应停在内容管制。
一家人工智能公司

SemiAnalysis调查九家中国人工智能开发商的857次模型发布,发现仅9次在发布时提供对应安全评测。文章讨论技术扩张背后谁能检验模型风险,以及监管为什么不应停在内容管制。

Anthropic威胁报告披露,中国关联行为者使用Claude协助反鱼雷火控方案、台湾防空压制模拟与定向能武器情报搜集。路德社关注AI武器化风险。

中国外交部反驳Anthropic CEO要求限制先进AI技术对华出口;国家安全部部长陈一新同时把AI风险直接与“政治、制度和意识形态安全”相连。川习会前,中美AI治理争论正从技术安全升级为国家安全竞争。

美国Federal Register网站一度使用阿里Qwen模型提供AI搜索,随后撤下。目前没有证据显示机密数据泄露,但事件暴露政府采用开放权重AI时的采购、数据流向、模型来源和安全审查规则仍不清晰。

中美都开始讨论AI失控、代理安全和模型滥用,但治理路径与国家安全判断明显不同。真正可操作的合作不在互相信任,而在事故报告、独立评测、操作日志、紧急停止和责任追踪等可验证机制。

Anthropic称Moonshot、DeepSeek、小米等中国AI公司曾把部分真实用户请求转发给Claude,再将回答和推理轨迹用于模型蒸馏;材料涉及国企代码、公安身份与行踪数据。报告同时揭出阿里、智谱等通过代理账户大规模提取Claude能力,形成从用户数据到模型转运站再到训练回流的灰色链条。

Anthropic披露多起中国关联的Claude滥用案例,涉及追踪维吾尔人、整理宗教与政治人物资料,并生成针对西藏人、台湾政治人物及活动人士的“政府式”监控报告。报告显示,生成式AI正把人物筛选、情报整理和跨境监视进一步自动化。

Anthropic披露,与中国地方公安、国安系统相关的操作者曾借Claude建立“维稳”监控流程,“李老师不是你老师”被列为监控对象。报告还涉及10名境内公民及海外人权组织,显示监控正向自动化、跨境化扩展。

Anthropic最新威胁情报披露,与中国利益相关的行为者曾利用Claude处理针对维吾尔人、西藏人、台湾政治人物及活动人士的监控材料。生成式AI正把人物识别、文本筛选、关系整理和报告生成接入既有数字监控体系,使政治监控与跨境压制进一步自动化。

美国官员指控DeepSeek等六家中国AI企业大规模调用美国模型进行“蒸馏”,并将争议上升至知识产权与国家安全层面。北京否认,美方尚未公开足以支撑全部指控的完整技术证据。