![]()
周一（2月23日），美国人工智能公司Anthropic表示，三家中国公司利用其Claude聊天机器人非法获取能力，以改进自身模型。Anthropic同时呼吁对高端AI芯片实施出口管制。
此前，另一家聊天机器人ChatGPT的研发公司OpenAI发布了一份备忘录，警告中国人工智能公司DeepSeek正以ChatGPT和Claude为目标，试图复制美国的AI模型并将其用于自身训练。
Anthropic在周三的博客文章中点名三家中国AI公司，分别是DeepSeek、Moonshot和MiniMax，指出这些公司使用约2.4万个虚假账户对Claude发起“工业级蒸馏攻击”，互动次数高达1600万次，违反服务条款和区域访问限制。
Anthropic指出，这些中国公司使用了“蒸馏”技术，即用强模型输出训练弱模型。换句话说，中国AI公司在非法挖取美国竞争对手的模型能力，以此节省研发时间与成本。
“这些攻击活动的强度和复杂性都在不断增强。采取行动的时间窗口很窄，而且威胁范围远超任何一家公司或地区。”声明说。
中国AI非法蒸馏 恐酿重大国家安全风险
Anthropic警告说，这些非法蒸馏出来的模型缺乏必要的安全保障，会造成重大的国家安全风险。
博客文章指出，“Anthropic和其它美国公司构建的系统，旨在防止国家和非国家行为体利用AI开发生物武器或进行恶意网络活动。”
“通过非法蒸馏构建的模型不太可能保留这些安全保障，这意味着危险能力可能会在许多保护措施完全失效的情况下迅速扩散。”文章补充说。
Anthropic进一步阐明中国AI非法蒸馏存在的国家安全风险。文章警告说，外国实验室如果能够提取美国的技术模型，就可以将这些未经保护的能力输入到军事、情报和监控系统中，可能使专制政府能够利用前沿AI开展网络攻击、虚假信息宣传和大规模监控。
“如果这些模型被开源，风险将成倍增加，因为相关能力会不受任何专制政府的控制而自由扩散。”文章说。
中国AI通过九头蛇非法代理访问
Anthropic表示，出于国家安全考虑，该公司目前不向中国境内及其中国境外的关联公司提供商业访问权限，因此一些实验室藉由商业代理服务与“转售API”的方式取得大规模存取权限。
这些代理商拥有被称作“九头蛇”的账号集群，同时控制上万个账号，将蒸馏流量混入正常客户请求，只要一个账号被封就立即补入一个新账号。
蒸馏攻击的特征是：大量、重复、集中于少数能力领域的prompt模式，而非一般多样化使用情况。
Anthropic表示，他们正在持续加大对防御措施的投入，以增加此类数据提炼攻击的实施难度，并提高识别难度。
DeepSeek训练AI更好地回答政治敏感问题
Anthropic指出，DeepSeek的非法行动旨在攻击跨多种任务的推理能力，并创建针对敏感政策查询的、不受审查的替代方案。
他们透露，DeepSeek要求Claude生成针对政治敏感问题——例如关于异见人士、政党领导人或威权主义的问题的、不受审查的替代方案，目的是训练DeepSeek自身的模型，以引导对话避开审查话题。
而Moonshot则针对智能体推理和工具使用，以及编码和数据分析。
MiniMax的目标是攻击智能体编码、工具使用和编排。在MiniMax尚未发布其正在训练的模型之前，Anthropic就发现了这场攻击活动。
Anthropic表示，他们发布新模型的时间恰值MiniMax的攻击活动期间，发现MiniMax在24小时内迅速调整策略，将近一半的流量转移到Anthropic新模型的攻击上。
DeepSeek、Moonshot和MiniMax均未立即回应置评请求。
Anthropic呼吁控制高端芯片出口中国
Anthropic在最近一轮融资中筹集了300亿美元，目前估值达3800亿美元。
该公司表示，中国AI公司的蒸馏攻击印证了美国对中国高端芯片出口管制的必要性，因为蒸馏攻击本身也依赖高阶芯片和大量算力。
博客文章说：“芯片访问限制既能降低直接模型训练能力，又能减少不当提取的范围。”
赞(30)