.:. 草榴社區 » 技術討論區 » DeepSeek等中企被指非法挖取美AI模型能力
--> 本頁主題: DeepSeek等中企被指非法挖取美AI模型能力 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
度厄


級別:俠客 ( 9 )
發帖:556
威望:197 點
金錢:16089 USD
貢獻:0 點
註冊:2026-01-01


DeepSeek等中企被指非法挖取美AI模型能力





周一(2月23日),美国人工智能公司Anthropic表示,三家中国公司利用其Claude聊天机器人非法获取能力,以改进自身模型。Anthropic同时呼吁对高端AI芯片实施出口管制。

此前,另一家聊天机器人ChatGPT的研发公司OpenAI发布了一份备忘录,警告中国人工智能公司DeepSeek正以ChatGPT和Claude为目标,试图复制美国的AI模型并将其用于自身训练。

Anthropic在周三的博客文章中点名三家中国AI公司,分别是DeepSeek、Moonshot和MiniMax,指出这些公司使用约2.4万个虚假账户对Claude发起“工业级蒸馏攻击”,互动次数高达1600万次,违反服务条款和区域访问限制。

Anthropic指出,这些中国公司使用了“蒸馏”技术,即用强模型输出训练弱模型。换句话说,中国AI公司在非法挖取美国竞争对手的模型能力,以此节省研发时间与成本。

“这些攻击活动的强度和复杂性都在不断增强。采取行动的时间窗口很窄,而且威胁范围远超任何一家公司或地区。”声明说。

中国AI非法蒸馏 恐酿重大国家安全风险
Anthropic警告说,这些非法蒸馏出来的模型缺乏必要的安全保障,会造成重大的国家安全风险。

博客文章指出,“Anthropic和其它美国公司构建的系统,旨在防止国家和非国家行为体利用AI开发生物武器或进行恶意网络活动。”

“通过非法蒸馏构建的模型不太可能保留这些安全保障,这意味着危险能力可能会在许多保护措施完全失效的情况下迅速扩散。”文章补充说。

Anthropic进一步阐明中国AI非法蒸馏存在的国家安全风险。文章警告说,外国实验室如果能够提取美国的技术模型,就可以将这些未经保护的能力输入到军事、情报和监控系统中,可能使专制政府能够利用前沿AI开展网络攻击、虚假信息宣传和大规模监控。

“如果这些模型被开源,风险将成倍增加,因为相关能力会不受任何专制政府的控制而自由扩散。”文章说。

中国AI通过九头蛇非法代理访问
Anthropic表示,出于国家安全考虑,该公司目前不向中国境内及其中国境外的关联公司提供商业访问权限,因此一些实验室藉由商业代理服务与“转售API”的方式取得大规模存取权限。

这些代理商拥有被称作“九头蛇”的账号集群,同时控制上万个账号,将蒸馏流量混入正常客户请求,只要一个账号被封就立即补入一个新账号。

蒸馏攻击的特征是:大量、重复、集中于少数能力领域的prompt模式,而非一般多样化使用情况。

Anthropic表示,他们正在持续加大对防御措施的投入,以增​​加此类数据提炼攻击的实施难度,并提高识别难度。

DeepSeek训练AI更好地回答政治敏感问题
Anthropic指出,DeepSeek的非法行动旨在攻击跨多种任务的推理能力,并创建针对敏感政策查询的、不受审查的替代方案。

他们透露,DeepSeek要求Claude生成针对政治敏感问题——例如关于异见人士、政党领导人或威权主义的问题的、不受审查的替代方案,目的是训练DeepSeek自身的模型,以引导对话避开审查话题。

而Moonshot则针对智能体推理和工具使用,以及编码和数据分析。

MiniMax的目标是攻击智能体编码、工具使用和编排。在MiniMax尚未发布其正在训练的模型之前,Anthropic就发现了这场攻击活动。

Anthropic表示,他们发布新模型的时间恰值MiniMax的攻击活动期间,发现MiniMax在24小时内迅速调整策略,将近一半的流量转移到Anthropic新模型的攻击上。

DeepSeek、Moonshot和MiniMax均未立即回应置评请求。

Anthropic呼吁控制高端芯片出口中国
Anthropic在最近一轮融资中筹集了300亿美元,目前估值达3800亿美元。

该公司表示,中国AI公司的蒸馏攻击印证了美国对中国高端芯片出口管制的必要性,因为蒸馏攻击本身也依赖高阶芯片和大量算力。

博客文章说:“芯片访问限制既能降低直接模型训练能力,又能减少不当提取的范围。”

赞(30)
DMCA / ABUSE REPORT | TOP Posted: 02-24 07:06 樓主 引用 | 發表評論
怒吼旳蚂蚁


級別:聖騎士 ( 11 )
發帖:921
威望:233 點
金錢:9103 USD
貢獻:20000 點
註冊:2014-11-26


感谢分享
TOP Posted: 02-24 07:07 #1樓 引用 | 點評
烈焰白主


級別:騎士 ( 10 )
發帖:1423
威望:268 點
金錢:2553 USD
貢獻:10200 點
註冊:2025-11-24

中国企业脑子就是灵活
TOP Posted: 02-24 07:21 #2樓 引用 | 點評
杺訴


級別:騎士 ( 10 )
發帖:3824
威望:403 點
金錢:5656 USD
貢獻:0 點
註冊:2016-04-13

感谢分享
TOP Posted: 02-24 07:34 #3樓 引用 | 點評
写给晚安


級別:俠客 ( 9 )
發帖:351
威望:189 點
金錢:127 USD
貢獻:4157 點
註冊:2025-08-17

感谢分享
TOP Posted: 02-24 07:36 #4樓 引用 | 點評
cnmb9999


級別:俠客 ( 9 )
發帖:1134
威望:115 點
金錢:509 USD
貢獻:300 點
註冊:2014-09-04

国人的智慧又爆炸了
TOP Posted: 02-24 07:38 #5樓 引用 | 點評
rbz000


級別:俠客 ( 9 )
發帖:1897
威望:190 點
金錢:8693 USD
貢獻:0 點
註冊:2018-09-10

缺少创新精神,只要抄袭就行。
TOP Posted: 02-24 07:39 #6樓 引用 | 點評
shlth3886


級別:騎士 ( 10 )
發帖:3720
威望:344 點
金錢:3770 USD
貢獻:4 點
註冊:2011-06-06

谢谢分享
TOP Posted: 02-24 07:39 #7樓 引用 | 點評
311


級別:光明使者 ( 14 )
發帖:3270
威望:323 點
金錢:1358888957 USD
貢獻:486460 點
註冊:2011-06-06

打不过就抢 很合理啊
------------------------
@
TOP Posted: 02-24 07:39 #8樓 引用 | 點評
Nathan.ins


級別:新手上路 ( 8 )
發帖:399
威望:40 點
金錢:2766 USD
貢獻:0 點
註冊:2025-02-17

感谢分享
TOP Posted: 02-24 09:01 #9樓 引用 | 點評
糯香沱茶


級別:俠客 ( 9 )
發帖:678
威望:119 點
金錢:1753 USD
貢獻:150 點
註冊:2024-03-21

好像没什么毛病
TOP Posted: 02-24 10:39 #10樓 引用 | 點評
老李推车


級別:俠客 ( 9 )
發帖:2024
威望:203 點
金錢:6542 USD
貢獻:0 點
註冊:2023-08-25


感谢分享
TOP Posted: 02-24 10:43 #11樓 引用 | 點評
夏季的季风


級別:騎士 ( 10 )
發帖:901
威望:256 點
金錢:1507 USD
貢獻:2938 點
註冊:2025-11-05

不懂科技
TOP Posted: 02-24 10:56 #12樓 引用 | 點評
统计者降临


級別:俠客 ( 9 )
發帖:1489
威望:249 點
金錢:2835 USD
貢獻:0 點
註冊:2024-10-24

谢谢分享
TOP Posted: 02-24 15:06 #13樓 引用 | 點評
妮妮85


級別:精靈王 ( 12 )
發帖:15088
威望:1431 點
金錢:4823 USD
貢獻:19753 點
註冊:2015-06-20

感谢分享
TOP Posted: 02-24 15:47 #14樓 引用 | 點評
苏筱熙


級別:天使 ( 14 )
發帖:132805
威望:57652 點
金錢:108086 USD
貢獻:69 點
註冊:2012-09-01

谢谢分享
------------------------
7
TOP Posted: 02-24 15:50 #15樓 引用 | 點評
快乐的图灵


級別:精靈王 ( 12 )
發帖:25966
威望:2597 點
金錢:58300 USD
貢獻:0 點
註冊:2022-02-12

谢谢分享
TOP Posted: 02-24 16:30 #16樓 引用 | 點評
餐企服务商


級別:聖騎士 ( 11 )
發帖:6418
威望:642 點
金錢:10635 USD
貢獻:0 點
註冊:2024-10-11


黄眼带鱼
TOP Posted: 02-24 16:36 #17樓 引用 | 點評
中央妓委书记


級別:聖騎士 ( 11 )
發帖:6850
威望:716 點
金錢:2397 USD
貢獻:9800 點
註冊:2013-12-17

算力可以租赁,算力中心也可以建在境外。还有很多漏洞需要打补丁。
TOP Posted: 02-24 17:07 #18樓 引用 | 點評
料峭之春风


級別:精靈王 ( 12 )
發帖:12778
威望:1419 點
金錢:29239 USD
貢獻:0 點
註冊:2024-02-13

感谢分享
TOP Posted: 02-24 17:50 #19樓 引用 | 點評
归来的奥特曼


級別:騎士 ( 10 )
發帖:6286
威望:353 點
金錢:21683 USD
貢獻:999 點
註冊:2025-02-20

感谢分享
TOP Posted: 02-24 18:42 #20樓 引用 | 點評
这是个问题啊


級別:風雲使者 ( 13 )
發帖:66414
威望:6697 點
金錢:3 USD
貢獻:106889 點
註冊:2021-01-01

发帖辛苦
TOP Posted: 02-24 18:53 #21樓 引用 | 點評
沉睡的木玛


級別:風雲使者 ( 13 )
發帖:66414
威望:6797 點
金錢:3 USD
貢獻:106889 點
註冊:2018-11-16

支持发帖
TOP Posted: 02-24 18:53 #22樓 引用 | 點評
鸭打鹅


級別:風雲使者 ( 13 )
發帖:57334
威望:5707 點
金錢:3 USD
貢獻:29310 點
註冊:2022-02-02


感谢分享
TOP Posted: 02-24 18:54 #23樓 引用 | 點評
H萝卜干


級別:新手上路 ( 8 )
發帖:519
威望:56 點
金錢:2531 USD
貢獻:0 點
註冊:2024-12-06

AI发展这么快,必然有很多漏洞的,而且除了中国企业难道欧美日就没有企业或者个人蒸馏Open AI吗
TOP Posted: 02-24 19:39 #24樓 引用 | 點評

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交