AI 江湖

AI江湖的蒸馏术:谁在传功,谁在偷师,谁的护城河是纸糊的

AISillyMD达程 2026-11-10 13 分钟阅读
Read the English version →
深度 · 大模型

AI江湖的蒸馏术:谁在传功,谁在偷师,谁的护城河是纸糊的

一场赔了 15 亿美元的连环局,和一门谁也守不住的手艺

2026 年,西境最负盛名的那家门派,账本上并排躺着两行数字。

一行是赔出去的:15 亿美元。因为它门下的弟子入门时,从几处盗版书库"借"走了七百多万本书,其中四十八万本被作者们告上了公堂。

另一行是收进来的:16 亿到 23 亿美元。按它自己在招股书里的说法,这笔钱来自那些"违反门规"的客户——多是拿它的武功去喂自家弟子的别派人士。

一边当贼,一边抓贼。一边为"拿别人的"付了账,一边靠"别人拿它的"挣了钱。

这不是什么江湖秘闻。这是 2026 年 AI 江湖的日常。

而这一切都绕不开一门手艺。它不在任何门派的招式图谱上,却决定了谁能活下去。

它叫蒸馏。

读到最后你会发现,被这门手艺照穿的,不只是几家的护城河,而是整个江湖对"什么才算本事"的误解。

· · ·

一、先定位置:蒸馏是"传功",不是"创功"

江湖上衡量一门功夫,历来只看两件事:能不能创出新招,能不能把旧招传下去。

蒸馏属于后者。

2015 年,Hinton 等三位前辈在 Google Brain,把江湖上零散的"压缩内力"法门收了拢,正式立了门户,取名知识蒸馏。

说白了就一句话:

大宗师出手极贵,一招一式都是钱。于是有人想了个办法——让一个资质尚可的弟子,去模仿宗师的每一个动作、每一句指点,把宗师的"感觉"压缩进一副轻巧身板。

弟子不必重走宗师的苦修路,跟着反复模仿,就能在短时间内拿到七八成火候。永远到不了十成,但架不住便宜、轻快、随叫随到。

这门手艺有三个特征,请记住,全文的骨头都在这儿:

  • 只搬运,不创造。宗师今天会的,弟子才学得会;宗师不会的,蒸一百遍也蒸不出来。
  • 必有损耗。越是长程推理、复杂工具调用这种硬功夫,损耗越大。
  • 极度依赖"意会"。真正值钱的不是招式图谱,是口传心法。

三个特征,同时解释了它为什么好用、为什么危险、为什么注定只能让追赶者接近、却无法超越。

二、传功的诀窍:藏在"意会"里的暗知识

先说个反常识的事:拜师学艺,最没用的就是"标准答案"。

传统练法给的是硬标签——这一招是"猫"就是猫,别的全算错。干脆,但信息极少。

宗师不这么教。你问它这是啥,它给你一整套"感觉":猫七成、狗两成、汽车半成。

这套感觉,江湖上叫软标签。它的妙处在于藏着一层师父没明说、却千金难买的暗知识——猫和狗更像,跟汽车八竿子打不着。

弟子学到的不只是答案,是师父怎么判断。

为了让这层暗功夫显形,宗师还会调一个叫温度的旋钮,把原本压得扁扁的感觉重新吹鼓起来。火候不到,心法不显;火候过了,又成了糊话。

蒸馏偷的不是答案,是判断的方式。

所以后文你会看到,防守方拼死要锁住的,也正是这一层——它把自家宗师的思维链先摘要、再示人。据 Anthropic 自己公布的数据,对手拿摘要去炼,代码能力测试从 80.4% 掉到 71.8%。

一招摘要,掉近九个百分点。这就是"意会"的分量。

三、三条门路:白盒、黑盒、在线

同样是传功,能拿到多少东西,取决于你和宗师的关系。

门路 你能拿到什么 代表
白盒 经脉全图:权重与每步输出 TinyBERT、MiniLM
黑盒 隔着墙听:只有 API 回答 Alpaca、Vicuna
在线 当面点评:学生先答、教师评判 GKD、R1 蒸馏系

白盒精度最高,前提是你进得了山门。黑盒没有权重,只有 API,唯一办法是海量提问、把回答抄成秘籍——2023 年斯坦福那套 Alpaca 就是这么干的:五万二千条指令,成本不足千美元,训出一个能说会道的弟子。

在线最见功力:弟子先自己出招,师父在旁边看着,错了就纠正、对了就点头。这条路最能修正"偏科"。

第三条路上最漂亮的一仗,是 2025 年开年的 DeepSeek-R1。

它把自家独门推理心法凝成约八十万条样本,一口气渡给了六个身板轻便的弟子——从 15 亿参数到 700 亿参数,底座取自 Qwen2.5 和 Llama3。小弟子们在数学推理上一鸣惊人,甚至压过了同辈。

这就是传功的威力:推理成本能砍掉一到两个数量级。

武功从此可以下山。可以装进端侧设备,可以在不联网的角落里跑,可以让用不起宗师的穷门派也有一战之力。

所以蒸馏本身,无罪。

四、江湖恩怨(上):西境名门的连环指控

有罪的是另一件事:你没拜师,却把师父的谱抄走了。

2025 年 9 月,Anthropic 第一次公开指称:有实验室在成建制地蒸馏 Claude。此后一年,指控一路加码,成了连环局。

  • 2026 年 2 月,点名 DeepSeek、月之暗面、MiniMax,称三家造了约 2.4 万个虚假账号,套走逾 1600 万次交互。
  • 2026 年 6 月,致信美国国会议员,指控与阿里通义相关的操作者实施了"迄今最大规模"的蒸馏——约 2.5 万个账号、2880 万次交互。
  • 2026 年 9 月 10 日,一份威胁情报报告把名单扩到七家:阿里、月之暗面、DeepSeek、智谱、小米、商汤、MiniMax;三个月累计近 2 亿次交互,其中阿里单家约 1.51 亿次。

它的反制也一路升级:先摘要思维链,再上双层分类器,最后干脆从 9 月 24 日起——被判定为蒸馏的请求,拦了,但照常扣费。

按它的说法,这些措施把被套走的数据砍掉了 90% 到 99%。

听起来,是名门护法,铁证如山。

但请停一下。

这套数字,全部来自 Anthropic 自家的监测系统。没有第三方核验,没有公开完整取证链,被点名的几家里,阿里明确否认,其余多家不作回应。而整整一年,这份"史上最大规模"的指控,没有一天进过法院。

它把对手送进了听证会,而不是法庭。

这不是说指控一定不成立。而是说,一场本该由六扇门裁决的江湖纠纷,被搬到了朝廷的议事厅里。

五、江湖恩怨(下):抓贼者的自家账本

几乎是同一时间,抓贼的那位,自己也被扒了个底朝天。

2024 年 8 月,三位作者带头起诉 Anthropic:你拿我们的书练功,钱给了吗?

2025 年 6 月 23 日,法官 Alsup 给出了一份极漂亮的裁定,把三件事分得清清楚楚:

  • 用书训练模型——合理使用。因为它学到的是"写法",不是"抄书"。
  • 买来纸质书、扫描入库——合理使用。
  • 从盗版站下载七百多万册、建永久书库——不是合理使用。

法官的意思很直白:你可以买,但你不能偷。

据解封的案卷,为了拿到"干净"的心法,这家门派还干过更狠的事:成批买下二手实体书,用液压切书机把书脊切开,高速扫描,然后把书送去回收。内部文件里的原话是——"破坏性地扫描全世界的书"。

2026 年 7 月 20 日,法院最终批准了那份和解:15 亿美元,覆盖 48.2 万部作品,约合每部 3000 美元,并须销毁全部盗版副本。

同一份招股书里还有另一行:反蒸馏措施让它的季度环比增速,从约 140% 掉到了 45%。

这就构成了整个江湖最锋利的一组对照:

它把自己交给了法院,却把对手交给了国会。

一家门派愿不愿意接受中立的裁决,是它道德成色最硬的证据。在能用法律的地方用法律,在法律不好用的地方换用国家机器——这不是双标,这是选择。

六、拆解"你抄我我抄你":三件事,不能混为一谈

江湖上现在流行一句话:大家都在抄,凭什么只说我?

这话有道理,但它把三件事揉成了一团。

第一件:用灰色地带的数据练功。这是全行业的原罪,没有一家干净——切书脊就是明证。它属于整个江湖共同面对的规则空白,不是哪一派的独家污点。

第二件:模仿能力与方法。看对方论文、跑对方模型、学对方思路。这是正常的武学切磋,是创新扩散,每一代江湖都如此。说它是竞争方式,完全成立。

第三件:成建制地绕过防线、抽取对方输出。数万假账号、上亿次对话——如果属实,这就不是"抄",是工业化的偷师。

前两种是竞争,第三种是越界。但双方都刻意不做这个区分——指控方把三种混为一谈以放大威胁,被指控方把三种混为一谈以稀释责任。

而这件事最难办的地方在于:蒸馏既无法被证实,也无法被证伪。今天没有任何一家能证明自己被蒸馏,也没有任何一家能自证从未蒸馏过他人。

规则没立,证据难取,于是江湖只能靠互相威慑和名声,维持着脆弱的平衡。

七、照妖镜:护城河的四层

这本该是全文最冷静的一节。

蒸馏的本质,是压缩已有能力,不是创造新能力。所以它能击穿的,只是护城河里最浅的那一层。而护城河从来不是一条均匀的沟,是分层的。

第一层,武功本身(模型权重)——浅

这一层几乎守不住。权重能被蒸馏、被开源、被泄露。任何把护城河建立在"我武功最好"上的纯模型门派,护城河是纸糊的。

第二层,独门秘籍(训练数据)——中

蒸馏够不着。你没法从一个模型的回答里,反推出它吃了什么独家语料。真正的壁垒是独家、合法、洗干净的数据。那 15 亿美元,买的就是这一层。

第三层,内力根基(算力与工程)——深

蒸馏只能省掉"训练"这一步的钱,而训练只是消耗的一小部分。真正的壁垒是万卡集群的运维、芯片的持续供给、把工程做出来的人才密度。这几样,蒸馏、钱、甚至政策,都换不来短期复刻。

第四层,江湖地位(产品与生态)——最深

这才是终局。用户规模、分发渠道、企业信任、数据飞轮——蒸馏可以把武功降到近乎免费,但这些一样都抄不走。

想通这四层,一条反直觉的结论就浮出来了:

武功正在变成大宗商品,护城河正在从"能力"迁向"能力之外的资产"。

这是互联网江湖反复上演过的老剧本:搜索技术曾是护城河,后来分发和生态才是。大模型只是用蒸馏,把这个过程按了快进。

但有个幸存者偏差必须点破:蒸馏只能让追赶者接近,永远达不到。它抹平的是"第二梯队和第一梯队的差距",却无法让任何人超越第一梯队——因为你永远在复制别人已经做出来的东西。

蒸馏不深挖护城河,它只是照出了谁在裸泳。

变浅的从来不是护城河,而是"把权重当护城河"这个错误认知。

写在最后

把这一整盘棋收拢,就几句话:

  1. 蒸馏是搬运,不是创造。只搬运不创造、必有损耗、依赖意会——这三个特征,决定了它的上限。
  2. 蒸馏偷的不是答案,是判断的方式。软标签里的暗知识,才是命门。
  3. 传功无罪,偷师有罪,两者只差一道"门规"。而门规是合同,不是法律。
  4. "你抄我我抄你"要拆成三件事。规则空白、正常切磋、工业化越界——前两种是竞争,第三种是越界。
  5. 它把自己交给了法院,却把对手交给了国会。场域的选择,就是道德成色最硬的证据。
  6. 护城河分四层,蒸馏只够得着第一层。权重守不住,数据、算力、生态才是真壁垒。
  7. 蒸馏让追赶者接近,却无法让任何人超越。真正的前沿,仍靠原始积累。

最后留一句:那本被切掉书脊的书,和那行 16 亿美元的账,其实是同一个故事的两种写法。

一个门派真正的护城河,从来不在它能打出的那一招上,而在它为了学会这一招,付出的、别人偷不走的东西上。

这门传功的手艺,最后照出的是一种分层。
三种门派,三种命
只有权重——护城河是纸糊的,被蒸馏一次就现形,必须往数据和生态迁移。
手握数据——蒸馏够不着你,这是最容易被低估、也最贵的一层。
占据生态——能力白送也不怕,因为分发和信任抄不走。
如果武功终将变成大宗商品,你更愿意押注哪一层?
· · ·

本文事实出处:Hinton 等《Distilling the Knowledge in a Neural Network》(2015);DeepSeek-R1 技术报告(2025.1);斯坦福 Alpaca 论文(2023);GKD: On-Policy Distillation(2023);Anthropic《Strengthening our defenses against distillation attacks》及 2025.9、2026.2、2026.9 公开报告与声明;观察者网 2026.6 报道;Bartz v. Anthropic 法院命令(2025.6.23)与和解批准令(2026.7.20);Anthropic 招股书(S-1);《华盛顿邮报》关于解封案卷的报道。

说明:文中涉及具体公司的行为指控,均系 Anthropic 单方陈述,本文仅作转述并标注"据称",不代表事实认定。

标签: AI 江湖 产业观察 深度长文