最近 OpenAI 和 Anthropic 接连发文,要把模型蒸馏当成安全问题和国家安全问题来处理。我读完的感受是,这些文章名义上谈安全,实际上是在抢先给行业制定规则。
先交代背景。11 月 18 日,OpenAI 发了 Managing frontier AI risk: From training to deployment,其中包含打击有组织的模型蒸馏行动。两天后又发了 Combatting adversarial distillation,手段包括加密思维链、API 层拦截和跨行业的情报共享。老朋友 Anthropic 动手更早,芯片出口管制和防蒸馏的立场他们很早就系统阐述过,9 月 29 日还发了 GLM-5.3 and the spread of advanced cyber capabilities,讲开源权重模型让网络攻击能力扩散的风险。
今天我又在推特上看到一位老哥写的 Machines of Loving Export Controls,从反方向开火,火药味十足。他的文章放到后面说,先说蒸馏这件事。
读书人的事,能叫蒸馏吗?
Anthropic 有一件被人诟病了很久的事:大规模扫描书籍用来训练,其中还有破坏性的扫描。这件事和小模型蒸馏大模型本质上是同一种搭便车。而且 Anthropic 和 OpenAI 自己在模型发展的过程中,或多或少也用过蒸馏技术。
可是轮到竞争对手来学他们的思维链,这件事就被定性成了窃取机密。
扫书还吃了一份时间红利。2023 年之前出版的书不可能预见到大模型的出现,自然不会有「禁止用于 AI 训练」之类的条款。闭源实验室在这段制度空白里完成了原始积累,转身就用严密的 API 服务条款把门焊死,让蒸馏直接踩中违约的红线。规则的生效日期,正好落在他们自己做完这件事之后。
公平地说,思维链不能简单等同于书籍。它是消耗巨额算力、用强化学习练出来的高纯度合成数据。但两件事的本质是类似的,区别只在于一个有 ToS,一个没有。
立规矩才能不烧心?
用用户协议约束一个商业产品,本身没有问题。但试图在道德上拔高、占据高地,就不只是营销了。营销只想让你喜欢它,占据道德高地是在抢先制定规则。
法律总是来得慢。在立法者反应过来之前,谁先让公众相信一件事不道德,后面的条文多半就照着谁的说法写。所以第一步是起名字。「蒸馏」是技术词,「蒸馏攻击」已经是罪名了,Anthropic 今年 2 月那篇文章的标题就叫 Detecting and preventing distillation attacks。思维链明明是模型的输出,被叫成「机密」之后,学习这些输出就成了「窃取」。
名字起好,身份也跟着换了。竞争对手成了被告,自己从场上的选手变成了裁判。反对者也更难开口:你质疑的本来只是一家公司的服务条款,现在听起来像是在反对国家安全。
管制经济学里有个老模型,叫「私酒贩子与浸信会教徒」:周日禁止卖酒的法律之所以能通过,是因为真心反对饮酒的教徒和靠禁令赚钱的私酒贩子想要同一条法律。教徒负责讲道理,贩子躲在后面受益。放到今天,这两个角色在同一家公司里上班,一个在安全团队,一个在商务团队。
所以闭源实验室的安全主张大概率不是装出来的,但很可惜,真诚不改变规则的效果。反而越真诚,看起来越像那么回事。毕竟规矩立住了才不烧心,至于你问我立规矩之前在干什么?抱歉,那也是规矩的一部分。
暴躁老哥的论点
再说那位老哥的文章。他的矛头指向 OpenAI、Anthropic 和 Frontier Model Forum 共同推动的三件事:算力出口管制、反蒸馏、限制开源权重。他认为头部闭源实验室借「安全」和「国家安全」之名游说政策,本质上是在制造行业壁垒,顺便规避反垄断。AI 是军民两用技术,集中控制反而会吸引攻击者,同时让普通的防御者失去工具。
监管俘获这一点和我上面说的是一回事,他的动机分析我认为成立。他还指出了闭源模型的过度拒绝:一刀切的安全护栏,在实战防御里的确卡住了普通防御者的脖子。最典型的是 Hugging Face 那场事故,闯进去的是 OpenAI 的 agent,OpenAI 的模型却拒绝帮忙,最后 Hugging Face 是靠 GLM-5.2 解决的问题。文章也跳出了非黑即白的阵营叙事,同时提到了中国的内容监管,以及五角大楼把 Anthropic 列为供应链风险这种矛盾。
但他没有完全说服我。他说过去开源权重模型并没有带来什么大问题,但用过去的太平证明未来模型的能力跃迁和尾部风险不存在,这个逻辑站不住。
Anthropic 提出的网络攻防不对称,也被轻描淡写地带过了。在网络安全领域,防御者要堵住所有漏洞,攻击者只需要找到一个。强能力通过开源全面扩散之后,中小企业未必有配套的工程能力来自卫。
另外,闭源模型出了事,至少可以通过 API 做管控和溯源,很大程度上收拾已经发生的安全隐患。开源权重放出去就收不回来了。
而且他自己也站在一块高地上:文章最后搬出了波普尔的开放社会和防御性民主。
站在道德高地指指点点是人生至乐
这类争论最让我反胃的地方,是把商业竞争包装成了道德和法律的圣战。
闭源巨头也好,开源激进派也好,用的都是同一套 motte-and-bailey 策略:对外站在一块高地上讲宏大叙事,真正目标是守住下面那块低地。
闭源巨头的低地,是保住 API 利润和先发壁垒,防止对手低成本抄作业。对外的高地是国家安全,是防止生物武器和网络武器扩散。更有甚者,像 Anthropic,直接打出「保护人类未来」这张牌。
开源激进派的低地,是获取便宜、不受限制的算力和好用的开源模型,反对监管和卡脖子。对外的高地是开放社会、防御性民主、反抗集权垄断。
谁站哪块高地,主要看它在赛道上的位置。领先的讲安全,追赶的讲开放。OpenAI 这个名字,就是它还在追赶 Google 的时候起的。今天讲开放的实验室如果哪天领先了,我不指望它们还这么讲。
商业竞争本身并不丢人。想守住护城河,或者想低成本追赶对手,都是再正常不过的生意逻辑。但一旦把生意包装成正义与邪恶的对抗,就成了既要赚钱又要立牌坊。借公权力打压对手,拿道德大棒审判同行,消耗的是整个行业的公信力。
牌坊大作战
现在很难苛求大家让商业的归商业。用道德和公权力当武器打击对手,看起来是一件 ROI 很高的事:被人识破了不用付出什么代价,成功了却真能在某种程度上要对手的命。
只不过对于行业来讲,留下一地的牌坊遗址,可能会让人觉得「原来你们都是出来卖的啊」。当然有一说一,确实也不能算错。