700 億個數字裏，沒有一個寫着「貓」：模型的知識究竟存在哪裏？

简介： 本文深入浅出解析大模型参数本质：权重≠重要性，正负号表影响方向；偏置设定激活门槛；知识分布式存储于参数协同中，非单个数字可承载。破除“权重越大越关键”等常见误区，揭示AI“知识”的全息式存在方式。（239字）

摘要：都说大模型有多少亿参数。但那些数字到底在干什么？为什么权重可以是负的？改一个权重，预测就变了？偏置是干嘛的？权重越大就越重要吗？以及最关键的那个问题——模型学到的东西，究竟存在哪里？答案可能会让你对"知识"这个词，产生全新的理解。

一、五个问题，问到了 AI 的根上

有个正在学 AI 的人，连着问了自己五个问题。我一看，这五个问题问得比很多教程都好：

1. 为什么权重可以是正的、负的，甚至是零？

2. 只改一个权重，怎么会改变整个预测？

3. 为什么需要偏置（bias）？它是怎么影响神经元"激不激活"的？

4. 权重越大，是不是就意味着越重要？

5. 模型到底把学到的东西，存在了哪里？

前四个是技术问题，第五个是哲学问题。而第五个的答案，会反过来改变你对前四个的理解。

我们一个一个说。

二、先纠正一个常识：模型里不只有"权重"

大家张口就来"多少亿参数"，但参数其实分两类，各干各的活：

• 权重（Weights）：决定每个输入有多重要。它乘在输入上。

• 偏置（Biases）：一个常数偏移。它不乘任何东西，直接加到结果上。

图里特意强调了一句容易忽略的话："模型里有很多参数，不只是权重！"

这俩角色的区别，打个比方：权重是"音量旋钮"——你给每个输入源配一个，决定它声音多大；偏置是"基线音量"——哪怕所有输入都是零，它也自带一个底数。

后面你会看到，这个"底数"比想象中重要得多。

三、为什么权重可以是负的、零的？

一个权重的符号，说的是方向，不是好坏。

图里用同一个输入值 3 演示了三种情况：

|
权重
|
计算
|
效果

|
| --- | --- | --- |
|
w = +2
|
3 × 2 = +6
|
把输出往上推
|
|
w = −1.5
|
3 × (−1.5) = −4.5
|
把输出往下压
|
|
w = 0
|
3 × 0 = 0
|
毫无影响
|

正权重是"支持这项的证据"，负权重是"反对这项的证据"，零权重是"这条线路被剪断了、模型学会了忽略它"。

（这其实和生物神经元很像：真实神经元也分兴奋性和抑制性两种，有的信号让你更容易放电，有的信号专门压着你别放电。）

但这里有个特别关键的补充，很多人没注意：

贡献 = 权重 × 输入

所以如果输入是 0，不管权重是 10、−3 还是 0.5，贡献统统是 0。

图里专门用一整个面板强调这件事。它的含义比看起来深：权重从来不是独自说话的，它永远和输入绑在一起。

四、改一个数字，预测就变了

图里给了一个特别直观的外卖配送例子。

同样是这一单：距离 5 公里，拥堵程度 = 1（拥堵），快速通道 = 1（可用）。

模型学到的权重是：距离权重 2，拥堵权重 10，快速通道权重 −4。再加上一个基础时间（这就是偏置）。

预测 = 基础 5 +（5 × 2）+（1 × 10）+（1 × −4）= 5 + 10 + 10 − 4 = 21 分钟

注意快速通道那个 −4：它是负的，意思是"有快速通道，时间往回扣"——完全合理。

现在，只改一个数字：把快速通道的权重从 −4 改成 −2。

预测 = 5 + 10 + 10 − 2 = 23 分钟

慢了两分钟。

整座模型其他几百亿个数字一个没动，就动了这一个，结果就变了。

这就是"权重"的力量，也是它的脆弱：模型的每一个判断，都是无数个这样的小数字共同投票的结果；动其中一个，票型就变了。

五、偏置：它决定"什么时候才算数"

权重好理解，偏置常常被忽略。但它的作用非常独特：它是激活的门槛。

图里用了个温度的例子：

输出 = ReLU(温度 − 30)

• 20°C → ReLU(−10) = 0

• 30°C → ReLU(0) = 0

• 35°C → ReLU(5) = 5

那个 −30 就是偏置。它把"触发线"从 0°C 挪到了 30°C。

偏置越大（越正），神经元越容易被激活；偏置越负，就越"高冷"，需要更大的输入才能唤醒它。

一句话：权重决定"这个因素有多大声"，偏置决定"多大的声音才够得着门槛"。

这个区分在管理上特别好用——权重是"你多重视某个信号"，偏置是"你的默认立场和启动阈值"。一个团队如果默认立场设错了（偏置调歪了），那么下面每个信号再怎么加权，结论都会系统性跑偏。

六、最大的误区：权重越大 ≠ 越重要

这是本篇最想纠正的一个直觉。

看这两个算式：

• 5 公里 × 2 = 10

• 5,000 米 × 0.002 = 10

同一个距离，一个权重是 2，一个是 0.002，差了一千倍。但贡献完全一样。

为什么？因为单位（量纲）变了。公里和米，数的大小差一千倍，权重自然也要差一千倍来抵消。

所以：脱离输入的尺度去比较权重大小，毫无意义。

真正衡量"这个因素重不重要"的，不是权重本身，而是它在真实数据里实际产生的贡献波动——也就是"权重 × 输入的变化范围"。

这条在业务上极易踩坑。很多公司做评分模型，一看"这个指标权重最高"就以为它最关键。错。如果那个指标在真实数据里几乎不变（比如常年是 1），它对结果的实际影响可能远小于一个权重不大、但波动剧烈的指标。

要比较贡献，不要比较系数。

七、还有一层：越往后，"权重"作用的对象越抽象

图里还点出了一件容易被忽略的事。

在第一层，权重作用在原始输入上——所以你还勉强能说"这个权重对应距离"。

但从第二层开始，权重作用的对象变成了上一层的激活值。

输入 x → 第 1 层激活 a₁ → 第 2 层激活 a₂ → 输出 y

a₁ 已经是"某种抽象特征"了，a₂ 是"抽象特征的抽象特征"。到了第 50 层，你根本说不清那个权重在乘什么。

这就是为什么浅层权重还能勉强解释，深层权重基本不可解释。不是我们不够聪明，是它作用的对象本身就已经不是人类能命名的东西了。

八、那么，知识到底存在哪？

终于到那个哲学问题了。

先说结论的第一层：模型的知识不是以"整齐的事实清单"存的。

你没法在 700 亿个数字里，指出某一个说"这个数字代表猫"。知识是分布式的——编码在无数参数的协同配合里，像 hologram（全息图）一样：你撕掉一半，剩下的部分仍然能重建整体，只是更模糊；你也没法指着一个碎片说"这是猫的耳朵"。

图里那个面板画得很好：几只猫的图标，旁边散着一串数字 −1.3、0.8、4.2、−0.7……"猫"这个概念，分布在这一串数字里，不在任何一个单独的数字里。

但第二层更有意思：虽然不能精确到"一个数"，研究者确实能把知识定位到"一小片区域"。

这块是近几年的热门，我挑三个有代表性的结论：

① FFN 是"键值记忆"（Geva et al., 2021） Transformer 里的前馈层，可以读成一本词典：第一层矩阵的每一行是一把"钥匙"（检测某种输入模式），第二层矩阵的每一列是一个"值"（钥匙命中时，往输出里加什么）。如果中间维度是 14,336，那每一层就有一万四千多个"记忆槽"。研究者还发现：低层的钥匙偏向表层模式（比如词尾），高层的钥匙偏向语义模式（比如话题）。

② 事实可以被定位并改写（ROME，Meng et al., 2022） 他们用"因果追踪"去找：到底是哪一层的激活，决定了模型回答出"埃菲尔铁塔在巴黎"。结论是——中层的前馈网络，而且是在主语最后一个 token 的位置上。找到之后，他们用一个很小的矩阵更新，就把这个事实改写了（比如改成"在罗马"），而且模型还能在改写后的问法里保持一致性。后来 MEMIT 把这个能力扩展到一次批量改几千条事实。

③ 存在"知识神经元"（Dai et al., 2022） 在更细的粒度上，研究者发现一小撮稀疏的神经元，控制着特定事实的表达。把它们关掉，模型就说不出那个事实；把它们放大，模型就更爱说那个事实。

看起来，我们快要把"知识"的定位问题解决了？

且慢。学术界的冷水也很足。

2024 年一篇专门审视"知识神经元论题"的论文（arXiv 2405.02421）系统性地泼了冷水。更典型的是 Bills 等人 2023 年那个著名的自动化解释实验——他们自己在论文里坦白：模型"解释的是相关性，不是机制"。而 Huang 等人在 2023 年重新评估时发现，即便是那些最自信的解释，错误率也很高，而且按这些解释去做干预，因果效应微弱到几乎看不出来。

说人话就是：我们能大致圈出"知识在这一带"，但离"读懂它"还差得远。

这也是为什么我特别想提醒一句：别把"可定位"当成"可解释"，更别当成"可控"。

九、一个特别实用的推论

既然知识可以被定位、也可以被局部改写，那是不是意味着：模型过时了，改改权重就行？

实务界的答案很明确：分情况。

• 稳定的背景知识（比如"水的沸点""法国的首都在哪"这种不会变的东西）——它就在权重里，改权重是有意义的。

• 会变的事实（现任 CEO 是谁、今天的价格、昨天的比分）——别改权重，用检索（RAG）。

原因是：权重编辑能做到精确，但副作用难控（可能扰动邻近的事实）、每次模型更新都得重做一遍、而且很难审计。

这正好呼应我们前面讲过的 RAG 那几篇：会变的东西放在能随时更新的地方，不变的东西才压进参数。 用错了地方，就是用最贵的手段解决最不该它解决的问题。

十、最后一块拼图：架构只是容器，权重才是内容

图里还有一个对比，我特别喜欢：

同样的架构，随机权重 → 预测配送时间 −13 分钟（负数，毫无意义） 同样的架构，训练过的权重 → 预测 23 分钟（有用）

一模一样的结构、一模一样的层数、一模一样的神经元个数。差别只在那些数字。

这大概是对"知识在哪"最干净的回答：架构是容器，权重是内容。

而这也解释了为什么大模型那么吃显存——图里给的数：70B 参数 × 2 字节 ≈ 140 GB。推理的时候，这 140GB 必须整整齐齐躺在 GPU 显存里，一步都少不了。这正是我们前面讲过的那件事：AI 系统里最贵的成本，往往花在"把参数搬进 GPU"上。

十一、讲给不做算法的人：四条可以带走的

第一，权重说了不算，"权重 × 输入"说了才算。

一个权重再大，如果它对应的输入常年是 0，贡献就是 0。组织里同理：一个岗位的权限和预算（权重）再大，如果它经手的实际事务（输入）是空的，它对结果的影响就是 0。别盯着谁的权重最大，盯着谁实际经手的事最多。

第二，别比系数，比贡献。

公里和米的例子告诉我们：单位不同，系数根本没法比。做评分、做考核、做资源分配时，要统一量纲后再比较实际贡献，否则你会把资源投给一个"看起来权重很高、其实几乎不影响结果"的指标。

第三，默认立场（偏置）是被低估的力量。

偏置决定了"多大的信号才够得着门槛"。你的团队有没有一个"默认假设"——比如默认客户不会投诉、默认需求不会变——它不写在任何流程里，却决定了所有信号的处理方式。偏置调歪，全盘皆偏。

第四，真正的 know-how，从来不在清单里。

模型的知识不在任何一条记录里，而分布在连接的模式里——这一点对企业极其重要。你花大价钱建的知识库、文档库、SOP，如果员工用的时候还是得靠"问老王"，那说明真正的知识没有沉淀在文档里，而是沉淀在人与人的协作网络里。

文档能存的是"事实清单"，而真正的 know-how 是分布式编码的。要沉淀它，靠的不是写得更多，而是让协作模式本身被反复实践和复用。

十二、结语

回到那五个问题。

权重可以是正、负、零，因为符号说的是方向而非好坏；改一个权重就改预测，因为每个判断都是无数小数字共同投票的结果；偏置是激活的门槛，决定"多大的声音才算数"；而权重大小不等于重要程度——要比较贡献，不是比较系数。

至于最后一个问题，答案现在清楚了：

知识不在任何一个单独的数字里，而在它们配合的方式里。它不整齐，不可枚举，也不可能被单独指认——但正是这种"分布式"，让它有了泛化的能力。

这或许也是对我们自身的提醒：一个人真正的本事，也不在他记住了多少条知识，而在他脑子里那些知识是怎么连起来的。

清单可以复制，连接不能。

互动话题：你所在的团队里，有没有那种"文档写了一大堆，但真到用时还是得问某个人"的情况？你觉得那部分知识，到底该怎么沉淀？欢迎在评论区聊聊。

免责说明：本文核心框架整理自社交平台「100 Days of AI Inference」系列 Day 5/100 的公开信息图《Weights and Biases. Where Does a Model's Knowledge Actually Live?》（图内仅标注系列名，未署个人作者，故不臆造出处）。图内数值与示例（正/负/零权重、输入为 0 时贡献为 0、配送时间预测 21 分钟 vs 23 分钟、ReLU(温度−30) 阈值示例、5 km×2 与 5,000 m×0.002 同贡献、随机权重预测 −13 分钟、70B 参数 × 2 字节 ≈ 140 GB）均以原图为准；其中配送时间算式的首项为基础时间（偏置项），本文按此自洽方式呈现。学术结论经多源交叉核实：FFN 作为键值记忆出自 Geva et al.（EMNLP 2021）；事实定位与 rank-one 改写出自 ROME（Meng et al., 2022），MEMIT 为其批量化扩展；"知识神经元"出自 Dai et al.（ACL 2022）；相关争议与局限性参见 arXiv:2405.02421、Bills et al. (2023，其自述"解释相关性而非机制")、Huang et al. (2023，对解释准确性的重估)，本文据此提醒"可定位 ≠ 可解释 ≠ 可控"。本文与本项目第 34 篇（模型=学来的数学函数、参数与显存）、第 32 篇（神经元计算与非线性）、第 36 篇（深度为何有效）、第 2/21 篇（RAG 检索优于权重编辑处理易变事实）相互呼应。本文为技术科普与思维类比，不构成架构选型或投资决策建议。