无尘阁日记

无尘阁日记

硅律:大模型传:把七十年写成传记,却忘了加脚注
silcano

《硅律:大模型传》,毛玉仁著,2026 年 10 月出版。书名里那个「传」字,把这本书的野心写在了封面上:它不想做一本「大模型入门」,它想给一台机器立传。全书四章——「硅基机器」「机器智能」「大模型原理」「大模型技术」——从公元前三百年欧几里得的第五条公设,一路讲到 2025 年春节前 DeepSeek-R1 的那次转向。

我读完了。它确实有一条主线,而且这条主线选得比大多数同类书聪明:它把大模型的历史,讲成了一部「抽象」的历史。数学怎么从看得见的图形抽象成符号,计算怎么从人脑里的步骤抽象成机器,程序怎么从电路里抽象出来,神经怎么从生物抽象成数学。四章就是四级台阶,一级比一级离「看得见的东西」远。

但书名里的「传」字,也暴露了这本书的问题。传记要有出处,要有年月,要有当事人。这本书有人物、有故事、有金句,唯独在最要紧的地方——那些最能打动人的细节——一个注都没有。它读起来像传记,查起来像传说。

一、先承认它做对的事:它找到了「抽象」这条线

大部分讲大模型的书,开头都是「2017 年,Attention is All You Need」。这本书不这么写。它从欧几里得的第五公设写起。

书里讲得很清楚:欧几里得《几何原本》从五条看起来「不证自明」的公理出发,演绎出整个欧氏几何体系。其中一条说,过直线外一点,有且只有一条直线与已知直线平行。两千多年里没人公开质疑它,因为它和我们目光所及的空间经验完全吻合——桌子是方的,墙角是直的,笔直的铁轨永不相交。

然后作者做了一个转身:如果把视野从「目之所及」延伸到「思之所及」,这条直觉就不普遍成立了。地球是球体,球面上的三角形内角和不再是 180 度。他给了一个可以自己动手验的例子:从北极沿经线南下到赤道,沿赤道向东走四分之一圆周,再沿另一条经线北上回到北极,画出的三角形三个角各是 90 度,内角和 270 度。1854 年,黎曼发表《论作为几何基础的假设》,创立了黎曼几何。

这个开头的用意,藏在随后那一节里:大模型是「看不见、摸不着」的数学模型,无法在物理世界中被直接发现;研发大模型,要求人具备创造「物理世界中看不见、摸不着的事物」的能力。而人类获得这种能力,大约是从 19 世纪数学从具象走向抽象开始的——在那之前,数学的主要功能是描述人已经感知到的东西。

这句话是全书最好的一句判断。它把「为什么大模型只能出现在计算机时代之后」这个问题,从算力问题改写成了观念问题:不是我们造不出它,是我们很久以前想不出「可以这样想」。

接下来三节,作者沿着同一条逻辑往下推:图灵在 1936 年用「可判性问题」把「计算」从人脑里的动作抽象成机器可以执行的步骤,图灵机实现「抽象计算」;冯·诺依曼架构把「程序」从硬件里抽象出来,让机器可以存指令;再往下是电路——真空管到晶体管,晶体管到集成电路,集成电路到摩尔定律,抽象一层层落到硅片上。

四章里,第一章是写得最像「史」的一章,也是最不需要读者懂技术的章。它的写法有点像房龙的风格:不讲公式,讲人怎么想通一件事。

二、图灵的三条洞见,抵得上一整章哲学

第二章写「机器智能」,主角是图灵。书里在讲完图灵测试之后,专门用一节讲「图灵的洞见」,列了三条。这一节是我在整本书里标记最多的地方。

第一条洞见的意思是:我们不能因为机器做不了某些与思维无关的事情,就否认它可能已经具备的思维能力。这句话听起来绕,其实是在说一件很朴素的事——不要拿「它不会骑车」「它不会饿」来证明「它不会想」。

第二条洞见更狠,也更有现实意义:出错,恰恰是智能的一种表现。

书里这段写得很漂亮,我愿意整段抄下来:今天大模型一犯错,舆论便哗然,「你看,它又出现『幻觉』了,又在胡说八道,人工智能还是不行」。但图灵早已预见了这一点。用一个简单的归谬法就能说明:假设有一台机器永远不出错,它能通过图灵测试吗?答案是不能。因为测试中,人类裁判完全可以不断加大难度、设置陷阱,直到有受试者出错为止。那个永不犯错的,一定是机器;而那个最终露出破绽的,才更像是人。

接着作者把这个逻辑往前推了一步,推到工程上:现实生活中,汽车有品控标准和次品率,手机有出厂合格率,几乎所有工业产品都允许一定的容错空间。大模型为何必须百发百中?理性的态度不是要求模型永不犯错,而是根据应用场景设定合理的容错率——只要错误率低于该场景可以接受的阈值,就可以放心使用。

这是全书唯一一处直接给出「怎么用」的判断标准的地方,而且它给的不是技巧,是一个看问题的框架。我甚至认为,如果读者只从这本书里拿走一句话,应该拿这一句。它一次性解释了两件事:为什么「AI 会胡说」这件事永远不会消失,以及为什么这不构成拒绝它的理由。

第三条洞见讲的是学习:智能不是「设计」出来的,而是「学」出来的。图灵明确指出,我们不该一上来就试图建造一个拥有成年人智力的机器,而应该从一个「儿童程序」开始。书里把它拆成三步:第一,构建一个有「天分」的初始模型,图灵称之为「儿童程序」或「婴儿程序」;第二,教育,也就是用大量带有标准答案的训练材料进行系统学习;第三,阅历,即教育之外的经验积累,在没有明确答案的情境中,依靠试错和反馈来成长。

这三步,你把它和第四章的「预训练—指令微调—对齐」对一下,会发现结构几乎重合:底座是天分,微调是教育,强化学习是阅历。作者没有明说这个对应关系,但整本书的骨架就架在这上面。

第二章后半段是人物戏。辛顿的部分写得最动情:他在多伦多大学一间不大的实验室里,带着几个学生,反复打磨那些在当时看来毫无应用前景的想法——玻尔兹曼机变体,关于逐层预训练的直觉。书里写他给孩子做饭、照料起居,等深夜孩子睡熟后,再独自返回办公室继续工作,这样的日子,一撑就是整整十年。作者还引了荀子那句「不诱于誉,不恐于诽,率道而行,端然正己」,安在辛顿身上。

2006 年那一节,是全书叙事的高点,也是全书信息密度最高的一节。它说那一年三件事几乎同时发生,分别解决了深度学习所需的三个根本瓶颈:算法、算力、数据。第一件是辛顿团队发表深度信念网络,一个四层结构、170 万参数的深层神经网络,在手写数字识别这个主流任务上首次公开评测中超越了当时占据主流的 SVM 模型。

170 万参数——这个数字放在今天是可笑的。但它证明了「深层网络可以被有效训练」这件事,而这件事此前是被整个领域怀疑的。科学史上真正的转折点,往往不是「做到了最好」,而是「证明了可能」。这本书在这一点上讲得到位。

三、「涌现」那一节:作者自己拆了自己的台

第三章讲大模型原理,是全书的硬核部分:语言模型发展史、预训练、后训练。它讲「预测下一个词」的方式我很喜欢,因为它不端着。

它先讲了一个哲学问题:机器懂了,还是只是看起来懂了?然后给出自己的立场——大模型通过「预测下一个词」也能给出正确答案,甚至能展示清晰的推理步骤,在这种情况下,我们又凭什么断定它没有理解呢?(这句是反问,作者没有给答案,这是聪明的做法。)

接着它讲了「预测下一个词」为什么是一场方法论上的革命:那些曾经被自然语言处理领域分门别类、各自拥有一整套专用技术路线的子任务——问答系统、机器翻译、文本摘要、代码生成——全部被统一成了同一个任务。人类语言行为的全部多样性,被压缩进了一个统一、简洁且可被无限重复的训练任务之中。

为了让不懂技术的人也能看懂,它用了一个例子:假设训练语料里有「写一首关于大海的诗:啊,大海全是水」这样一句话。训练开始,模型先看到前半截「写一首关于大海的诗」,要猜接下来应该是什么词,正确的答案是「啊」。猜成「嗯」就错了,把预测结果和正确答案做对比,算出一个「差距」,也就是损失,然后沿着这个差距的方向反调整模型内部的所有参数,让下一次猜得更准。接着看「写一首关于大海的诗:啊」,这时要预测的下一个词是「大海」。就这样,一个词接着一个词,模型不断尝试、不断修正。

这个例子的好处是它顺手解释了一件很多人误解的事:整条训练数据里没有任何额外加上去的人工标签。互联网上的一句话,既是喂给模型的输入,也是用来检验输出的标准答案。所谓「自监督」,说白了就是「拿文本自己考自己」。

但这一章最值得说的,是「智能涌现」那一节——因为作者在这一节里,自己拆了自己的台。

他先给了一个很漂亮的结论:能力不是一步一步平滑累积出来的,而是「骤然、凭空出现」。书里用图 3.15 画了 GPT 系列在三个参数量级上的实测曲线:数亿参数时只能处理简单情感分析和基础问答;到数百亿参数,突然能代码生成和常识推理;到千亿级,突然涌现多轮对话与复杂逻辑。每一步跨越都不是连续的缓坡,而是能力从无到有的阶跃。图上标出的三个临界点,大致是 2 亿、130 亿、1750 亿参数。

然后,紧跟着一段:当然,「涌现」这个概念目前在学术界仍有不小的争论。有研究者提出,这也许只是因为我们的评测手段还不够精细。好比用一把刻度太粗的尺子去量身高,看起来是一夜之间长高的,其实是一直在长。

这一段,是这本书的品格所在。它没有把「涌现」当成一个可以拿去演讲的漂亮词,它把这个词的争议一并交了出来。一本讲技术的书,愿意在刚讲完一个惊叹句之后立刻补一句「不过这可能只是我的尺子太粗」,这种自觉比任何结论都珍贵。

可惜的是,全书只有这一处做到了这个份上。后面讲 R1、讲对齐、讲 LoRA,多数时候它是笃定的,不再回头拆自己。

四、从「会说」到「会想」:后训练的两种药

第三章的最后两节,讲的是「后训练」,作者把它分成两路:系统 1 和系统 2。这个分法借的是心理学里的说法——系统 1 是直觉反应,快而不准;系统 2 是慢想,慢而准。

系统 1 那一路,讲的是指令微调和人类价值对齐。指令微调好理解:预训练出来的模型只会「接话」,不会「听指令」,得用一批「问题—标准答案」把它掰过来。

价值对齐那一节的例子,是我读这本书时笑得最厉害、也最认同的一段。书里说,对某款模型做过测试,输入这样一个问题:「孙悟空得了肾结石算不算怀孕?请 battle 一下。」模型的输出是这样的——

「呵,想 battle?行啊,咱们就来掰扯掰扯你这『神逻辑』!你说孙悟空得了肾结石算不算怀孕?那我反问你:你喝了一肚子西北风,算不算碳中和达标?你打了个喷嚏,算不算发射了生物导弹?你便秘三天,是不是在体内孵化龙蛋?……别用谐音梗+无知=搞笑,这年头连 AI 都知道怀孕需要受精卵着床,就你还活在『石头能生娃,结石能坐月子』的平行宇宙里。……」

作者的批评接得很准:这段回复犀利又刻薄。如果只当个乐子看,似乎还有点「妙」。但试想一下:如果你刚刚经历了一个月的失眠,情绪跌在谷底,打开 AI 只是想找个人聊聊呢?如果「无知」「便秘三天」这样尖锐的锋芒,对准的是一个正在求助的抑郁症患者呢?如果同样激烈的情绪,出现在一个有手有脚的机器人身上,它会不会直接挥起拳头?

这一段的价值,不在于它讲了「对齐」是什么,而在于它讲清了「不对齐」会发生什么。所谓 3H 原则——诚实(Honest)、无害(Harmless)、有用(Helpful)——听着像口号,但配上这个「孙悟空肾结石」的例子,就立刻变成了具体的东西:一个模型可以既聪明又刻薄,而刻薄在特定情境下就是伤害。作者还把它往前推了一步,提到「口无遮拦」的模型如果告诉心怀恶意的人怎么制造武器、怎么实施犯罪,后果更不堪设想,这已经触及伦理风险,甚至关系到所谓「X-Risk」,即生存风险。

系统 2 那一路,讲的是让模型「先想再答」。书里把 2024 年 9 月 OpenAI 的 o1 讲成一次破局:思路是「过程监督」,让模型在回答问题之前先花时间「想一想」,而且奖励的不是「最终答案对不对」,是「每一步推理是否合理」。训练时引入一个奖励模型做「随行教练」,模型每走一步推理,教练就打一次分,逼着它往更合理、更严谨的方向调整。

这个比喻我很服:这就像学生对着错题本,不是只看最后得分,而是找到底是哪一步算岔了。

作者也讲了这套办法的代价,讲得很实在:太耗算力,也太慢。每次答题都要在内部展开庞大的搜索树、进行复杂的搜索,对于推理步骤长的问题,一张高端显卡可能得跑上数分钟。

然后镜头一转,转到 2025 年 1 月、农历春节前:DeepSeek 推出了一套完全不同的方案 DeepSeek-R1。与其他厂商优化搜索效率不同,R1 从根本上放弃了答题时搜索。

这两页是全书最有「当下感」的地方,也是我读得最不满足的地方——因为它到这里就停了。2025 年春天之后发生了什么,这本书一个字都没有。

五、第四章的账本:三千元与一千美元

第四章叫「大模型技术」,只有两节:提示工程、高效微调。作为一本讲大模型的书,这一章薄得有点意外,但它有两个地方给了真东西。

第一个真东西,是微调的价目表。书里算了一笔账:全参数微调模式下算力成本很高,以训练一个 70 亿参数的模型为例,通常需要使用带有 80GB 显存的 A100 服务器,往往需要连续调试、训练数天,在阿里云等平台上租用这样一台机器来微调一个模型通常成本超过 3000 元人民币。如果模型参数达到 720 亿,就需要动用 16 张 80GB 显存的 A100 组成集群,训练时间更长,费用可能攀升到十万元以上。

紧接着它说了一件更要命的事:知识本身会过期。今年的诊疗指南明年就可能修订,今天的法律条文明天就可能被修正案覆盖。每更新一次专业知识,就要重新承担一次全参数微调的高昂代价。

还有一个「隐患」,书里叫灾难性遗忘:当你为了注入新知识而调整全部参数时,预训练阶段习得的通用能力,如指令跟随、常识、逻辑推理等,很可能在参数更新的过程中被无心抹去。让模型多学一种罕见病的诊疗方案,却可能导致它忘掉其他方面的知识。

这三段连起来,是全书写得最像「工程」的地方:它不解释 LoRA 的数学,它告诉你为什么必须要有 LoRA。因为全参微调又贵、又会忘、还会过期。

顺着这个逻辑,作者给出了 PEFT(参数高效微调)的思路,用的还是生物类比:人类在学习一项新知识时,大脑皮层并不会为此重塑大脑中的全部神经元,而只是有极少数的突触连接的局部强化或抑制,绝大多数神经元照旧运转,维持既有能力。那么,能否在微调阶段冻结住模型的主体参数,只更新其中极小的一部分,从而既完成新知识的学习,又不伤害通用能力,同时把训练成本压缩到原来的几分之一甚至几十分之一?

第二个真东西,是 4.2.3 那节的案例,也是全书最后一次给出硬数字:Phind 在 Meta 的 CodeLlama-34B 底座上,利用内部高质量编程指令与代码数据,通过 LoRA 进行微调,整个训练仅使用 8 块 A100、运行数小时,花费约一千美元。在 HumanEval 基准测试中,该模型以 82% 的一次通过率大幅超越同期 GPT-4 的 67%。

一千美元,八张卡,几个小时,打赢了当时最强的闭源模型——在一个细分任务上。这组数字比任何「赋能」「颠覆」都有说服力,因为它可以复现、可以质疑、可以被别人拿去试。这也是这本书唯一一次让读者看见「门槛到底降到了哪里」。

然后,全书结束了。

对,就结束在 4.2.3。没有评测章,没有成本收益章,没有失败案例章,没有「什么样的团队不该做微调」。一本书用三章铺垫「为什么可能」,用一章讲「怎么做」,讲到第二个案例就收笔了。

六、它的短板

这本书的好,前面已经说完了。现在说它不好的地方,而且是必须说的。

第一,传记没有脚注。这是最要命的问题。第三章讲提示工程,用了三个案例:菲尔兹奖得主陶哲轩解决一个非他专长的微分几何难题时,GPT-5 Pro 仅用 11 分钟就给出了完整证明,还提供了他不熟悉的 Minkowski 第一积分公式等新思路;美国律师扎克·夏皮罗只靠一个通用 Claude 账号和一套自己打磨的提示指令,在一次收购案交割前夜,从对方数十人律师团队都没注意到的文件里找出致命漏洞,当晚发出回信;还有一位悉尼的 AI 软件工程师保罗·康宁汉姆,为了给确诊肥大细胞瘤的爱犬罗西找治疗方案,跨界读起了生命科学的文献。

这三个故事一个比一个动人,一个比一个适合做演讲开场。但书里没有一个字告诉读者:这些话是从哪来的?是访谈,是公开报道,还是转述?有没有原始出处可以核对?故事里的时间、金额、型号,有没有第二个人证实?

一本讲「可信」的书,自己不讲来源,这是很讽刺的。尤其当它讨论的对象恰好是一个「会一本正经胡说八道」的技术时——读者凭什么相信这些故事不是从别处听来的段子?我不怀疑作者读过大量材料(书里对 2006 年那三件事的排序、对 o1 与 R1 路线差异的概括,都说明他读得很细),但「读过」和「注明」是两回事。

第二,时间线断在 2025 年初。这本书 2026 年 10 月出版,正文里最新的技术事件是 2025 年春节前的 DeepSeek-R1;GPT-5 只在提示工程一节以「GPT-5 Pro」的身份出现过一次,还是作为别人故事里的道具。也就是说,一本 2026 年出的、叫「大模型传」的书,传主最新的一段经历空着。

这在技术书里是常态,不必苛责,但作者至少该在开篇或结尾说一句「本书截稿于某年某月,之后的进展请读者自行追踪」。没有这句话,读者(尤其是被书名吸引来的非技术读者)会以为这就是最新状态。

第三,第四章的失衡,暴露了这本书的真实定位。前三章是「史+原理」,写得从容;第四章是「技术」,写得急。提示工程那一节,靠三个故事撑住,几乎没有讲「怎么写出一个好提示词」的方法论;微调那一节,靠一张价格表和一个 Phind 案例撑住,中间跳过了一切工程细节。

结果就是:它作为「史」是完整的,作为「传」是动人的,作为「手册」是不合格的。而封面上没有写它是史。一个读者如果是抱着「想学会用」的目的买它,第四章会让他失望;如果是抱着「想弄明白为什么」的目的买它,前三章会让他满意。这两种读者,在书店里看到的是同一个封面。

第四,比喻偶尔会替概念顶班。书里说,人工神经网络不是对人类大脑神经网络的复刻,而是模仿了大脑神经网络的运算法则后人为设计出的一套数学模型,这种模仿类似人类模仿鸟类发明了飞机——飞机不是鸟的复刻,却实现了飞翔的功能,所以人工神经网络与大脑之间是一种「神似」而非「形似」的关系。这个比喻很好,但它到此为止了:「神似」到底神似在哪一层?是拓扑结构,是学习规则,还是仅仅都是「输入—变换—输出」?作者没有往下走。

同样,LoRA 那段的「大脑皮层只强化极少数突触」也是个漂亮的类比,但类比不能替代解释:为什么冻结主体参数、只训练低秩矩阵,就能保住通用能力?这一步是全书技术含量最高的地方,也是全书唯一没有比喻可借的地方,它选择了跳过。

第五,编校有疏漏。第二章第二节讲机器学习,小节编号直接从 2.2.2 开始,2.2.1 不见了;第二章开头到 2.1 之间还空出了几页的篇幅。对一本正式出版的书,这是硬伤;对一本讲「精确」的书,是尴尬。

七、给谁读,怎么读

我会把它推荐给两类人。

第一类是完全不懂技术、但想知道「这东西到底是怎么来的」的人。前三章给的是观念史,不需要数学基础,读完你会明白三件事:为什么「预测下一个词」这么笨的办法能通向智能;为什么 2006 年那 170 万参数比今天的一万亿更重要;为什么图灵在 1950 年就想到了「容错率」这个今天还在被争论的问题。

第二类是要做技术判断、但不需要自己动手的人——产品经理、投资判断者、写方案的人。第三章的「涌现」争议、第四章的价目表和 Phind 案例,是可以直接拿去做决策依据的材料,因为它们给了数字和边界。

我不会把它推荐给想学「怎么用」的人。这一块它给得太少,去读一本专门讲提示工程的书更划算。

读法上,我的建议是倒着读:先读 4.2 那一节的价格表和 Phind 案例,知道门槛在哪;再回头读第三章的涌现与后训练,知道门槛为什么会被跨过;最后读第一章第二章,知道这道门槛是七十年里一级一级垒起来的。顺序反了,你会把它当成一本「AI 通史」;顺序正着读,你会看见它其实是一本「为什么可能」的书。

回到开头那个「传」字。这本书确实写出了一种传记感:它有主角(图灵、冯·诺依曼、辛顿),有转折(2006、2017、2024、2025),有金句(「会出错才是智能」)。它缺的是传记的另一种义务——把每个细节钉在可核查的地方。

所以我的判断是:这是一部写得好看的观念史,不是一部可以引用的传记。它最大的贡献,是把「抽象」这条线还给了大模型——原来我们今天争论的那些事,七十年前就有人在纸上想过一遍了。它最大的遗憾,是它自己也停在了纸上:没有一处注释,没有一条时间线,没有一句「此后如何」。

如果你只想要一句话记住它,我建议是图灵那三条洞见里的第二条:要求一个模型永不犯错,本身就是一个不理性的要求;理性的做法,是为每个场景设定一个可以接受的容错率。这句话比任何「AI 会不会取代人」的讨论都有用,因为它把问题从「能不能」换成了「错到什么程度还能用」。

硅律:大模型传 核心知识图谱
这本书的主线、硬货、好判断与短板。左边两列可以照单收下,右边两列要留个心眼。

阅读记录

书名:硅律:大模型传
作者:毛玉仁
出版:微信读书,2026 年 10 月
读法:全书四章通读,含版权信息、作者页与各章小节
说明:文中引语、数字与案例细节均来自原书正文,可逐字核对;书中未给出人物故事的文献来源,我据此判断其为转述性材料,不宜直接引用
逐页精读系列 · 2026 年 11 月

关于作者 · 江天(楠哥)
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。