作者自己的实验说优化没用,这书为什么还一个个往下讲?
一、先把它是什么摆清楚
书的结构非常规整,规整到像一份课程大纲。第 1、2 章是概念与基础:为什么需要 RAG、技术怎么发展来的、核心由哪几块组成、怎么跟大模型集成、还有哪些坑;然后是 Embedding、数据索引与检索、大语言模型三件基础设施。第 3 到第 5 章是 RAG 的三个环节:数据清洗与切分建索引、检索策略与查询转化、重排序与提示工程与归纳生成。第 6 章是更细的优化,按索引、预检索、检索、生成预处理、生成五个阶段各讲一节。第 7 章讲七种高级范式:自省式、自适应、树结构索引、纠错性、RAG 融合、知识图谱,加一节“其他”。第 8 章讲评估。第 9、10 章讲应用实例和未来展望。
这条线是通的,从“是什么”到“怎么做”到“怎么评”到“用在哪”,读者不会迷路。作者在网上叫“莫尔索”,书里给了 GitHub 仓库 morsol/rag-book-demo 和两个公众号,说明代码是打算让人真跑的。这个态度值得肯定——很多同类书连仓库都不给。
但铺垫偏长。第 1 章从信息检索的早期讲起,马尔可夫模型怎么用于语音识别、机器学习怎么被引入查询意图识别、语义搜索在九十年代后期怎么出现、IBM 的 Watson 在 2011 年怎么赢下《Jeopardy!》。这段历史本身没错,写得也清楚,但它占了整整一节。一个 2025 年要搭系统的人,翻开书想知道的不是 Watson 当年怎么赢,是我的文档切多大合适。
也是从这条线开始,问题出来了。这个结构是“综述结构”,不是“决策结构”。综述结构的任务是“把领域里的东西都介绍到”,决策结构的任务是“告诉你什么时候用哪个、什么时候别用”。430 页下来,前者做得很足,后者几乎没做。而一本标着“企业级”的书,读者要的恰恰是后者。
二、三个环节那几章,是合格的
第 3 到第 5 章我读得比较顺,因为它们讲的是确定性知识,不太需要判断力。切分怎么切、重叠留多少、元数据带什么、索引怎么建、余弦相似度和内积差在哪、BM25 和向量检索为什么要混、重排序模型放在哪一步、提示词里上下文怎么排——这些都有公认答案,作者也照着公认答案写了。
但深浅不一。比如中文分词这一节,它给的方案只有两个:jieba 和 TF-IDF。jieba 是分词工具,TF-IDF 是词权重算法,这两样东西放在一起讲“文本分词的主要方法”,本身就不太对,而且这两个做法在现在的 RAG 链路里基本不承担关键角色——真正决定检索质量的是嵌入模型,不是分词器。这一节占了篇幅,却没能解决任何实际问题。
文本分词的主要方法有 jieba 和 TF-IDF 等。当涉及中文文本处理时,jieba 和 TF-IDF 是两种非常常用的方法。
把工具和算法并列成“两种方法”,是这类技术书常见的写法问题:为了把知识点凑齐,把不同层级的东西放进同一个抽屉。读者记下了两个名字,实际上什么也没学到。
向量库的横向对比倒是做了,FAISS、Chroma、Milvus、pgvector、Elasticsearch、Weaviate 都提到了,各自适合什么规模、要不要独立部署、能不能跟现有数据库合在一起。LangChain 在全书中出现最频繁,是主要的示例框架。这部分对刚上手的人有用,能省掉一轮自己查文档的时间。
只是这部分没有意外。你随便找三篇 2024 年的 RAG 综述,能读到同样的内容,而且可能更紧凑。书在这里扮演的是“整理者”,不是“作者”。整理本身有价值,但整理不构成一本值得单独买书的理由。
第 5 章还有个明显跑偏:大半篇幅在讲通用大模型用法。零样本、少样本、思维链、ReAct,怎么让模型写小说,怎么搭客服对话——这些是“怎么用 LLM”,不是“怎么用 RAG”。放在一本 RAG 书里,等于占了别人的位置。读者如果按目录跳读,很容易以为这几节是 RAG 的关键技术,其实不是。
三、全书最值钱的两页,是作者自己动手测的
第 6 章快结束的时候,作者做了一件在全书中很罕见的事:他没有继续介绍下一种优化,而是拿 ARAGOG 这个开源工具,把十来种优化组合真跑了一遍,然后公布结果。这张图里列的组合是:原生 RAG、原生+重排序、原生+压缩选择、HyDE+重排序、HyDE+压缩选择、原生+查询扩展、查询扩展+重排序、原生+滑动窗口、滑动窗口+重排序、滑动窗口+压缩选择。十种,一张箱线图,横轴是检索精度。原文是这样的:
结果显示,采用滑动窗口+压缩选择的优化方案的检索效果最佳,精度值处于较高范围。然而,采用查询扩展+重排序的优化方案的效果却不如原生 RAG。在所有测试方案中,引入滑动窗口后,检索效果普遍有所提升;不同优化方案的组合并不总是带来叠加效应。
这段话有三个层次,每一层都在打前面章节的脸。第一层,最好的方案是“滑动窗口+压缩选择”,不是那些名字更响亮的。第二层,“查询扩展+重排序”是很多教程的标准推荐动作,这里实测下来反而不如什么都不做。第三层,也是最狠的一层:组合不叠加。你把两个各自有效的优化叠在一起,可能互相抵消。
我读到这里的时候停了一会儿。因为这三句话如果成立,第 4 章讲的查询转化、第 5 章讲的重排序,就都不能当作默认推荐了,只能当作“在某些条件下可能有用”。而作者自己显然也知道这一点,他紧接着补了一句解释:这次测试的文档主要是学术论文,实际场景里文档来源更杂、组织更乱。这句话是对的,也是负责的。
问题在于,说完这句之后,书就翻页了。
四、这个结论没有改变书的写法,一页都没有
如果作者真信自己那个实验,第 6 章之后应该发生什么?应该有一节专门讲“什么情况下不要优化”。应该有一张表,把这些优化手段按“成本、延迟、在什么文档类型上有效、在什么上无效”排开。应该明确说:如果你在做客服知识库,别默认上查询扩展;如果你的文档是长报告,先试滑动窗口。
这些都没有。第 6 章照原计划讲完了五个阶段的优化,第 7 章又往上加了七种范式。书的推进方式跟实验结论之间,没有任何反馈关系。
这不是作者偷懒。这是“综述体”这种写法的固有毛病:综述的任务是把已有工作介绍完,不是给出裁决。一旦你决定用综述体写书,你就必须对每一种方法保持中立,而中立意味着不做取舍,不做取舍意味着读者拿不到判断。作者显然是个懂行的人,他既知道该测,也测出了结果,但他没有权力把这个结果写进书的骨架里——因为那会破坏综述体的完整性。
所以这本书最尴尬的地方不是它讲错了什么,是它讲对了却没敢顺着讲下去。第 6 章末那两页,是全书唯一一处“我不确定,所以我测了一下”,也是全书唯一一处作者站到了自己介绍的所有方法之上。翻过去之后,他又回到了介绍者的位置。
五、有几处印在书里的输出,自己跟自己打架
这一节我要说得慢一点,因为它是硬证据。
第 3 章讲索引与检索,用了五节反复演示同一套流程。演示用的索引数据是这么来的:一段英文技术文章,开头是“Introduction: Lorem ipsum dolor sit amet...”,然后接“Technology: In recent...”,也就是说,正文内容用的是拉丁文占位符。查询词给的是中文“人工智能”,书里还专门解释了一句:“当用户搜索‘人工智能’时,我们可以找到与其相关的文本块”。
然后书里贴出了运行结果。我照录:
检索结果:
ID: b4a0914c1788f9ad...,Similarity: 0.6338,Text: 引言:Lorem ipsum dolor sit amet, consectetur adipiscing elit
ID: 7f0b95a9b961c597...,Similarity: 0.0875,Text: 转折点,改变了人们的
问题就在这两行数字里。排第一的那条,是一条纯拉丁文占位符,它跟“人工智能”这个词的余弦相似度是 0.6338;排第二的那条,是真正的中文句子,相似度只有 0.0875。差了七倍多。
这在语义嵌入里不可能发生。任何嵌入模型,把“Lorem ipsum dolor sit amet”和“人工智能”放一起算,得到的相似度都应该接近无关,绝不可能比一条中文句子高七倍。唯一能解释这个结果的,是那批所谓“已经建好的索引”,其实从来没有被真正嵌入过——它们是摆在那里的字符串,相似度是编的,或者是从别处复制来的。
我不想把这件事说成造假,太重了,也不公平,因为作者给了 GitHub 仓库,仓库里的代码很可能是能跑的、数据很可能是真的。我要说的是另一件事:读者照着书上的代码敲一遍,永远得不到书上印出来的这个结果。而这一章有五节,五节都是这么演示的。一个跟着书学的初学者,会在这里卡住,然后怀疑是自己环境没配好。
这类问题在技术书里不算罕见,但它对“从零开始”这四个字伤害最大。从零开始的人没有能力判断“是书错了还是我错了”,他只会认为自己错了。他会去改环境变量、换模型版本、重装依赖,折腾一晚上,最后放弃。而这本书的读者画像,恰恰就是这批人。
还有一处同类的错位,没那么明显但性质一样。第 3 章的演示里,索引的是英文技术文章(开头是 Introduction、Technology 这种小标题),检索用的却是中文查询。跨语言检索不是不能做,但那需要多语言嵌入模型,而书里这一段用的是普通的英文嵌入。作者没有解释这一点,读者也不会想到。于是演示看起来跑通了,实际用的能力书里没提。
六、七种高级范式,读起来像论文速览
第 7 章是我最期待的一章,也是最失望的一章。它介绍了自省式 RAG、自适应 RAG、基于树结构索引的 RAG、纠错性 RAG、RAG 融合、基于知识图谱的 RAG,每一种都配了出处论文、一段原理解释、一段示例代码,最后一句“适用于某类场景”。
六种范式,六篇 arXiv 论文,六个小节,节奏完全一样。你把任意一节的标题遮住,光看段落长度和结构,猜不出这是 Self-RAG 还是 CRAG。这个体例跟第 6 章的问题是一样的:介绍得整齐,但没有一条线把它们串起来。
更具体一点的问题:7.2 讲自适应 RAG,开头明确说“这一框架的核心在于一个经过训练的小型语言模型分类器”,还引了原论文。这个描述是准确的——原论文确实是训一个分类器来判断问题复杂度。但接下来给出的代码案例,做的是让 Agent 自己选工具,跟训练分类器完全不是一回事。原理讲的是 A,代码给的是 B,中间没有交代。读者如果照着代码理解这一章,会得到一个错误的模型:以为自适应 RAG 就是让大模型自己决定要不要检索。这两件事在工程上的成本差着一个数量级。
第 7 章真正缺的,是一张表。六种范式,各自的额外成本是多少、延迟增加多少、需要多少标注数据、在什么规模的语料上才划得来、哪些场景下用了反而更差。没有这张表,读者读完只知道“世界上有六种方法”,不知道“我该用第几种”。而这正是“企业级”三个字要求的。
七、评估章扎实,应用章空心
第 8 章讲评估,指标列得很全:召回率、精确率、F1、MAP、MRR,生成侧有 BLEU、ROUGE、METEOR,再加上用大模型当裁判。框架也提了几个。这一章的问题不是错,是旧——这些指标在信息检索领域已经用了几十年,教科书里都有,作者只是把它们搬了过来,没有针对 RAG 的特殊性做调整。比如“检索对了但生成错了”和“检索错了但蒙对了”这两种失败,用现成指标区分不出来,而这恰恰是 RAG 评估最该解决的问题。
第 9 章的前两节读得快。讲通用应用(文档生成、知识库检索、客户服务)和行业应用(金融、医疗、法律),每个场景一段业务流程、一张图、几个“显著提升了”的结论。这些结论全都缺交代:样本多大、基线是什么、怎么量的,一样都没有。比如个性化推荐那段说客户满意度评分提高了 20%、人均购买数量增加 10% 以上,读者没有任何办法判断这是真实项目数据还是示意数字。
但 9.3 节不一样,这一节是全书最接近“工程”的地方,也是我唯一想把页码记下来的地方。它列了一套企业级系统真正要有的东西:用户认证、输入防护、RAG 组件、可观测性、查询缓存、响应缓存、输出防护、反馈收集。这些东西在论文里都不会写,只有真上线过的人才想得到。缓存那一节尤其实在:
查询缓存:系统通过识别语义相似的查询,如“多少钱啊”和“价格是多少”,并缓存这些查询及其对应的文档映射关系。当相似的查询再次出现时,系统可以直接检索历史缓存,快速响应用户。这种方法主要适用于解决大约 80% 的常见问题。响应缓存:在这一环节,系统不仅缓存查询,还缓存大模型的响应结果。这种缓存需要考虑上下文信息,因为不同的查询可能对应不同的答案。这样做的好处是避免了对相同提示词的重复 API 调用,从而有效降低成本。
这一段解释了为什么“查询缓存”和“响应缓存”必须分开做:前者省的是检索,后者省的是模型调用,而后者贵得多。它还顺手给出了一个经验值——常见问题大约占八成。这种带数字、带取舍、带原因的段落,全书不超过五处。
第 10 章只有七页左右,讲技术演进、多模态 RAG、嵌入模型与大模型语义空间融合。提的问题都是好问题,尤其是“长上下文会不会让 RAG 变得没必要”这一条——这是 2024 年以来所有做 RAG 的人都在想的事。但书里给的答案是“两者会共存、各有适用场景”。这个结论大概率是对的,也是所有人都会说的。它没有回答读者真正想知道的:如果我的文档总共只有二十万字,我到底要不要建向量库。
第 9 章的医疗案例也有个错位。它讲了一个医疗问答助手怎么搭,讲到后面变成“用 72B 模型微调、知识蒸馏压到小模型、量化缩短推理时间、定期增量训练保持知识新鲜”。这一整套是模型微调的流程,跟 RAG 是两条路。放在 RAG 书的“行业应用”里,读者会以为这是 RAG 的一部分,其实不是。
八、短板,以及它该给谁看
把短板集中说一下。说之前先交代一句作者:李多多,笔名莫尔索,书末简介写的是资深 AI 技术专家、某公司 AI 项目研发负责人、多家企业 AI 技术顾问,上一本书是《LangChain 编程:从入门到实践》。这就解释了为什么全书示例几乎都绕在 LangChain 上——他熟这套栈。这本身是好事,但一本书如果只给一套栈的实现,读者换栈的时候就没有参照了。而这恰好是企业里最常见的情况:你的公司不用 LangChain。
第一,综述体带来的结构性缺陷。全书是“把东西介绍完”的写法,不是“帮你做决定”的写法,所以每一种技术都停留在“是什么、怎么做”,很少回答“什么时候别用”。第 6 章末那个实验本来是转折点,但作者没有让它改变后面的写法。
第二,示例数据不自洽。第 3 章五节演示用的是拉丁文占位符配中文查询,印出来的相似度数值在语义上不成立,读者无法复现。这是最影响学习体验的一类错误。
第三,原理与代码错位。7.2 讲训练分类器,代码给 Agent 选工具,两者成本差一个数量级,书里没有交代。
第四,篇幅分配失衡。第 5 章大半讲通用 LLM 用法,第 9 章讲微调流程,这两块加起来占了不少页,但都不是 RAG 的核心。真正的核心——比如检索质量怎么诊断、坏例子怎么归因、上线后怎么监控漂移——几乎没写。
第五,也是我最在意的一条:全书没有一处失败案例。企业级 RAG 最难的部分不是把链路搭起来,是搭起来之后发现答不准,然后一层层往回查:是切分切坏了、是嵌入模型不匹配、是检索召回了但排序错了、还是检索对了但模型读不懂。这个过程没有任何一章讲。而没有这个过程,读者学到的只是骨架,不是手艺。
那它该给谁看?
第一类,要一份 2024 年前后 RAG 技术全景图的人。这本给得挺全,六种高级范式、五个优化阶段、一整套评估指标,当作索引来用是合格的。你可以顺着它给的论文出处往下读原文。
第二类,要一套能跑起来的最小骨架的人。书里的代码虽然示例数据有问题,但流程是完整可抄的,配合 GitHub 仓库,把一条链路跑通是能办到的。
第三类,要上线一套系统、要为准确率负责的团队。这本帮不上。它不告诉你哪种方案在你的场景能赢,不告诉你出问题怎么查,也不告诉你成本怎么算。这些得靠自己做实验——就像作者在第 6 章末做的那一次,只不过他只做了一次。
如果你手上已经有这本,我给一个读法。第 6 章末那两页先看,看完再决定要不要读前面的优化章——如果你认可“组合不叠加”这个结论,那第 4、5 章就当成备选清单翻,不要当成默认动作。第 7 章按标题挑,你手头的场景需要什么就去读那一节,别顺着读,顺着读会把六种范式当成六道工序。第 8 章当词典用,写评估方案的时候查指标定义。第 9.3 节单独读一遍,那是全书唯一讲上线清单的部分。第 3 到第 5 章当作骨架代码,跑一遍就够,别指望里面的数值。
真正缺的那部分,只能自己做。拿你自己的语料,切两种粒度,检索跑一遍看召回,再上重排序看有没有变好,再上查询扩展看有没有更差。一个下午能跑完,得到的东西比这本书能给你的多。作者在第 6 章末做的事,就是这个。他做了一次,你可以为你的数据做一次。
一句话总结我的读感:这本书把 RAG 这三年长出来的东西都摆在了桌上,摆得很整齐,但它没有告诉你该拿哪几样。而它自己其实知道该拿哪几样——那两页实验就是证据。可惜那两页之后,它又回去当介绍人了。
它测出了自己所有推荐里有一半不管用,然后把这件事写成了一段。
阅读记录 · 李多多、范国斌《从零开始构建企业级 RAG 系统》,机械工业出版社,2025 年 4 月第 1 版,ISBN 9787111773429。全书 10 章 145 条目录,从版权页读至书末“全书完”。文中所引原文与代码输出均照录自书中,OCR 造成的个别字符误差已对照上下文校正,未作改写。
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。
发表评论: