无尘阁日记

无尘阁日记

《深思人工智能》:他不同意「像人」,也不同意「更大的模型」
silcano

微信读书《深思人工智能》(李国杰 著,人民邮电出版社,2026 年 7 月第 1 版,ISBN 9787115701848)· 本次逐页翻阅 409 屏,从版权页读到「全书完」,序言、3 章 21 篇文章全部覆盖,抓取标记为全书读完(end=last_page),耗时 384 秒。
说明:这是一本论文集,不是一本专著。作者自己在序言里就交了底:「我写了几篇关于深入思考人工智能的文章,加上近两年在《中国科学院院刊》《计算机研究与发展》《科技导报》《计算》杂志上发表的文章,编辑成一本新书《深思人工智能》。」所以我的读法也变了:不按章读,按篇读;不看体系是否严整,看有没有一句别人说不出的话。本篇不复述目录;加引号的话都能在截图里逐字核对。

这本书里有一句话,是我今年读到的、关于 AI 最不客气的一句:

大模型和 AGI 不能沦为营销术语,AGI 不等于更大的模型,单独依靠大模型这一条路不一定能实现真正的通用人工智能。

这句话出现的位置很讲究:它不在批评别人的段落里,而在一篇标题叫「通用人工智能是发展 AI 的主要方向吗?」的文章正文里(p105),前面刚肯定完大模型的历史作用。也就是说,作者不是在唱衰,他是在给热度校准刻度。

而这本书的价值,就在这种校准上。

一、先交代这本书的形状

409 屏,3 章,我按标题切出 21 篇文章。序言 10 屏,第 1 章「追问人工智能」166 屏(40.6%),第 2 章「智能与计算」151 屏(36.9%),第 3 章「人工智能的安全和风险」80 屏(19.6%)。

先说这个 19.6%。就在上一轮,我刚读完一本《人工智能安全发展报告(2024—2025)》,364 屏,书名里带「安全」,安全篇只占 10.4%(38 屏)。而这本叫《深思人工智能》的文集,讲安全与风险的第三章有 80 屏,是那本「安全报告」的两倍多。

这个对照不是为了挖苦谁,它说明一件更基本的事:安全和风险这件事,写成「篇」的时候会缩水,写成「问题」的时候才长得出来。因为前者要覆盖(每类风险都得提到,于是每条只能写两句),后者要追问(一个风险追到底,自然就长了)。

再说它的结构问题,我放在后面「短板」里细说,这里只交代一句:21 篇文章的长短差得很远,最长 36 屏(「计算范式的扩展与跃迁:从 CS1.0 到 CS2+」),最短 5 屏(「人工智能的边界在哪里?」)。序言里作者自己列了「本书的 10 个重要观点」,但正文没有按这 10 条组织——这是一个典型的论文集特征:观点在序言里排队,文章在正文里散落。

不过这也带来一个好处。文章本来是写给不同读者的——院刊、学报、技术杂志、论坛发言——所以每篇都得自己把话讲圆。这个「不得不讲圆」,反而让一些判断比专著更硬。

二、第一锤:智能不是意识,是「降低不确定性」

序言列的第 2 个观点,是这本书全部立论的地基:

智能不是意识,更不是灵魂。智能是系统在有限资源条件下,通过持续降低未来不确定性来实现目标的能力。自我意识和价值观的「主观性」是机器难以跨越的鸿沟,人工智能只能模拟人类意识和价值观,不可能直接为机器「造心」或「立心」。AI 的智能是功能性的、行为主义的、外赋的,而人类的智能可以包含现象学的、主体性的、内生的维度。在对计算的边界有根本性的突破之前,「用计算模拟非计算」是人工智能发展的核心范式。

这段话的力量在于它一次切了两刀。

第一刀切向「AI 有意识吗」这类争论:它直接把意识从定义里剔出去了——智能不需要意识,只需要「在有限资源下降低不确定性」。这样一来,关于「机器能不能有主观体验」的形而上学争吵,就不影响工程判断了。你不需要知道模型有没有感受,也能判断它能不能把事做成。

第二刀切向「通用人工智能」这个词:既然 AI 的智能是功能性的、外赋的,那它和人类智能就不是同一种东西的两个版本,而是两种东西。所以「像人一样」这个目标,从一开始就设错了坐标。

最后那句「用计算模拟非计算」,我读了三遍。它的意思是:计算的本质是符号操作、是离散、是可判定;而智能里有大量东西不是这些——直觉、常识、语境、价值判断。人工智能这几十年做的事情,本质上是「用可计算的东西去逼近似不可计算的东西」。这个说法不新,但把它抬成「核心范式」,等于承认了一件事:AI 的天花板不是算力,是「计算」这个工具本身的形状。

顺带说一句,这也是为什么第 2 章要花 151 屏讲计算范式——在作者那里,这不是背景知识,这是主战场。

《深思人工智能》核心知识图谱
409 屏的三把锤子、真正立得住的判断、它的写法与四处短板

三、第二锤:计算范式是可以定义的,图灵只是其中一类

第 2 章有一篇文章,标题是「计算范式的扩展与跃迁:从 CS1.0 到 CS2+」,36 屏,是全书最长的一篇。它做了一件很「不讨巧」的事:先给「计算范式」下定义。

定义 2.1(计算范式):计算范式是指一类计算系统在信息表示方式(R)、状态演化机制(M)、规则生成机制(G)、语义生成机制(S)、系统边界条件(B)上所共享的结构性约束与构成原则,可表示为计算系统五元组(R, M, G, S, B)的等价类结构。

然后它用这个五元组把图灵范式装进去:图灵范式就是满足「离散符号表示、算法执行、外赋固定规则、终态语义、封闭系统」这一组坐标的等价类。再往后是表 2.2「计算范式的演变方向」,一格一格对着改:信息表示从离散符号变成连续结构,状态演化从算法执行变成动力系统演化,规则生成从外赋固定变成可自生成,语义从终态变成内生。

我觉得这是全书方法论上最硬的一块。因为「范式」这个词在中文语境里基本是个形容词,谁都在用,谁都不定义。而这里它变成了一个五维坐标——你可以把任何一个计算系统往里一放,看它落在哪一格。这比「新一代计算范式」这种说法有用一百倍。

同一思路在「为什么要高度重视非图灵计算范式研究?」(25 屏)里落到了具体清单上。它先给图灵范式列了 4 个基本特征:离散状态空间、离散时间步、符号表示、显式规则控制;然后规定:至少有 2 个基本特征与图灵范式不同的,就算非图灵范式。按这个标准,文章点出 8 种:模拟计算、神经网络计算、神经形态计算、连续变量量子计算、交互式/具身计算、热力学概率计算(P-bit 计算)、光学计算、分子计算。表 2.7 还用「满足/不满足/部分满足」三档做了逐项对照。

这套东西的价值,不在于它是不是学术界公认的分类(作者自己也说「学术界的认识还不完全统一」),而在于它给了一个可以吵架的框架。没有分类,讨论就只能停在「AI 是不是新范式」;有了分类,讨论才能推进到「你说的新范式,新在哪一维、旧在哪一维」。

我对这一篇有一个保留意见,后面说短板时再讲:五元组这个定义划得很漂亮,但全书没有用它去评过任何一个具体的系统——没有拿它去测一次 Transformer,也没有拿它去测一次类脑芯片。定义停在定义上。

四、第三锤:安全在原则上无法自证

第 3 章有一篇「基于可判定性理论的人工智能安全风险分类」(25 屏),是我认为全书最值得单独讲的一篇。它干的事是:把「AI 安全」从工程问题挪到逻辑问题上。

它的核心结论,一句话:

不是说 AI 一定会出错,或 AI 不能自我改进,而是指出一个更深刻、也更冷静的事实:AI 系统在原则上无法实现「自证安全」的闭环。这条结论是严肃讨论 AI 安全时绕不开的逻辑基石之一。

支撑这条结论的是三个定理,作者一个一个摆出来。

第一,哥德尔那一支的逻辑(不可自证)。任何足够强的形式系统,都无法在系统内部证明自身的一致性。搬过来就是:你没法让一个系统自己证明自己安全。

第二,莱斯定理(1953)。原文照抄:「任何关于程序『语义行为』的非平凡性质,都是不可判定的。所谓『非平凡性质』是指既不是对所有程序都成立,也不是对所有程序都不成立。」而「安全」恰好是这样一个性质——被表述为「对所有可能输入和执行路径,系统都不会进入危险状态」时,「因为有的程序满足,有的程序不满足」,所以它是非平凡的,所以它不可判定。

第三,古德哈特定律(1975)。英国经济学家查尔斯·古德哈特在中央银行货币政策研究中提出:当一个指标被用作优化目标时,人们(或系统)会开始针对指标本身采取行动,从而破坏它原本用来代表的真实目标。书里的转述更狠:「任何被明确写成目标的东西,都必然失去对真实价值的代表性,而且智能越强,这一失真越严重。」

然后是全篇我最想抄下来的一句:

因此,「设计一个永不被钻空子的指标」在逻辑上不可行。不要试图让指标永远正确,而要让「发现指标失效」变得可行且可负担。

这句话把安全工程的方向整个拧了一下。主流做法是「设计更好的对齐指标/更全的红队测试/更强的护栏」,方向是「让指标不出错」。而这里的说法是:指标一定出错,所以资源应该投在「出错被多快发现、发现后能不能收回」上。前者是预防逻辑,后者是监测与止损逻辑。

我认为这个转向是对的,而且它有一个很实际的推论:如果一个团队的安全预算 90% 花在「上线前通过评测」,10% 花在「上线后监控漂移」,那按这本书的论证,这个配比是反的。因为通过评测只说明「在测过的输入上安全」,而莱斯定理说的是「对所有可能输入」不可判定——你测不完。

同一章另一篇「如何看待人工智能的自主性和自我进化能力?」(25 屏)也值得说。它先破了两个流行说法:一是「AI 已经能自我进化」——作者指出今天所有主流大模型在推理阶段的参数是冻结的,所谓「学习」是外部记忆或策略层的模拟学习,然后列了三条真实路径:外部记忆与自更新代理、增量 LoRA/在线微调、再生蒸馏。二是「必须坚持零自主性」——他说「『三不原则』是底线共识,但非全面永久的禁令」,未来方向是「受控自主性」而非「零自主性」:允许 AI 在任务域内生成子目标(最终目标仍由人确定)、在受监管沙箱内生成代码建议、在带权限边界的算力网络中申请资源。

这段的价值在于它同时拒绝了两种懒人答案。「AI 已经在自我进化了」是懒的,「绝对不能给它任何自主权」也是懒的。它给的是第三种:把自主性切成权限,按域授权,按沙箱隔离。这是工程语言,不是宣言语言。

五、全书最硬的一篇:判断不能被自动化

如果这本书只能留一页,我留 p396。那是「AI for Science 的验证瓶颈和安全风险」的正文,讲的是科学与 AI 的分工。原文很长,我抄关键的一段:

科学活动并不是单一过程,至少包含两个本质不同的层面:一是「执行」,即生成与检验理论;二是「判断」,即决定哪些问题值得研究、哪些结果有价值。人工智能正在迅速掌握前者,但对后者仍存在根本性限制。……若要实现科研的完全自动化,机器必须构建「生成理论假设—自主评价科学意义—依据结果自我修正评价准则」的自闭循环。但在图灵计算框架下,这一闭环在原则上无法做到。这种局限并非当前技术暂时不足,而是计算系统作为「外源目标优化体系」的本质约束。

接着它给了一个我很喜欢的例子:预测常温超导材料。

以预测常温超导材料为例,大模型往往擅长在已知家族内插,不擅长发现真正跨家族的新高温超导体。AI4S 大概率能明显加速筛选与逼近,但不能保证明显加速找到最终答案。人类可在机制不清、证据不稳、失败不可证伪的情况下,决定往哪里搜、何时怀疑、何时转向、何时承认不知道。

「机制不清、证据不稳、失败不可证伪的情况下,决定往哪里搜」——这一句把科学研究的真实状态写出来了。它不是教科书里那种「提出假设—设计实验—验证结论」的流水线,而是在信息严重不足时做的一系列赌注。而这些赌注恰恰是 AI 最不擅长的,因为它需要一个目标函数,而「往哪里搜」这件事本身还没有目标函数。

我认为这是全书最有分量的一段判断,原因是它不可反驳地被限定住了:作者没说「AI 做不了科研」,他说的是「AI 能扩大『找到正确候选』的局部区域,却不能消除『尚未知道』这件事」。这个说法既没有夸大,也没有贬低,而且它给出了一个可以检验的预测:AI4S 会在「筛选」环节产生可测量的加速,在「转向」环节不会。

我要补一句自己的看法。这本书把「判断」归给人类,我认为方向对,但归得太干净了。真实的科研里,「判断」也不完全是人的——它大量依赖学术共同体的共识、期刊的审稿、基金的评审,也就是一套社会机制。所以更准确的说法也许是:判断不能由单个模型完成,但可以由「模型 + 制度」这个组合近似完成。而这本书没有讨论制度这一层,它把「判断」留给了抽象的「人类」。这是我觉得可惜的地方。

六、他为什么反对「像人」,也反对「更大的模型」

这两件事看起来是两件,其实是一件。

反对「像人」,序言第 1 条就说得很直接:「『像人』不应当是人工智能研究的主要目的。」在「人工智能到底是一门什么学问?」(18 屏)里,他把 AI 的 4 类目标(像人一样思考、像人一样行动、理性思考、理性行动)重新归成两个维度:像人那一支定义的是「人文维度」(与人类兼容),理性那一支定义的是「科学维度」(与客观规律一致),而现代 AI 是「人类启发 + 理性优化」的混合范式。这个拆法很清爽——它解释了为什么 AI 领域总是两拨人吵不到一起:一拨在测「像不像人」,一拨在测「对不对」,两把尺子量的是不同的东西。

反对「更大的模型」,落点在那句「AGI 不等于更大的模型」。他在同一篇里给了个更具体的判断:大模型的训练「几乎遍历了互联网上所有的文字信息」,所以在聊天问答、机器翻译、文本与图像生成这些领域「相比传统的人工智能,大模型的通用性有本质性的提高,在某些领域已接近通用水平」——但接着就是那句转折:单独依靠大模型这一条路不一定能实现真正的通用人工智能。

这个转折背后是序言第 3 条那个「流形假设」:真实世界的数据实际上只分布在多维空间中的一个低维、光滑的「曲面」上;「非线性 + 深层结构」是让模型进入「组合爆炸的高维函数空间」的通道;大语言模型表达的不是事物本身,而是「关于事物的语言痕迹」。

最后这半句,我认为是全书最锋利的一个类比。语言痕迹和事物之间隔着两层:一层是「有人把它说出来」,一层是「说出来的时候有语境」。大模型学到的是痕迹的分布,不是事物的因果。所以它在「人类已经写过的东西」上极强,在「人类还没写过的东西」上就只能靠插值。这也正好接上第五节那个常温超导的例子——擅长在已知家族内插,不擅长跨家族。

同一条思路还产出了全书最有原创性的一处:在「关于具身智能的元思考」(25 屏)里,他提出「具身智能的重点是模拟人的小脑和基底神经节」。理由是:人类熟练生巧的隐知识主要存储在这两处,属于程序性记忆或技能记忆;基底神经节(纹状体、苍白球、黑质、豆状核等)与运动控制、决策和习惯形成密切相关,在无意识的运动技能控制中扮演重要角色;小脑负责协调和精细调节动作。所以「具身智能的科学问题之一是:机器人如何学习人类鲁棒的『下意识』的执行」。

这个观点和市面上流行的「具身智能 = 大模型 + 本体」几乎是两个物种。流行的说法把难点放在「大脑」,他把它放在「小脑和基底神经节」——也就是放在「不需要思考就能做对」这件事上。我认为这是全书最值得流传的一个判断,因为它可以立刻落地成一个评测问题:你的机器人叠一件衣服,需要调用多少次大模型?如果需要,那它学的就不是技能,是推理。

七、它的短板

五条,都落到具体位置。

第一,是文集不是专著,重复没有消掉。21 篇文章写于不同年份、投给不同刊物,「流形假设」「智能不是意识」「用计算模拟非计算」这几块在序言、第 1 章、第 3 章反复出现,有的地方几乎是原文重排。序言列了「10 个重要观点」,但正文没有一章是按这 10 条组织的——观点在门口排队,文章在屋里各坐一桌。读者的实际体验是:前 100 屏信息密度很高,中间开始有「这段我读过」的感觉。

第二,大量判断是断言式的,没给判据。「Transformer 的威力来自『全局依赖、并行计算、世界建模』三者的完美统一」——「完美」是修辞,不是论证;「重大通用技术往往不是为通用性而设计的,而是在解决具体瓶颈时孕育出来的」——这句话很漂亮,但书里没有给反例检验(有没有哪个通用技术确实是为通用性设计的?)。这类句子在书里不少,读的时候很爽,追问的时候无处落脚。

第三,章节切分粗糙。第 1 章 166 屏挂了 8 篇文章,其中「维纳《控制论》的回归与升华」只有 8 屏,「人工智能的边界在哪里?」只有 5 屏。这两篇都是好题目,但 5 屏只能算一个引言。而它们被放在「第 1 章 追问人工智能」这个大帽子下面,读者会误以为是章节导语,其实是独立文章。

第四,数据大量二手,而且口径混着用。「人工智能何时才能显著提升经济增长率?」(30 屏)引 PwC、麦肯锡、IMF、世界银行的预测:到 2030 年 AI 对全球 GDP 的贡献将达 15%~20%。然后表 1.4 摆了一张对比表:电力革命 GDP 年均增速提升 0.5%(1920—1940)、互联网革命 0.6%~1.0%(1995—2010)、AI 革命(预期)1.2%~1.5%(2030 年后);劳动生产率年均提升 1.4% / 1.7% / 2.5%~3.5%(OECD 估计)。问题在于:前两行是事后统计,第三行是事前预测,三种口径放进同一张表,视觉上就变成了「AI 比电力强两三倍」。这个结论也许对,但这张表证明不了它。

第五,五元组定义没被用过,且全书无参考文献、无索引。定义 2.1 划得很漂亮,但我翻完 409 屏,没有看到用它去评一个具体系统——没有拿它测 GPT 系列,也没有拿它测类脑芯片。定义停在定义上。另外,末页在「改革科研评价与激励机制」的第 5 条之后直接是「全书完」,没有参考文献页,也没有索引。一本大量引用定理(哥德尔、莱斯、古德哈特)和机构预测(PwC、麦肯锡、IMF、世行)的书,缺这一页,读者就没法追。

八、怎么读这本书

我给三种读法,按目的选。

想找判断,读四篇。「通用人工智能是发展 AI 的主要方向吗?」(27 屏)、「基于可判定性理论的人工智能安全风险分类」(25 屏)、「AI for Science 的验证瓶颈和安全风险」(17 屏)、「关于具身智能的元思考」(25 屏)。这四篇合计 94 屏,是全书判断密度最高的部分,也是我最愿意推荐给别人的部分。

想找框架,读两篇。「计算范式的扩展与跃迁:从 CS1.0 到 CS2+」和「为什么要高度重视非图灵计算范式研究?」。这两篇给的是「五元组 + 8 种非图灵范式」这套坐标,慢,但值得。读的时候建议拿一张纸把 (R, M, G, S, B) 写下来,然后试着把你熟悉的系统往里填——填不进去的地方,就是它的边界。

想找数据,别读这本。它的强项不是数据,是判断和框架。要数字,还是去看产业报告;这本书能帮你做的,是判断那些数字该信到什么程度。

最后说整体判断。这本我给「值得放书架」,不给「值得通读」。它不像一本写给人从头读到尾的书,更像一个人二十年的思考切片——你能在里面反复遇到同一句话,那说明那句话对他真的重要。

而它最重要的一句,我认为不是那些漂亮的定义,是那句很朴素的提醒:「大语言模型能力范围之外的部分,恰恰是 AI 时代最值得人类重新扎根的地方。」

这句话可以被读成安慰,也可以被读成任务书。区别在于你接下来做什么:如果你读完觉得「那我就不用学了」,它是安慰;如果你读完开始想「模型能力边界之外,我手上有什么是它替代不了的」,它是任务书。这本书的 409 屏,值不值,全看读者选哪一种读法。

阅读记录

书名:深思人工智能
作者:李国杰|出版社:人民邮电出版社|出版时间:2026-07-01|ISBN:9787115701848
本次阅读:微信读书逐页截图 409 屏,版权页至「全书完」全覆盖,序言、3 章共 21 篇文章全部读完,抓取标记为全书读完(end=last_page),耗时 384 秒
章节篇幅(按章节起始页相减):序言 10 屏(2.4%)/ 第 1 章 追问人工智能 166 屏(40.6%)/ 第 2 章 智能与计算 151 屏(36.9%)/ 第 3 章 人工智能的安全和风险 80 屏(19.6%)
较长的单篇:计算范式的扩展与跃迁 36 屏 / 人工智能何时才能显著提升经济增长率 30 屏 / 计算机科学的本体论框架 29 屏 / 通用人工智能是发展 AI 的主要方向吗 27 屏 / 机器学习大模型为什么威力如此强大 25 屏 / 关于具身智能的元思考 25 屏 / 基于可判定性理论的人工智能安全风险分类 25 屏 / 如何看待人工智能的自主性和自我进化能力 25 屏 / 为什么要高度重视非图灵计算范式研究 25 屏;最短的单篇为「人工智能的边界在哪里?」5 屏
说明:本文引句均来自本次截图,可逐字核对;定义 2.1、表 2.2、表 2.7、莱斯定理、古德哈特定律、三方机构预测数字均为书中原文;末页为「全书完」,无参考文献页与索引;微信读书推荐值 82.0%,26 人点评
逐页精读系列 · 2026 年 11 月

关于作者 · 江天(楠哥)
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。