无尘阁日记

大模型

共 21 篇 · 按标签归档

把黑盒拆成可以自己拧的螺丝

微信读书《Happy-LLM:从零开始构建大模型》· 朱信忠 宋志学 等 逐页翻阅 278 屏 · 6 章 · 读到第 6 章训练实践 · 2026-11-03 刚读完一本讲"大模型怎么跑"的科普小册子,紧接着读这本,衔接得刚好——上一本告诉你那台机器在干什么,这本告诉你那台机器可以自己造一台。 书的定位很明确:不讲应用、不教调 API、不堆术语。

它不是在写文章,是在猜下一个字

微信读书《大模型是怎样跑起来的(轻科技)》· 张其来 逐页翻阅 31 屏 · 读至 "全书完" · 会员卡可读的付费书 · 2026-11-03 这本书只有 31 屏。翻到最后一页时,页面弹出"全书完"和"标记读完"按钮,下面还有推荐值 79.8%、337 人点评的评分区——是一本读完的小册子,不是试读。

大模型出口管制,是自断手脚还是必要的"守门"?——三个疑问的深度解疑

大模型出口管制,是自断手脚还是必要的"守门"?——三个疑问的深度解疑 最近不少人看到"国家发布大模型出口管制"的消息,第一反应是:完了,我们一直坚持的开源优势保不住了,以后发布的大模型都不能发到 GitHub、Hugging Face 了。 这种焦虑很自然,但把政策原文明白读一遍,会发现它和网传的"全面封禁开源"相去甚远。

小米把 RL 训练开成了直播:看懂 mimo.xiaomi.com/rl 这个页面

一句话说清 这是小米 MiMo 团队给 MiMo-V2.6 的强化学习(RL)训练开的一个「实时直播看板」。它不是模型发布页,也不是宣传页,而是把正在跑的训练任务的真实运行日志挂在公网上——花了多少钱、跑了多少 token、哪台机器挂了、某个数据集这轮通过了多少条,任何人都能随时刷新看。

数据脱敏系统的最佳实践:规则召回打底,本地小模型精排

先说结论,省得你在方案里绕:「一个模型搞定脱敏」这件事不存在。 当前真正能上生产的最佳实践是——规则做高召回兜底,本地小模型做高精度精排,约束解码根除幻觉,可逆金库管住还原链路。 系统的成败从来不在模型选得多大,而在漏检率和可逆性管理这两件事上。

32B 多模态模型做内部数据脱敏,够用吗?

最近在做一件很具体的事:给内部的一批文件、数据表和音视频做脱敏,然后喂给大模型用。选型时最常被问到的一句话是——「我们本地部署一个 32B 的多模态模型,够不够?」 这个问题的答案不是「够」或「不够」,而是你让它承担哪一层责任。下面是我按这个口径做的完整评估,结论先给:32B 多模态模型是这类工作里性价比最高的「语义裁决层」,但它不是一个脱敏系统。

联想 PGX、Mac 顶配,到底能不能本地跑 DeepSeek-V4-Flash?

最近很多人看到联想 ThinkStation PGX 这类“桌面 AI 超级电脑”,第一反应是: 既然它能跑 200B 参数模型,那能不能本地跑 DeepSeek-V4-Flash? 结论先说清楚: 单台联想 PGX 不适合本地跑完整 DeepSeek-V4-Flash;Mac 顶配更有机会,但也只是“能跑起来”,不等于“跑得爽、跑得稳、跑得快”。

智能体有哪几种搭建方案

不止一种,而且并不是都必须连接 AI 大模型 API。 你可以把“智能体”先理解成一句人话: 能感知输入、按规则或能力做判断、再去执行动作的系统。 所以,智能体的核心不只是“大模型”,而是这三件事: 1. 输入 用户说话、表单、文件、邮件、图片、数据库数据、系统事件。 2. 判断 决定下一步做什么。

RAG怎么读

RAG 一般读作:一、英文读法/ræɡ/听起来和英文单词 rag 一样,近似中文的:“瑞格” 或 “拉格”在 AI 圈里,很多人直接念:RAG(rag)不是逐个字母念成 “R-A-G”,虽然那样念别人也能听懂。