AI 基建
0%
第零部分 · 入门定位

第零部分 · 入门定位

作者Changkun Ou
阅读时长约 3 分钟

「我们只能看见前方很短的一段路,但那里已经有许多事情要做。」

Alan Turing,"Computing Machinery and Intelligence"

前言已经给出全书的主线:一项能力如何从算力和语料走到可运维的部署行为。第零部分不急着下定义,也不先铺一张大而全的图,因为 AI 基础设施真正难读的地方,不在某个术语太深,而在它总是以局部问题出现:新模型为什么突然强了一截,基准为什么不再可信,GPU 账单为什么压不下来,长上下文为什么让服务变慢,智能体为什么演示时顺畅、上线后脆弱。这些问题初看各有归属,继续追问却会彼此牵连:服务成本会改写模型规模,评测口径会改写后训练目标,安全边界会收窄智能体的动作空间,硬件条件也会提前淘汰一些看似优雅的设计。

第零部分先做一件事:把这些零散线索放回一条路径。第 1 章 不从抽象分层讲起,而是跟着一个请求走:用户请助手在小仓库里找 bug、给出修复、解释原因。为了完成这个请求,系统要先有从语料中学来的模型,要把字节切成词元(即分词,把文本切成一串整数片段),要经过基座模型形成(训练出原始模型)与适配(调整训练好模型的行为),要在服务层把权重变成用户等得起的词元,还要靠检索和运行框架完成观察与动作。走过一次这条路,后面每章就不再只是某个专题,而是这条路径上一处具体的代价。

第 2 章 随后把这条路径展开成整本书的地图。地图要解决的不是目录怎么排,而是读者怎样判断一项说法的位置:哪里已经是工程常识,哪里仍在争论,哪些章节看似相距很远、却受同一个约束牵引。本书反复出现的「下层约束」也从这里开始读。碰到一个看似局部的设计选择,不要只在本层找理由,往下一层看,常常能看到真正决定它形状的成本。

还有一类误读,来自词本身。第 3 章 处理的正是这些借来的词。AI 从信息论、强化学习、热力学等领域借来过真正的数学,也借来过一些比机制更弱的名字。压缩即预测,是训练目标在信息论里的样子;扩散的物理源头,也曾提供过具体的数学支撑。可「神经元」「注意力」「记忆」「System 2」这类词,很多时候只是帮助理解的一幅图。如果一开始不分清,后面很容易把比喻读成结构,把直觉读成约束。

定位的最后一步是划边界。第 4 章 把生成式技术栈放到另一套基础设施旁边:早已在驱动世界的推荐流、搜索排序与广告竞价的那一套。这一章追问三件事:新技术栈从这位老住户那里继承了什么,哪些没能复用,两者如今又在哪里合流。先知道本书的主题在哪里结束,后面的部分才不会不声不响地把话说过头。

因此,第零部分不是正式内容之前的礼貌性铺垫,而是读完全书需要的一次校准。它先留下四样东西:一条请求穿过全栈的路线,一张区分定论和争议的地图,一种处理借来词汇的分寸,以及一条与上一个 AI 时代之间的边界。后面的章节可以走得更快,因为这些定位已经先放在了手边。

如何阅读本书

本书是为「从中间进入」设计的:读者可以先从最初让自己翻开本书的那个问题切入,而不必从头到尾顺读。为了让这种读法不散,每章都会提供三类路标。

第一类是术语。专业术语首次出现时会以全称加英文原文写出,并链接到术语表,那里有一行定义,还有一个指针,指向它首次被讲清楚的地方;遇到不熟悉的词,先点链接再往下读。

第二类是交叉引用。像 第 31 章 这样的引用,指向某个机制被完整展开的地方,因此一处顺带提及不必承担全部解释。

第三类是「下层约束」(在 第 2 章 中引入)。它标出这样的时刻:页面上的某个选择,其实是被下一层的某个成本定下的。

本书还预设一件事,不再从零讲起:Transformer 如何把词元变成预测。尚未接触过这套架构的读者,应在服务、推理与编排部分依赖它之前,先读 第 7 章第 8 章,因为那些部分把注意力、KV 缓存以及预填充和解码阶段都当作已知。Transformer 那一章会从残差流开始逐一建立这些概念。

评论

登录后评论