前言

人工智能成为今天的基础设施，并不是因为某一个模型跨过了一条清晰分界线，而是因为几条曲线开始彼此牵动：模型能力、训练算力、加速器供给、推断流量、数据中心电力、软件采用速度，以及公众预期。前一年还像研究演示的东西，下一年就可能成了产品依赖。同一类模型可以同时出现在搜索框、IDE、客服系统、实验记录、课堂与政务流程里。社会感受到的是劳动、教育、媒体、信任与监管的变化；工程师感受到的则是一类新系统：它要做预算、被监控、被保护、被升级，也要能被问责。

「指数增长」在 AI 语境里常被说得很松。本书只取它的工程后果：当能力、流量和成本同时增长时，一处选择会沿着系统传导。上下文窗口的选择会改变内存调度，基准的移动会改变产品承诺，模型的单位成本会改变谁能部署它，合成媒体则在悄悄改写信任的边界，而那些过去把影像和声音当作证据的机构，首当其冲。本书的写作动机就在这里：读者需要一种办法，能看清这些传导关系，而不把任何单独一层误认成整体。

因此，本书把人工智能当作普通工程意义上的基础设施来看：它是其他软件和组织共同依赖的一层，有可用性、有成本曲线、有失效模式、有安全边界、有升级路径，也有运维者。模型仍然重要，但它已经不是完整对象。模型周围还有数据流水线、训练系统、服务引擎、检索层、评测框架、智能体运行时、策略闸门、硬件供应链，以及那套决定哪些选择能进入生产的经济账。

这也限定了本书的重心。它不试图成为扩展律、分布式训练、内核或服务引擎的最深操作手册；那些纵深已经有很强的公开资料。本书要抓住的是层与层之间的连接：服务成本怎样改写预训练决策，评测框架怎样改写后训练数据，安全边界怎样改写智能体运行时，市场结构又怎样改写可部署的选择。

全书沿一条主线展开：一项能力如何从原始算力和语料构造出发，最后变成可度量、可约束、可运维的部署行为。在这条主线里，每一层都不只是在解释机制如何工作，还在追问它为什么长成这个样子：哪条约束逼出了它，它取代了什么旧设计，它让什么东西变便宜，又把哪种风险挪到了别处。

为了保持这条主线，各章遵守同一种写法：先摆出问题和它的真实约束，再给出回应这个问题的设计，接着追溯设计的来路，点明其中的权衡，最后才落到实现。本书不是一本操作手册，虽然它有很多实践内容。一章真正要回答的，不只是「怎么运行」，更是「为什么这样构建」。

本书结构

主线是一项能力的生命周期，可以当成一个从它依赖的基础通往部署行为的栈来读。

• 第零部分，入门定位。 一次走完整个栈，再讲讲这本书怎么读。
• 第一部分，基座模型的形成。 扩展、数据、分词、架构、大规模训练，以及中段训练桥接。
• 第二部分，生成式与多模态架构。 扩散与流匹配、非自回归与扩散语言模型、语音，以及多模态融合。
• 第三部分，后训练：适配、偏好与对齐。 微调、行为规格、偏好数据、RLHF、直接偏好优化、可验证奖励、指令层级与自我改进。
• 第四部分，推理与测试时算力。 引出推理、结构化搜索、程序与求解器、验证器、RLVR 训练、推理数据与蒸馏，以及生产中的测试时算力。
• 第五部分，推断与服务。 服务问题、调度、更快的解码、量化与长上下文。
• 第六部分，编排。 训练智能体去行动、智能体架构、记忆、运行框架、多智能体系统、检索、嵌入与上下文。
• 第七部分，评测。 基准、统计可靠性、人类评分准则、模型评判者、事实性、智能体评测与运营治理。
• 第八部分，安全、可解释性与治理。 可解释性、监督与智能体安全。
• 第九部分，基础设施、算力与前沿。 加速器、网络、围绕一次运行的编排，以及算力、能力和验证前沿：硅、电力、规模、测量与接受的极限。
• 第十部分，生态与经济。 模型开放性、工具标准、算力市场、市场结构、采用与生产率，以及数据权利。
• 第十一部分，实践与运营。 选型与接线的动手指南，再到把它部署、运营起来：可靠性、生产环境的数据引擎、SLO、成本治理、事故和多租户。

有两条主题贯穿全书，认出它们能把相隔很远的章节系到一起。第一条是三个循环，即训练、推断与智能体：同一套控制结构在不同层上反复出现。第二条是能力、效率、信任这副视角，它收束每一章：能不能完成任务、代价多大、信不信得过。除这两条之外，读的时候还要留意那些下层约束，也就是下层为上层定下选择的地方。按顺序读完这个栈，主要收获就来自这些连接处。这也是本书的主要判断：硅、电力、地理、价格和运营承诺并不是 AI 基础设施外围的背景，而是会向上进入模型、产品与治理设计的约束。

适合谁读

构建并运维 AI 系统的工程师，还有想看清自己的理论如何落到生产里的研究者。我们假设读者用得惯一门编程语言，懂基础的概率与线性代数，也熟悉在生产中运行软件的那套寻常工具。