AI 基建
0%
第十二部分 · 实践与运营

第十二部分 · 实践与运营

作者Changkun Ou
阅读时长约 2 分钟

「能够正常工作的复杂系统,必然是从能够正常工作的简单系统演化而来。」

John Gall,"Systemantics"

进入本书最后一个主体部分,关注重点也随之改变。第九部分揭示技术栈之下的物理底座,第十部分讨论这套底座能转化出哪些能力及其边界,第十一部分说明这些边界如何形成市场结构、开放策略、采用模式和数据权利安排。本部分转而讨论团队如何组合整套技术栈,并让它在生产环境中持续运行。此时的任务不再只是追踪机制,而是要在交付期限、预算、许可证、可靠性目标、不断更新的模型版本和生产事故之间作出取舍。

第 81 章 从第一个实际选择讲起:租用前沿模型、运行开放模型,还是同时保留两种方案。第 82 章第 83 章第 84 章 把这一选择落实到推理服务引擎、网关、算力、端侧部署和微调方案。第 85 章第 86 章 引入框架、沙箱、MCP、文档解析、检索和抽取。第 87 章第 88 章 用评测、可观测性和预算把这些部件连接起来,并给出面向 2026 年技术栈的参考架构。第 89 章第 90 章第 91 章第 92 章第 93 章 随后处理长期运营问题:版本晋级与回滚、非确定性系统的可靠性、人工审查界面、审批关口、生产数据、SLO、成本治理、事故响应和多租户隔离,以及把故障转化为更好测试的闭环。

本部分不是一份照抄一次就结束的操作手册。它提供了一种理解生产级 AI 系统的方式:把系统看成一组必须始终成立的运营契约,也就是运行不变量。模型版本必须固定,预算限制必须执行,数据必须经过明确信任判断。沙箱必须约束执行,租户边界必须隔离,涉及外部影响的操作必须经过人工批准。评测必须能够阻止不合格版本发布,事故记录必须推动系统变更,故障必须沉淀为训练信号。只有这些契约明确且可验证,技术栈才不再只是工具的堆叠,而成为团队能够持续运营的系统。

评论

登录后评论