小结

第四部分把推理看成围绕计算的控制问题，而可调节的杠杆不止一种：有时是提示本身引出更多潜在的工作，有时是系统在链、树、程序、求解器调用或证明脚本之间搜索；验证器可以在候选之间挑选，训练则可以把有用的轨迹固化成更稳定的习惯。到了服务阶段，系统还会因为一个请求看起来更难，就在推断时给它追加预算。

额外计算确实可能带来收益，但收益有条件。它能扩大覆盖、改善选择，也可能遮住失败、抬高延迟，并把预算花在难度从未被度量过的问题上。因此，所有推理主张最后都要落回工程问题：算力花在哪里，谁检查结果，留下什么轨迹，循环怎样停止。

推理系统并不是由某种神秘内部模块定义的，而是由预算、搜索空间、验证器、轨迹和停止规则定义的。剩下最难的问题是路由：测试时算力什么时候还在起作用，什么时候已经饱和，生产系统又该怎样把稀缺预算分给真实负载。第五部分会把这个路由问题落到服务机器上，在那里，延迟、批处理、缓存驻留和价格决定额外思考到底能不能被交付。