小结
小结
第十部分处理的是算力抬不起来的三道极限。学习依赖一份有限的人类文本存量,而每一条出路都只是改变了问题的形状,没有取消它:合成数据、从可检查的环境里拿奖励、把算力挪到推断、让模型在部署之后继续学。测量比这更难对付:任务时长这把尺子能报出饱和基准藏起来的进步,可被引用的那个数字建立在 50% 可靠度上,而部署真正需要的可靠度,对应的时长要短上数倍。验证收在最后:产出一个主张很便宜,检查它并不便宜。
贯穿这三章的是同一次转移:约束从生产端挪到了接受端。一个前沿系统产出候选答案、程序、证明、设计与假设的速度,已经超过任何机构确认它们的速度。稀缺的不再是结果本身,而是相信这个结果的依据,而依据来自证明对象、复现、对抗性审查,以及背书者过往的记录。
于是仍未解决的问题是:证明、复现、监督与运营契约能否扩展得足够快,以免被接受的知识成为新的瓶颈。这个问题并不纯粹是技术问题,验证由谁付钱、谁做的验证才算数,都不在实验室里决定,而在市场里决定。第十一部分转向生态与经济,能力的成本、它以什么条件发布,以及卖能力的这个行业的结构,都会成为架构的一部分。
评论
登录后评论