AI 基建
0%
小结

小结

作者Changkun Ou
阅读时长约 1 分钟

第十部分讨论了单靠增加算力无法跨越的三类边界。学习依赖有限的人类文本存量,而每条可能的出路都没有消除这个问题,只是改变了问题的形态:使用合成数据、从可检查的环境获得奖励、在推断阶段投入更多算力,以及让模型在部署后持续学习。能力测量更为棘手:任务时长地平线能揭示饱和基准掩盖的进步,但人们通常引用的地平线以 50% 的成功率为准;要达到部署所需的可靠性,可处理的任务时长会缩短数倍。验证为这一部分收尾:生成主张的成本很低,核实主张却不便宜。

三章共同揭示出同一种变化:真正紧缺的资源已经从生成能力转向验收能力。前沿系统生成候选答案、程序、证明、设计和假设的速度,已经超过任何机构逐项确认它们的速度。如今稀缺的不再是候选结果,而是使结果足以被采信的证据与制度基础。建立这种信任,需要可检查的证明对象、独立复现或复制、对抗性审查,以及背书者经得起审计的履责记录。

尚未解决的问题是,证明、复现、监督与运营契约能否足够快地扩展,让可采信的知识不至于成为新的瓶颈。这不只是技术问题,因为由谁承担验证成本、谁的验证获得承认,最终由市场而不是实验室决定。第十一部分将转向生态与经济。此时,能力的成本、发布条件,以及提供这些能力的行业结构,都会成为架构的一部分。

评论

登录后评论