前沿专题库
读懂一个新方法，往往要先知道它在回答什么老问题。模型为什么需要更长的上下文？多花一些时间思考，真的能提高答案质量吗？一个会调用工具的模型，怎样才能把任务稳妥地做完？
这里围绕这些问题展开，串起基础知识、代表论文和可以动手尝试的实验。下面十个方向都可以从具体问题和小实验开始读。各专题分别标明资料截止日期；一个页面更新了，并不表示其他页面的文献也已同步更新。
| 方向 | 我们想追问什么 |
|---|---|
| 模型架构 | 能否让模型只动用需要的部分，或用更省计算的方式处理序列？ |
| 长上下文与记忆 | 能读下很长的文本，是否就能用好其中的信息？哪些内容值得留下来？ |
| 推理与测试时计算 | 多给模型一些计算时间，它能怎样搜索、检查和改进答案？ |
| 后训练方法 | 奖励提高以后，模型是否真的学会了任务？怎样检查反馈与训练的变化？ |
| 数据与学习效率 | 什么数据更值得学习？合成的数据什么时候有帮助？ |
| Agent 与环境交互 | 模型怎样使用工具、处理意外，并在较长的任务中持续推进？ |
| 持续学习与知识更新 | 学会新知识时，怎样尽量保留已经掌握的能力？ |
| 多模态与世界模型 | 模型怎样联系文字、图像、声音和动作，并预测环境的变化？ |
| 可解释性与可靠性 | 模型内部发生了什么？我们怎样发现它不确定或容易出错的地方？ |
| 评测方法 | 一次漂亮的测试成绩，能在多大程度上说明真实任务中的表现？ |
阅读专题时，可以先看问题背景，再挑一篇论文细读。文中会说明资料范围，也会区分论文报告的结果和本书实际复现的结果，方便你判断一个结论有哪些依据、还有什么没有弄清楚。