随着任务周期的增长,大型语言模型的上下文不能无限扩展。自总结提供了一种简洁且可解释的上下文,但在性能上存在显著成本,尤其是在数据质量稀缺的人类协助领域,如协作代码生成。我们提出了ABBEL框架:一种隔离并监督自然语言信念状态中摘要信息内容的框架。
动机:递归摘要的成本
为了有效地辅助日益复杂的任务,如软件开发,语言模型必须能够在数百甚至数千步的交互中与我们互动。对于这样的长周期任务,将整个交互历史保存在上下文中是不切实际的。目前采用的经验方法是通过摘要生成,有时称为上下文压缩。例如,Cursor的最新模型Composer 2.5在训练期间使用压缩以提高性能(Cassano等,2026)。与作曲家一起,Grandcode(DeepReinforce等,2026),第一个在在线编码竞赛中 consistently beat all human competitors 的系统,尽管使用了最新的高效注意力模型(Qwen 3.5-397B),仍然发现有必要采用上下文摘要。
推荐意见