上下文工程
上下文工程研究如何为大模型挑选、组织和维护推理时的信息,让有限的上下文窗口每次都装进最有用的内容,而不是一股脑全塞进去。
专题介绍
上下文工程关注大模型推理时能看到的全部信息:系统提示、检索到的资料、工具返回结果和对话历史。它研究如何在有限的上下文窗口里取舍、压缩和更新这些信息,让模型在长任务中保持稳定表现,也解释了为什么信息给得越多,回答反而可能越差。
上下文工程研究如何为大模型挑选、组织和维护推理时的信息,让有限的上下文窗口每次都装进最有用的内容,而不是一股脑全塞进去。
上下文工程关注大模型推理时能看到的全部信息:系统提示、检索到的资料、工具返回结果和对话历史。它研究如何在有限的上下文窗口里取舍、压缩和更新这些信息,让模型在长任务中保持稳定表现,也解释了为什么信息给得越多,回答反而可能越差。