Skip to main content
上下文窗口是语言模型一次回答时能够处理的信息量。它包括对话内容、智能体指令、检索或附加的资料,以及正在生成的回答。对话越长、文件越多,留给新内容的空间就越少。

为什么要关注限制

当对话不断增长时,较早的信息可能无法继续放在模型当前处理的上下文中。智能体纳入近期文件时,也只能处理配置所允许的资料量。较大的上下文有助于阅读长文件,但也可能增加处理时间和资源消耗,并带入无关或相互冲突的信息。窗口越大不一定越好。

更好地使用上下文

  • 给智能体提供聚焦的来源和清楚的指令,不要一次附加所有资料。
  • 不同任务使用新对话,避免无关历史信息挤占上下文。
  • 处理大量资料时使用文件或表格查询,不要把很长的原文全部粘贴到聊天中。
  • 长任务需要转到新对话时,先总结已确定的决定和待解决问题。
  • 根据任务选择模型和数据处理方式;模型窗口限制与某项功能自身的限制可能不同。
如果回答遗漏了较早的信息,请提供相关来源或重述关键内容,并让智能体核实。长对话的处理方式见上下文压缩