为什么要关注限制
当对话不断增长时,较早的信息可能无法继续放在模型当前处理的上下文中。智能体纳入近期文件时,也只能处理配置所允许的资料量。较大的上下文有助于阅读长文件,但也可能增加处理时间和资源消耗,并带入无关或相互冲突的信息。窗口越大不一定越好。更好地使用上下文
- 给智能体提供聚焦的来源和清楚的指令,不要一次附加所有资料。
- 不同任务使用新对话,避免无关历史信息挤占上下文。
- 处理大量资料时使用文件或表格查询,不要把很长的原文全部粘贴到聊天中。
- 长任务需要转到新对话时,先总结已确定的决定和待解决问题。
- 根据任务选择模型和数据处理方式;模型窗口限制与某项功能自身的限制可能不同。