为什么更大的上下文窗口也救不了没有边界的 Agent
Agent 不断把工具结果塞进会话时,更大的上下文窗口只能推迟拥塞。
导读
Agent 不断把工具结果塞进会话时,更大的上下文窗口只能推迟拥塞。AWS 的 Elizabeth Fuentes Leone 建议管理信息何时进入、保存和取回,并为工具循环设置停止条件。她用监控日志说明:工具先把大批日志写入外部存储,窗口里只留一个 ID;需要原文时再按 ID 取回,当前任务则只接收相关信息。近期对话可以保留或摘要,跨会话信息另存长期记忆;多个 Agent 共用数据时传递状态指针,避免把各自完整上下文复制给彼此。工具反复调用无结果时,应返回清楚状态并限制次数;慢接口则可拆成启动任务和检查状态的异步步骤。这些措施解决不同问题,不能互相替代。演示中的摘要比例和调用上限只是示例,外部存储的权限、过期与失败恢复仍需开发者设计。