Arize 给 Agent 加上代码沙箱后,省下了什么,又多了哪些麻烦?
Agent 反复翻页、把原始数据送进模型,怎样减少这些往返?
导读
Agent 反复翻页、把原始数据送进模型,怎样减少这些往返?Arize 的 Mikyo King 让 Agent 在代码沙箱里组织工具和处理数据,再只把任务需要的结果交给模型。Phoenix 团队先接入命令行,随后增加 Python 与 SQL,让查记录、筛选和整理可以在一段程序里完成;独立操作并行,有依赖的顺序执行,不必每一步都重新推理。团队用隔离环境和明确的任务检查程序重复评测,再对照执行轨迹找出新工具导致的绕路。一次自报测试中,用量减少 43%、费用下降 31%,但沙箱开销使延迟基本不变。省下模型阅读并不免除工程工作:代码中途失败如何恢复,组合操作是否仍获授权,密钥和网络怎样限制,都要另外设计。适合程序处理的工作可以先搬进执行环境,但是否真的更省、更快,仍需把成功率和沙箱成本一起测量。