反复提醒 Agent 之后,怎样让它真的学会?Will Brown 谈企业自己的模型
反复提醒 Agent 的要求,怎样变成它以后能用上的经验?
导读
反复提醒 Agent 的要求,怎样变成它以后能用上的经验?Prime Intellect 的 Will Brown 建议先保存工作记录,把具体反馈做成评测,再针对值得学习的任务考虑训练,不必急着把所有知识塞进模型。企业可以让大模型和小模型完成相同任务,由人或另一个 Agent 比较结果;判断积累起来后,路由系统便有材料学习哪些工作适合较便宜的模型。遇到需要人决定的情境,Agent 也可以带着具体选项回来,人的选择既推进当前任务,又提供清楚的学习标签。Brown 希望像维护代码测试一样维护模型评测,再把生产轨迹整理成训练环境。他设想白天运行 Agent,夜间由人选择实验,利用空闲算力训练;文件检索、技能和记忆仍与训练后的模型共同工作。