村民记得“芒果打折”，却忘了是谁说的：长期 Agent 为什么不能只靠 RAG 记忆

导读

长期 Agent 即使能检索到记忆，也可能忘记消息来源、把传言说成事实，或没有用新信息调整计划。Project Paradox 的 Erina Karati 建议把这些失误拆成可重复实验，而不是只看一段自然的对话。团队设计消息传播、传言不确定性和道路阻塞后重规划等控制场景，分别检查谁知道消息、是否保留来源、计划是否改变，以及私密信息有没有泄漏。优化器只能改记忆或沟通规则，场景与评分保持不变；每次修改重跑整套指标，目标变好但隐私或旧能力退步时就回滚。这样可以发现只提高传播速度却把秘密也传出去的策略。芒果传言场景中，团队尝试保留消息来源和不确定性，让角色在之后的回答和转述时能分清自己听到的是什么。