花旗误付 9 亿美元之后，AI Agent 的权限该怎么管？

导读

怎样让企业 Agent 保有办事能力，又能拦住不该执行的动作？Two Sigma 的 John Feminella 从花旗误付款说明，仅有警告和多人审批，仍可能让人的理解与系统动作错位。他主张先登记每个 Agent 的负责人、用途、工具和访问端点，再按风险安排审核，让摘要工具不必与生产部署排同一条队。开发者声明完成任务所需的少数能力，由受管运行环境把政策变成实际访问限制，避免权限只写在会丢失的对话里。调用时，明确情形按规则放行或拒绝，模糊请求交给独立分类器，重要且需判断的情况再找人，减轻审批疲劳。权限之外，换模型也可能改变工作质量：John 建议公司维护各团队共享的评测方法，由开发团队补上针对自己任务的检查，既能比较行为变化，也不必每次修改都等待同一套中央审批。