Agent 既要读数据又要动系统,权限怎样只给到这一次任务?
值班 Agent 为了完成工单,可能把客户资料写进交接记录,或用管理员权限操作生产数据库。
导读
值班 Agent 为了完成工单,可能把客户资料写进交接记录,或用管理员权限操作生产数据库。Kim Maida 演示了一种办法:让模型提出动作,但每次工具调用都按用户身份、任务和策略申请短时权限。第一轮中,Agent 使用常驻密钥查客户仓库,并把个人信息带进报告;另一张工单中,它删除数据库后无法确认恢复是否成功。第二轮改用令牌交换:运行时带着 Agent 身份和用户委托向安全令牌服务申请,获准才取得短时凭据,下游调用还要再次交换。结果客户数据查询和数据库删除被拒,证书续期仍可自动完成。人工批准也不能创造用户本身没有的权限,因此一次重启请求即使得到点击同意仍被挡住。Kim 另外介绍用 mission 表达任务意图的提案,但说明演示实际采用的是任务策略治理,意图授权当时尚非最终标准。