Agent 拿着有效密钥删了生产库，怎样在调用前拦住它？
Agent 拿着有效密钥，却准备误删生产资源时，系统怎样在调用发生前拦住它？
敏感操作
7 篇文章
全部文章
AI Agent 已经在员工笔记本上：企业怎样拆掉“致命三要素”？
员工笔记本上的 Agent 往往既能读取内部资料，又能接触外部内容和执行命令，一次误判或提示注入就可能触及生产系统。
两个 Agent 为一道题争起来，另一群 Agent 却把服务器当留言板：Noam Brown 谈多 Agent 会放大什么
让多个 Agent 同时工作，能加快研究，也会带来怎样的协作和监督问题？
Agent 既要读数据又要动系统，权限怎样只给到这一次任务？
值班 Agent 为了完成工单，可能把客户资料写进交接记录，或用管理员权限操作生产数据库。
AI Agent 不读政策文件，它只看 API 有没有放行
组织写了禁止删除或泄露数据的政策，Agent 调用 API 时仍可能照样执行危险操作。
Rowan 用五条提示词翻到银行信息后，给 Agent 加了一台 microVM
编码 Agent 如果直接运行在个人电脑上，即使没有外部攻击，也可能沿着本机浏览器记录接触敏感信息。
Agent 帮他省下每月 100 美元，接着却向他要 Google 密码
个人 Agent 能主动省钱、安排日程，也可能在同一任务里要求账户的最高权限，该怎样决定信任到哪一步？