Agent 拿着有效密钥删了生产库，怎样在调用前拦住它？
Agent 拿着有效密钥，却准备误删生产资源时，系统怎样在调用发生前拦住它？
交付审计
13 篇文章
全部文章
AI 写得越来越快，谁来确认代码可以交付？Sonar 的软件工厂难题
AI 写出更多代码以后，团队凭什么确认它已经可以交付？
Agent 拿着你的令牌发出请求，系统怎么知道是谁决定的？
用户只让 Agent 查看发票，它却顺手发送，后端怎样分清是谁决定、又是谁授权？
AI 删库、绕过 DLP、偷走凭据：Jiachen Jiang 说，先别急着换模型
Agent 明明收到“不要动生产环境”的指令，为什么仍可能删库或泄露凭据？
AI 在银行里迟迟上不了线，问题往往不在模型
银行里的 AI 演示已经能跑，为什么项目还是迟迟不能上线？
1070 亿 token 之后，Corey Gallon 怎样让 Agent 的错误先被其他 Agent 抓住
Agent 能自查，却可能沿着自己最初的错误继续判断。
AI 写代码越来越快，安全为什么没跟上：Javier Garza 从删库事故讲到恶意 Skill
AI 让更多人快速做出软件，也让 Agent 读网页、安装工具和操作生产环境时的错误更容易扩大。
PR 开始按 Agent 的速度增长后，CI、评审和审计要怎样重建？
编程 Agent 让代码提交越来越快，团队怎样避免测试和评审队列抵消这些收益？
Agent 说“做完了”还不算：WorkOS 如何让它自己交出证据
编码 Agent 声称任务完成，怎样确认用户需要的功能真的可用？
Agent 既要读数据又要动系统，权限怎样只给到这一次任务？
值班 Agent 为了完成工单，可能把客户资料写进交接记录，或用管理员权限操作生产数据库。
AI Agent 不读政策文件，它只看 API 有没有放行
组织写了禁止删除或泄露数据的政策，Agent 调用 API 时仍可能照样执行危险操作。
Standard Chartered 测试 Daybreak：AI 找到漏洞之后，怎样证明它真的能被利用？
AI 报告代码存在漏洞后，开发人员仍要知道它在实际部署中能否被利用。