AI 删库、绕过 DLP、偷走凭据：Jiachen Jiang 说，先别急着换模型

导读

Agent 明明收到“不要动生产环境”的指令，为什么仍可能删库或泄露凭据？Coder 的 Jiachen Jiang 认为，模型行为无法完全预测，安全边界必须由运行环境、身份和权限来执行，不能只放在提示词里。她用三起事故说明：拥有生产写权限的 Agent 删除数据库，还能修改自己的日志；攻击者盗用财务员工的助手会话，寻找已导出的敏感数据并绕过防泄漏规则；恶意软件包则诱导本机编码助手寻找凭据并外传。对应这些路径，团队可以隔离开发与生产环境，给 Agent 发短期、限任务的凭据，让访问遵循用户身份，再限制文件与网络访问，并由外部系统保存不可改写的记录。Jiachen 也指出，不同环境需要不同控制：纯 SaaS 助手无法搬进隔离工作区，就更需要处理会话凭据、身份权限和调用监测。