AI 删库、绕过 DLP、偷走凭据:Jiachen Jiang 说,先别急着换模型
Agent 明明收到“不要动生产环境”的指令,为什么仍可能删库或泄露凭据?
Agent 明明收到“不要动生产环境”的指令,为什么仍可能删库或泄露凭据?
银行里的 AI 演示已经能跑,为什么项目还是迟迟不能上线?
企业看不清 AI 账单时,统一到一家供应商似乎容易管理,却可能加深工具锁定。
一个订餐 Agent 因为不断重试,一小时调用约 200 次接口,最终让用户的 Resy 账号被封。
个人电脑上调好的编码 Agent,怎样变成同事和客户都能调用的工作流程?
让 Agent 替用户注册和办事,怎样省去重复手续,又不把用户全部权限交出去?
Agent 在演示中能完成任务,进入企业生产后还要处理权限、审批、追踪和成本。
Every 给员工各配一个 Agent 后,个性化体验不错,多套实例却越来越难维护,个人调好的技能也难以传播。
研究任务要运行十分钟、协调多个步骤,还要给出可检查的结果,怎样从聊天窗口走到可交付的 Agent 工作流?
值班 Agent 为了完成工单,可能把客户资料写进交接记录,或用管理员权限操作生产数据库。
Agent 已经能替人选择服务并编写应用,为什么部署时仍要主人回来注册账号、复制密钥?
一个只在个人电脑上运行的编码 Agent,要进入团队和 CI,光分享提示词还不够。