AI 写代码越来越快,安全为什么没跟上:Javier Garza 从删库事故讲到恶意 Skill
AI 让更多人快速做出软件,也让 Agent 读网页、安装工具和操作生产环境时的错误更容易扩大。
AI 让更多人快速做出软件,也让 Agent 读网页、安装工具和操作生产环境时的错误更容易扩大。
客服 Agent 一次排查积累的经验,如果随着会话结束消失,下一次遇到类似问题就得重新搜索和试错。
模型更强以后,平台怎样让用户真正得到更可靠、更省资源的服务?
生产告警涉及日志、指标、部署和多个团队,怎样让 Agent 查找根因而不是给出一个听起来合理的故事?
Agent 并行写代码能加快交付,也可能把错误扩散到数据和后续工作。
团队怎样让编码 Agent 复用工程判断,又防止它自己绕过规则?
怎样让工程师放心使用 AI,同时把账单和服务质量控制住?
攻击者借助 Agent 更快试错、移动,企业怎样让防守跟上,又不因风险而停用 AI?
Agent 怎样记住有用经验,又不把一次不当要求变成长期规则?
Agent 能自动付款以后,怎样保证钱仍然花在原来批准的事情上?
一个小团队同时运行几百个 Agent,怎样看清权限风险,也避免错误调用不断烧钱?
AI 助手的发布演示越来越强,怎样让它进入日常工作?