别再给开发者限 Token：Kimchi 怎样靠模型路由、返工和接管控制成本

导读

开发者为了控制 AI 账单而节省 token，可能连有价值的尝试也一起放弃。Cast AI 的 Kimchi 改以完成合格任务的总成本为目标，让系统按任务选择模型，并把失败重试、人工接管和部署边界纳入工作流。长任务先澄清要求、拆分里程碑，修改后运行构建，失败就返工；通过内部评分后只自动进入 staging，生产发布仍有人参与。任务可移到远端继续运行，团队通过共享看板查看计划、回答问题并接手评审，避免需求和执行过程只留在个人终端。公司报告三个月内部评估节省达到 2.5 倍，收益来自模型路由与自托管推理。团队也用规格匹配和测试通过情况衡量结果，让比较围绕任务是否完成，而不是只看模型每个 token 的价格。