不再只向闭源模型“租用智能”：Fireworks AI 怎样把训练、部署和反馈接成循环

导读

把应用从闭源模型切到开源模型，成本可能降低，质量和维护工作却不会自动解决。Fireworks AI 的 Jetashree Ravi 主张把训练、部署和线上反馈接成循环：用任务数据补质量，再按真实请求优化推理，并把运行结果送回下一轮训练。她举的 Genspark 案例中，团队清理数据、定义评估函数并调整参数后做强化微调，Fireworks 称该用例质量提高了 12%。模型部署后，还需观察输入输出长度、缓存命中和延迟等指标，按工作负载调整服务；新权重可以通过热加载替换线上版本。平台提供从辅助选择配置到自定义训练循环的不同入口，但其 Training Agent 当时不支持强化微调，大型相关项目仍需团队参与。线上记录和用户反馈可继续整理为训练数据，供下一版模型改进。