公司不必在“自研模型”和“调用 API”之间二选一：先把每项 AI 功能单独算账

导读

企业该自研模型还是继续调用外部 API？Sequoia 的 Sonya Huang 建议以单项功能为单位，比较质量、延迟、成本和供应控制，而不是为整家公司选一种立场。复杂编码 Agent 可能需要前沿模型的通用能力；高频、低延迟的代码补全则可能适合经过训练的小模型。开始训练之前，团队应先收集真实任务，定义可接受结果和不能犯的错误，建立可重复评测，再尝试模型路由、上下文和运行框架优化，仍不达标时才考虑后训练。拥有权重也带来训练、推理服务、监控和数据治理责任，用户反馈不能未经筛选就直接回灌。Sonya 建议先选一项边界清楚的能力证明收益；如果自有方案无法改善实际效果、成本或控制，继续使用外部模型仍可能更合适。