Modal 为什么不只卖推理：从反复重写的沙箱，到替 Agent 准备整套工具

导读

推理越来越容易换供应商，AI 基础设施公司靠什么让客户持续使用？Modal 的 Erik Bernhardsson 把重点放在计算、存储、隔离执行和扩缩容组成的一整套工具，而不只竞争每个 token 的价格。沙箱最初借已有设施几天做出原型，等模型更会写代码、需求增长后，又为规模、速度和可靠性重写约五次。客户做强化学习、视频处理或机器人训练，往往同时需要推理、执行和存储，这些相邻能力因而能接成工作流程。面向 Agent，Modal 还自动生成并运行示例代码，发现旧接口和文档造成的阻碍。Erik 将低延迟语音、训练和虚拟机视为下一步尝试，但不保证复制沙箱增长，也不打算自己研发基础模型。平台的长期判断，要和供给运营、性能竞争及不断重写的投入同时成立。