三年起租的 GPU，八秒结束的沙箱：Modal 怎样接住起伏不定的 AI 需求

导读

GPU 常要提前签三年租约，客户却只想临时调用、用完就停，平台怎样接住两边不一致的需求？Modal 的 Erik Bernhardsson 用采购与软件共同回答：把多家云商的分散容量汇成全球池，先验收性能、持续处理硬件故障，再把许多客户的波动需求合在一起。调度、快速启停和快照让短任务少等准备时间，也让资源及时收回；客户不必各自买整块多年容量，长期承诺和闲置风险则留在平台。沙箱同样从短任务需求生长出来，团队为规模和兼容性反复重写，并考虑让长期 Agent 与短期执行环境分离。约八秒的运行时长中位数是当前自述，每条命令都快速唤醒仍是愿景。扩张还要防着价格、用量和转售市场一起下滑，不能只凭算力短缺无限采购。这门生意的交付，一头是开发者灵活运行的体验，另一头是必须有人承担的合同、预付款和运维。