AI模型两周一变,芯片要用三年以上:Fractile怎样押注下一代推理
AI 模型更新很快,芯片从设计到部署却需要多年,还要适应之后的模型变化。
导读
AI 模型更新很快,芯片从设计到部署却需要多年,还要适应之后的模型变化。Fractile 创始人 Walter Goodwin 的应对是研究未来负载,把内存、架构和物理设计放进更短的反馈链,同时接受制造与最终签核仍有固定周期。公司早期押注高速 SRAM,后来担心参数和长上下文超过容量,转向研究兼顾容量与带宽的 DRAM 路线。团队把模型工作负载研究、芯片设计和封装人员放在一起,希望更早发现彼此的限制;AI 可帮助探索布局,但晶圆制造、耗时的布局算法和制造规则检查不会因此消失。Walter 还研究能否用更高带宽支持更稀疏的模型,减少计算需求。他希望加快设计反馈,让团队保留多种候选方案,在信息更充分时再选出进入批量制造的平台。