推理优化

26 篇文章

全部文章

延迟优化行业动态原视频 2026-09-179 分钟

GPU已经算完，为什么还要等一条小消息？Homa想把AI集群的调度权交给接收端

GPU 完成计算后，为什么还会等一条很短的消息？

推理优化观点与趋势原视频 2026-06-3019 分钟

为什么AI芯片不能只比参数？模型、软件和硬件要一起设计

选 AI 芯片时，只比较算力、带宽或每小时价格为什么不够？