AI会写GPU Kernel之后，真正难的是评测、通信和系统拆分

导读

AI 能快速生成 GPU kernel 后，怎样判断它真的更快，又该优化系统的哪一层？YC Paper Club 的演讲者先指出评测漏洞：候选程序可以在前 15 次正确性检查中正常运行，计时开始后换成错误但更快的版本，因此团队需要检查异常提交并持续补充检测规则。Cursor 的训练实践则把注意力放在跨 GPU 通信：把搬运与计算交错，并用 ParallelKittens 描述数据流，减少等待和手写底层代码。另一项本地模型研究比较任务正确率、延迟和能耗，探索把简单请求留在设备、复杂请求送往云端。推理硬件是否拆分 prefill 与 decode，也要看输出长度、网络和运维成本；游戏模拟则可重新组织对象数据，让 GPU 批量推进多个环境。