AlphaZero 之后，David Silver 想让 AI 从零发现语言、科学和技术
AI 能否不依赖海量人类文本，靠与环境互动发现新的知识？
训练优化
15 篇文章
全部文章
10 万颗加速器里每小时都可能有东西坏掉，Google 为什么不再只看 FLOPS
加速器越多，峰值算力越不能直接代表模型训练有多快：同步等待、故障恢复和数据搬运都会消耗时间。
AI会写GPU Kernel之后，真正难的是评测、通信和系统拆分
AI 能快速生成 GPU kernel 后，怎样判断它真的更快，又该优化系统的哪一层？
Runway 不只想生成视频：一次 Sora 危机、一个神经界面和机器人仿真
视频模型能生成逼真画面，怎样进一步响应操作并帮助机器人试验动作？
MiniMax M3 怎么把百万上下文和原生多模态放进同一个模型？
长上下文和视觉能力放进同一个模型时，算法收益还要经得起显存读取、训练稳定性和文本质量的检验。
AI两天跑赢公开成绩以后，离递归自我改进还差什么
AI 能自动写代码、跑实验并取得更好的分数，离持续改进自己的研究能力还有哪些工作？
生成12万亿token之前，DatologyAI先解决了元数据、坏GPU和跨集群调度
合成数据任务扩大到万亿 token 时，GPU 空闲未必是模型太慢，也可能在等元数据、资源调度或故障恢复。
如果不用GPU，AI还能在哪里运行？光计算、类脑芯片和活体神经元都走到了哪一步
AI 的成本不只来自计算本身，还包括搬运数据、保存状态和维持精度。
一次推理输出约 22 TB：所谓“5 万亿上下文”的物理模型到底在计算什么
物理模型为什么会需要万亿级上下文？
Claude 和 Codex 能连续跑几天、打破训练纪录，为什么还不能算发现了新优化器？
编码 Agent 可以连续运行 GPU 实验、刷新明确的训练纪录，但跑得快并不等于发现了新的科学机制。
Rich Sutton：LLM 上线后就不再学习，下一步要让它从经验里继续长
AI 上线后怎样从新经验中继续学习，同时保留旧能力？
GPU 坏了，训练怎样接着跑：Crusoe 把 Slurm 与 Kubernetes 串起来的方法
训练过程中 GPU 节点不可用，怎样让任务尽快从检查点继续？