如果不用GPU，AI还能在哪里运行？光计算、类脑芯片和活体神经元都走到了哪一步
AI 的成本不只来自计算本身，还包括搬运数据、保存状态和维持精度。
模型架构
21 篇文章
全部文章
一次推理输出约 22 TB：所谓“5 万亿上下文”的物理模型到底在计算什么
物理模型为什么会需要万亿级上下文？
GLM-5.2 以 MIT 许可开放了 753B 参数，为什么“能下载”还不等于“能在公司里跑起来”？
GLM-5.2 以 MIT 许可开放权重，但企业能下载模型，还要决定怎样以合理成本运行它。
三分钟视频压成十个 Token，Meta 为什么说推荐器比聊天机器人便宜 100 倍？
推荐模型要理解更长的观看历史，却不能把每条视频的全部画面和声音都放进上下文。
孩子听的 Disney，为什么会算成爸爸的音乐品味？Spotify 怎样教 LLM 理解 1 亿首歌
播放记录不一定代表用户的喜好：家庭共享设备上的儿童歌曲，也可能被算进成年人的音乐画像。
Rich Sutton：LLM 上线后就不再学习，下一步要让它从经验里继续长
AI 上线后怎样从新经验中继续学习，同时保留旧能力？
Jerry 曾预测 2025 年会有 AGI；现在他想弄清模型为什么离不开人
模型能写代码后，为什么研究者仍要不断提供新任务和背景？
为什么AI芯片不能只比参数？模型、软件和硬件要一起设计
选 AI 芯片时，只比较算力、带宽或每小时价格为什么不够？
当AI把三周实验压到两天，研究者为什么还不能放手
编码 Agent 能把几周的实验实现压到几天，研究者的工作会怎样改变？