AI研究员为什么还不能自己改进自己？真正缺的不是更多代码，而是目标、现实反馈和持续学习
AI 能写实验代码以后，距离独立推进研究还差哪些环节？
训练数据
23 篇文章
全部文章
生成12万亿token之前，DatologyAI先解决了元数据、坏GPU和跨集群调度
合成数据任务扩大到万亿 token 时，GPU 空闲未必是模型太慢，也可能在等元数据、资源调度或故障恢复。
一次推理输出约 22 TB：所谓“5 万亿上下文”的物理模型到底在计算什么
物理模型为什么会需要万亿级上下文？
三分钟视频压成十个 Token，Meta 为什么说推荐器比聊天机器人便宜 100 倍？
推荐模型要理解更长的观看历史，却不能把每条视频的全部画面和声音都放进上下文。
孩子听的 Disney，为什么会算成爸爸的音乐品味？Spotify 怎样教 LLM 理解 1 亿首歌
播放记录不一定代表用户的喜好：家庭共享设备上的儿童歌曲，也可能被算进成年人的音乐画像。
从 30 秒标签到可运行的世界：模型越强，数据为什么越难做？
模型越来越擅长复杂任务，训练数据为什么反而更难准备？
找不到一只小鸟时，模型该不该再看一遍？Perceptron怎样把VLM接到机器人上
机器人摄像头不断产生视频，但关键接触动作只占其中一小部分，真实遥操作数据又昂贵。
古籍里明明写错了，OCR为什么必须照错抄？Sarvam怎样用3B模型处理22种印度语言
古籍识别需要读懂模糊文字，却不能把原稿里的旧拼法或错误悄悄改成现代写法。
个人 AI 如果真的懂你，谁来决定它该学什么？
个人 AI 越了解用户、越能替人行动，谁来决定它学什么、在哪里运行？
模型为什么每天都要重新上班？Engram 想把团队经验写进权重
企业 Agent 每次都要重新检索公司资料，怎样让昨天的经验改变今天的工作？
Harvey 没有先训练法律模型：它先用评测、合成数据和多模型服务搭起研究实验室
法律 AI 公司 Harvey 想训练并购尽调 Agent，却不能把涉及客户秘密的真实数据室直接拿来训练。