AI研究员为什么还不能自己改进自己？真正缺的不是更多代码，而是目标、现实反馈和持续学习

导读

AI 能写实验代码以后，距离独立推进研究还差哪些环节？John Schulman、Beren Millidge 和 Charlie O’Neill 讨论了完整研究循环：系统不仅要执行实验，还要吸收结果、判断下一项工作，并在必要时改变原来的目标。第一代自动研究员可能先继承现有训练方法，把上一代模型暴露的错误变成新环境；目标明确时，可以用可验证任务搜索更好的方案。真实用户反馈则需要整理，因为接受一次代码建议可能有多种原因，不能直接当作干净奖励。持续学习还有遗忘问题：模型吸收新流程时可能损伤旧能力，因此嘉宾讨论用企业专属模块、阶段性训练和行为恢复逐步更新。三人对研究生产率何时提高十倍看法不同，分歧主要在于下一步实验的判断能否交给模型。