AlphaZero 之后，David Silver 想让 AI 从零发现语言、科学和技术

导读

AI 能否不依赖海量人类文本，靠与环境互动发现新的知识？AlphaZero 研究者 David Silver 创办的 Ineffable Intelligence 正在探索这条路线：先在模拟世界里寻找持续学习的算法，让智能体为实现简单目标自行发展有用的能力。他从 AlphaZero 不用人类棋谱、通过自我对弈取得进展得到启发，计划构建不同复杂度的多智能体环境，而非直接奖励“发明语言”或“发现科学”。其他智能体会成为环境的一部分，带来协调和竞争，让简单目标可能产生更复杂的行为。模拟便于并行和复现实验，但学到的具体动作未必能直接用于现实，因此团队希望先找到学习算法，再逐步提高环境保真度。安全方面，Silver 提出先观察影子动作、再让监控智能体限制影响范围，并计划先在模拟中研究这些办法。