会写代码，还不算通用智能：施密德胡伯为什么执着于物理 AI

导读

会写代码的 AI 怎样进一步理解和改变物理世界？研究者 Jürgen Schmidhuber 认为，系统需要主动选择实验、观察结果，再用新经验更新世界模型，而不只学习人类已经留下的数据。他研究的人工好奇心以理解进展作为内部奖励：系统发现新规律时继续探索，进展停止后转向其他问题。婴儿通过动作和感官反馈学习控制手指，是他解释这一过程的例子；材料研究中，模型也可以先筛选候选，再交由实验测试，借此把有限实验资源放到更有希望的方向。机器人要把这套循环带进真实环境，还得处理触觉、抓取、能源、材料磨损和制造成本。他同时把自我改进看作长期研究路线：系统既要提升完成任务的能力，也应减少完成同样任务所需的计算和能源。