个人 AI 如果真的懂你，谁来决定它该学什么？

导读

个人 AI 越了解用户、越能替人行动，谁来决定它学什么、在哪里运行？River AI 创始人 Igor Babuschkin 希望把训练和运行的选择权分散给个人与企业，但承认个性化目标和安全边界尚未解决。River 已提供开放权重模型的训练与推理服务，使用者仍需定义任务和评分；公司还在研究能从互动中学习的个人 Agent 与本地硬件。本地运行可能减少敏感数据外发，并让用户少依赖服务商，但内存、更新、盗窃和同住者同意等问题依然存在。Igor 设想系统为个人幸福优化，主持人追问如何衡量：满意度可能奖励迎合，点击也可能奖励沉迷。训练长任务同样困难，一条轨迹可能需要一天，中间奖励又可能让 Agent 追逐阶段分而偏离最终目标。