本地跑模型还不够:Dylan Couzon 用无人机解释为什么 AI 记忆也该归你
把模型搬到个人设备后,助手仍可能忘掉用户多次纠正过的偏好。
导读
把模型搬到个人设备后,助手仍可能忘掉用户多次纠正过的偏好。Qdrant 的 Dylan Couzon 主张把长期记忆与模型分开,由用户控制写入、检索和遗忘,使更换模型或设备时仍能保留过去的经验。他用离线无人机视频演示:系统检测物体,把图像、标签和时间写入本地向量存储;搜索咖啡桌时,再返回相关画面和出现时间,无须回放整段视频。个人助手可以用类似方式找回偏好和失败路径,不过只保存不筛选会让记录越来越难用,旧信息也需要降权或删除。迁移还依赖兼容的向量表示,换 embedding 模型通常需要用原始资料重新编码;本地存储把备份、恢复和访问控制交给使用者。Dylan 希望分享记录时由用户主动选择,而非默认上传。