Agent 还没听完，EliseAI 已经开始写回答：怎样让慢而聪明的模型听起来很实时

导读

较慢但能力更强的模型，怎样用于需要即时回应的语音 Agent？EliseAI 的 Bohan Li 介绍了一套让转录、推理和语音合成重叠的做法：快速转录器持续输出临时文本，较慢的转录器结合上下文纠错；新音频到来后，系统取消基于旧片段的纠错任务。主模型在人还没说完时就准备候选回答，后台 Agent 同时查找姓名等字段；新信息到来便撤销过期草稿，等用户说完才播放当前版本。语音合成还会复用常见开头的缓存音频，个性化内容再实时生成。预约电话的例子里，来电者可以暂停查日历并改变时间要求，系统随之调整。提前计算会增加被丢弃的工作，因此状态、取消和成本都需要一起管理。系统也要区分可以撤销的候选回答和实际发送消息、创建预约等外部操作。