一道题排第一，换个问题却跌出前 50：AI21 为什么同时建立多个 RAG 索引

导读

同一份文档里，精确查名称可能需要小文本块，理解跨段关系却需要更大的上下文。AI21 的 Yuval Belfer 建议为同一语料保留多种切分尺度，查询时并行检索，再把结果映射回文档并融合不同尺度的检索排名，而不是永久押注一个块大小。团队先做事后知道答案的“先知实验”，发现不同问题适合不同尺度；实际方案不能提前知道答案，因此用多份索引投票。公司报告实际测试改善范围为 1% 至 37%，其中多数通用检索配置的召回只提高约 1% 至 3%，主要指标还是正确文档是否进入前列，并非最终回答准确率。方法需要约两到五倍的嵌入与存储，是否值得取决于真实查询、遗漏关键资料的代价，以及索引更新和查询延迟带来的成本。