做了 4,000 个 Postgres 分区，检索 P99 还是升到 20 秒：Legora 怎样重建法律检索

导读

法律检索规模增长后，为什么做了约 4,000 个 Postgres 分区，尾延迟仍升到 20 秒？Legora 的工程师发现，哈希分区把活跃项目和多年不再使用的项目混在一起，查询时反复挤掉缓存。团队迁到 turbopuffer 后，让每个法律项目对应一个命名空间，使搜索、冷热缓存和部分加密配置更贴近律师的工作边界。热项目留在内存或 SSD，冷项目放在对象存储；法律研究则按辖区拆分，让 Agent 按问题继续追查相关法律和案例。部分客户要求缓存也遵守数据隔离政策，团队试着关闭 SSD 缓存，发现剩余两层对这些工作负载仍够用。架构以较慢写入和冷读取换取更便宜的存储，适合能接受这种取舍的法律文档检索任务。