#上下文压缩

RAG 的上下文窗口管理：检索到 20 个文档，但 LLM 只能吃下 5 个

Top-K 设得越大，LLM 的上下文窗口越不够用。本文从排序压缩、结构化过滤、渐进式阅读和上下文压缩四个维度，拆解在有限窗口内塞进更多有效信息的具体工程策略。