27
文档分块(Chunking)有哪些策略?各自的优缺点是什么?
RAG检索增强生成中等
📋 面试问题
文档分块(Chunking)有哪些策略?各自的优缺点是什么?
✅ 期望回答
分块策略:
- 固定大小分块:按固定token数切分(如512 tokens),重叠一定长度保持连贯性
- 语义分块:根据语义边界切分(段落、句子),用阈值判断嵌入之间相似度变化
- 递归分块:按分隔符层级递归尝试分块
- 按文档结构:按标题/Markdown标题层级分块
- 小2大 (Small-to-Big):检索小粒度块(精确匹配),但生成时将父级大块作为上下文
#Chunking#分块#文档处理