27

文档分块(Chunking)有哪些策略?各自的优缺点是什么?

RAG检索增强生成中等

📋 面试问题

文档分块(Chunking)有哪些策略?各自的优缺点是什么?

✅ 期望回答

分块策略:
  • 固定大小分块:按固定token数切分(如512 tokens),重叠一定长度保持连贯性
优点:简单、均匀;缺点:可能截断完整语义

  • 语义分块:根据语义边界切分(段落、句子),用阈值判断嵌入之间相似度变化
优点:语义完整;缺点:块大小不均匀、计算开销大

  • 递归分块:按分隔符层级递归尝试分块
优点:兼顾大小和语义;缺点:参数调节复杂

  • 按文档结构:按标题/Markdown标题层级分块
优点:保持文档结构逻辑;缺点:需结构化文档源

  • 小2大 (Small-to-Big):检索小粒度块(精确匹配),但生成时将父级大块作为上下文
优点:兼顾检索精度与上下文完整性

选择建议:通用场景用递归分块(chunk_size=512, chunk_overlap=50);结构化文档优先按标题分块
#Chunking#分块#文档处理