#LLM

共 7 篇文章

LLM 基础入门2026/08/13

上下文窗口与 KV Cache:为什么 LLM 会「忘事」,长文本还越用越贵

深入解析 LLM 上下文窗口、自注意力机制与 KV Cache 的工作原理,理解模型为什么会「忘事」、长文本为什么越用越贵,以及如何科学管理上下文预算。

LLM 基础入门2026/08/13

Token 与分词器:为什么「你好」是 2 个 token,中文还比英文贵

从 Token 的本质讲起,深入解析 BPE 分词原理,解释为什么中文比英文更费 token、模型为什么数不清字数,以及如何精确估算成本、管理上下文预算——每个 LLM 开发者必懂的第一课。

rag进阶2026/08/09

RAG 的上下文窗口管理:检索到 20 个文档,但 LLM 只能吃下 5 个

Top-K 设得越大,LLM 的上下文窗口越不够用。本文从排序压缩、结构化过滤、渐进式阅读和上下文压缩四个维度,拆解在有限窗口内塞进更多有效信息的具体工程策略。

prompt-engineering进阶2026/07/31

少即是多:为什么「详细的负面约束」反而会诱导犯错?

从心理学的讽刺性过程理论到 LLM 的指令跟随盲区,揭示为什么「别用术语」「别编造」这类负面约束反而会降低模型输出质量——以及如何用正向引导写出更高效的 Prompt。

prompt-engineering进阶2026/07/31

被严重低估的 Temperature:0.0 与 0.7 之间,隔着一整个输出世界

深入解析 LLM Temperature 参数的数学本质——不是简单的「创造力开关」,而是概率分布的锐度控制。掌握不同场景下的 Temperature 调优策略,让模型输出质量产生质的飞跃。

prompt-engineering入门2026/07/25

Prompt Engineering 实战指南:从基础到高级技巧

系统学习 Prompt Engineering 的核心技巧,包括零样本、少样本、思维链、结构化输出等,提升 LLM 应用的输出质量和可控性。

rag进阶2026/07/15

RAG 从入门到精通:构建你的第一个检索增强生成应用

本文将手把手教你理解 RAG(检索增强生成)的核心原理,并使用 LangChain 和 Chroma 构建一个完整的 RAG 问答系统。