25
如何在保证效果的前提下减少Prompt的token消耗?
提示工程与Prompt设计中等
📋 面试问题
如何在保证效果的前提下减少Prompt的token消耗?
✅ 期望回答
策略:
- 压缩Few-shot示例:将示例从完整长文本压缩为精简格式
- 去除重复指令:避免在System Prompt和User Message中重复相同的约束和角色设定
- 使用缩写符号:用简洁符号替代冗长描述(如「Q:」代替「Question:」,「A:」代替「Answer:」)
- 提炼关键指令:让LLM帮忙提炼Prompt——「请将我下面这段Prompt精简50%,但保留所有核心约束和指令」
- 动态上下文:根据问题类型只注入相关的RAG知识,而非全部上下文
#Token优化#成本#压缩