K
🧠

Prompt 与上下文

4 篇文章

1. Prompt设计原则
2. Few-shot与结构化输出
3. System User Tool消息分工
4. 上下文管理与缓存
查看专题概览 / 复习建议

核心问题

  • Prompt 设计为什么会显著影响回答质量
  • 上下文是越多越好还是越准越好
  • System / User / Tool 消息各自承担什么角色
  • 为什么缓存和上下文裁剪在工程里很重要
  • 如何避免Prompt工程变成”魔法调参”
  • 上下文窗口与成本延迟的平衡
  • Few-shot 为什么有时比堆规则更有效
  • 为什么结构化输出和JSON Schema在工程里很重要

建议复习顺序

  1. Prompt 设计原则（基础方法）
  2. Few-shot 与结构化输出（稳定输出）
  3. System / User / Tool 角色分工（消息设计）
  4. 上下文拼接与裁剪（长度管理）
  5. 缓存和会话状态（性能优化）

子主题导航

高频追问

  • Prompt engineering 到底有没有壁垒
  • 为什么同样的 Prompt 换模型效果会变
  • 长对话里怎么防止历史污染当前任务
  • 如何评估Prompt质量
  • 缓存策略如何设计
  • 为什么结构化输出比纯自然语言更利于系统集成
  • System Prompt 为什么会和业务指令产生冲突

易错点

  • 只会堆很多规则，不会压缩目标和边界
  • 把上下文长度当成绝对优势
  • 忽略不同模型对Prompt的差异
  • 缓存不考虑时效性和版本

学习策略

记忆技巧

Prompt设计六要素：

  • 角色 = “你是什么身份”
  • 任务 = “做什么具体事情”
  • 输入 = “数据格式是什么”
  • 输出 = “结果格式是什么”
  • 边界 = “特殊情况怎么办”
  • 示例 = “给个具体例子”

上下文管理三要素：

  • 裁剪 = “保留什么，丢弃什么”
  • 摘要 = “长话短说，抓重点”
  • 缓存 = “重复查询，直接返回”

关联学习

Prompt与上下文与LLM基础紧密相关：

  1. 模型能力：理解Transformer和采样参数
  2. RAG系统：检索增强生成中的Prompt设计
  3. Agent应用：工具调用中的上下文管理
  4. 性能优化：成本控制与响应速度平衡