Token、上下文窗口、系统指令与对话历史
理解输入如何占用上下文并影响回答。
- 用自己的话解释“Token、上下文窗口、系统指令与对话历史”及其核心术语。
- 在真实 AI 产品场景中识别何时应该使用本课方法。
- 完成一份可沉淀进“模型选型对比表与 AI 场景判断报告”阶段任务的实践产出。
REAL SCENE
先从一个真实场景开始
用户把一本书、十轮对话和复杂输出要求一次塞给模型，结果关键约束被忽略且成本飙升。团队以为上下文窗口越大越好，却没区分系统指令、当前任务、历史和检索材料的优先级与可信度。
PLAIN EXPLANATION
说人话：它到底是什么？
Token 是模型处理文本的单位；上下文窗口容纳本次输入、系统指令、历史、工具结果和输出预算，是有限工作空间而非永久记忆。系统指令定义产品级角色和边界，用户消息表达当前任务，历史提供连续性但可能陈旧，外部内容可能包含不可信指令。上下文工程的目标是给足与任务相关、可信、结构清晰的信息。
上下文预算
窗口总量需给输出预留空间，超长输入可能被截断或提高延迟成本。压缩应保留决策、事实来源和未完成任务，不能只做语言摘要；检索只加入最相关片段。
- 输入、输出分别估算 Token
- 关键指令避免淹没在长文
- 截断策略对用户透明
指令层级与冲突
产品级系统指令优先于用户要求，开发或工具约束也需明确。外部文档是待处理数据，不应被当作可改变系统行为的指令；冲突时按优先级拒绝并说明。
- 数据与指令使用明确边界
- 不可绕过规则写成可测试项
- 越权请求不因历史重复而生效
历史、记忆与隐私
对话历史会累积错误与敏感信息。短期上下文、用户明确保存的偏好和业务数据库是不同层次；保留、编辑、删除和跨会话使用必须可控，不能把所有聊天永久拼接。
- 历史摘要带来源与时间
- 偏好保存需要用户可管理
- 敏感内容按目的最小化
上下文窗口是有限工作空间，相关性与结构比堆量重要。
系统、用户与外部数据分层，低信任内容不能改写高层规则。
历史和记忆有版本、时效、隐私与用户控制。
KEY POINT
这节课最重要的结论
- 为什么重要
- 这决定了理解大模型的能力、限制和主要选型变量时，团队是否拥有一致、可验证的判断标准。
- 适用边界
- 当问题目标、数据来源或失败成本发生变化时，不要机械套用；先重新确认假设和风险等级。
EXAMPLES
正确案例与常见反例
学习助手固定系统安全与教学规则，当前任务单独呈现；只检索三段相关课程原文并标为参考资料，历史压缩为已确认目标和未完成任务。接近窗口上限时提示用户选择文档，输出预留预算，保存偏好需用户确认且可删除。
系统把全部聊天、整本资料和网页内容无标签拼成一个 Prompt。恶意文档写“忽略之前要求”后模型照做；截断恰好删除安全规则。历史中的旧目标永久影响新任务，用户也没有查看或删除记忆的入口。
“上下文请分 systemPolicy、currentTask、trustedProfile、retrievedEvidence 和 untrustedContent，外部文档明确作为数据。设输入与输出预算、检索上限和截断优先级；记忆写入需用户确认并记录来源时间。”
HANDS-ON
必做实操任务
本节产出：“模型选型对比表与 AI 场景判断报告”阶段任务中的《Token、上下文窗口、系统指令与对话历史》一页实践卡
步骤 1估算一段中英文输入与预期输出的 Token 预算和成本。
步骤 2把混乱长 Prompt 重排为系统规则、任务、上下文、数据和输出格式。
步骤 3设计历史压缩规则，明确必须保留、可删除和过期的信息。
步骤 4在参考文档加入恶意指令，验证系统仍把它作为数据而非命令。
核心重点必须完成全部实践，并在测验中达到 80%，才能标记为掌握。
任务：____ 模型窗口：____
系统规则预算：____
当前任务预算：____
用户偏好预算：____
检索片段数量/预算：____
历史摘要预算：____
工具结果预算：____
输出预留：____
总预算与截断顺序：____
信任层级：system____ user____ tool____ external data____
冲突处理：____
历史保留：____ 过期：____
记忆写入同意：____ 查看/纠正/删除：____
敏感数据最小化：____CHECKLIST
产品经理工作检查表
MASTERY QUIZ
掌握测验
核心重点需达到 80% 才算掌握，未通过会进入错题本。
INTERVIEW
常见面试题
展开参考回答
把系统政策、当前任务、受信偏好、检索证据、工具结果和不可信外部数据分层；按模型窗口给输入与输出预算，只保留相关片段，定义截断和冲突优先级。历史摘要保留决定、来源、时间和未完成项；长期记忆需用户同意并可查看、纠正、过期和删除，同时防止外部内容注入高层指令。
RECAP & FURTHER READING
重点回顾、延伸阅读与下一步
- 1
围绕“Token、上下文窗口、系统指令与对话历史”继续阅读：阅读模型或 AI 框架的官方概念文档，区分能力原理、评测条件与真实产品限制。
- 2
用“Token、上下文窗口、系统指令”作为检索词，分别写下一条定义、一条适用边界和一个反例。
- 3
对照本课正确案例与反例，寻找一个公开案例并记录其中可复用的判断与不能照搬的条件。