确定性边界与可控的 AI 用户体验
设计编辑、确认、撤回、引用、解释和人工接管。
- 用自己的话解释“确定性边界与可控的 AI 用户体验”及其核心术语。
- 在真实 AI 产品场景中识别何时应该使用本课方法。
- 完成一份可沉淀进“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务的实践产出。
REAL SCENE
先从一个真实场景开始
AI 财务助手把“建议付款”做成一个醒目的执行按钮，用户看不到依据、不知道金额来源，也无法撤回。概率性输出若伪装成确定事实，会诱导过度信任；可信体验要让用户理解状态、证据、控制权和最终责任。
PLAIN EXPLANATION
说人话：它到底是什么？
确定性功能在相同条件下遵循明确规则，AI 输出存在不确定性。产品应把建议、草稿和执行分层，显示依据与适用边界，提供编辑、重试、比较、确认、撤回和人工接管。不确定性表达不是随意显示一个模型置信分，而是结合证据覆盖、任务风险和可行动建议，让用户知道能否依赖以及下一步怎么做。
确定与概率边界
权限、金额上限、状态转换和审计由代码规则决定；生成摘要、候选与风险提示由模型辅助。界面使用“建议”“草稿”等准确语言，不能用视觉权威把模型输出伪装成系统事实。
- 事实字段与生成解释分区
- 建议接口不能直接触发执行
- 关键业务值从权威系统读取
证据和不确定性表达
引用、缺失字段、证据冲突和覆盖范围比抽象百分比更有帮助。模型置信需校准才可显示；否则用“有直接证据”“需要确认”等风险等级，并解释用户该检查什么。
- 不使用虚假精确概率
- 重要结论可回到原文
- 无证据时允许停止回答
控制、恢复与接管
用户可逐段编辑、保留版本、针对原因重试；执行前预览对象和后果，完成后提供撤销或补偿。模型失败、超时、高风险或用户不信任时能转人工，且上下文完整传递。
- 停止不删除已有工作
- 重试说明会改变的条件
- 人工接管避免用户重复描述
确定性规则控制权限与副作用，AI 负责建议和可修正内容。
可信度通过来源、缺口和风险表达，不用未经校准的假精确分数。
用户始终拥有编辑、确认、撤回、申诉与人工接管路径。
KEY POINT
这节课最重要的结论
- 为什么重要
- 这决定了把概率性 AI 能力变成可控、可信、可交付的产品时，团队是否拥有一致、可验证的判断标准。
- 适用边界
- 当问题目标、数据来源或失败成本发生变化时，不要机械套用；先重新确认假设和风险等级。
EXAMPLES
正确案例与常见反例
助手将发票金额显示为来自财务系统的确定字段，AI 只生成付款建议并逐项引用合同。缺少验收单时标记“证据不足”，不给执行按钮；用户可编辑理由并预览付款对象，授权人确认后执行，异常可暂停和申诉。
模型生成金额、供应商和建议混成一个绿色“已验证”卡片，显示未经校准的 97% 可信；点击默认执行且无法撤回。重试覆盖旧版本，失败只让用户重新输入，人工客服看不到此前证据和操作。
“数据模型请区分 authoritativeFields、modelClaims 与 citations；execution 只接受服务端重新读取的权威参数和 approvalId。confidence 不直接展示，先映射 evidenceStatus。保留 outputVersion、editDiff、undo/compensation 状态。”
HANDS-ON
必做实操任务
本节产出：“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务中的《确定性边界与可控的 AI 用户体验》一页实践卡
步骤 1审计一个 AI 页面，标出事实、模型建议、用户输入和执行动作。
步骤 2为有证据、部分证据、冲突、无证据设计四种可信度表达。
步骤 3设计生成、编辑、局部重试、版本比较、确认、执行和撤回流程。
步骤 4模拟超时、质量失败和用户不信任，设计无重复描述的人工接管。
核心重点必须完成全部实践，并在测验中达到 80%，才能标记为掌握。
任务与风险：____
权威事实：____ 来源：____
模型建议/推断：____
用户输入：____
证据状态：充分____ 部分____ 冲突____ 无____
用户提示与下一步：____
生成中/停止/超时：____
编辑与局部重试：____
版本保留与比较：____
执行前预览：对象____ 后果____ 权限____
确认：____ 撤回/补偿：____
人工接管条件与上下文包：____
申诉与审计：____CHECKLIST
产品经理工作检查表
MASTERY QUIZ
掌握测验
核心重点需达到 80% 才算掌握，未通过会进入错题本。
INTERVIEW
常见面试题
展开参考回答
先把权威事实、模型建议和执行动作分层，确定规则负责权限与副作用。对模型结论展示真实来源、缺口、冲突和适用边界，不使用未经校准置信度；提供停止、编辑、局部重试、版本比较和反馈。高风险执行预览影响并由有权限者确认，支持撤回补偿、审计、申诉与带上下文人工接管。
RECAP & FURTHER READING
重点回顾、延伸阅读与下一步
- 1
围绕“确定性边界与可控的 AI 用户体验”继续阅读：选择一篇真实用户研究或产品决策复盘，识别其中的问题证据、方案取舍与验证闭环。
- 2
用“概率性、人工接管、可信体验”作为检索词，分别写下一条定义、一条适用边界和一个反例。
- 3
对照本课正确案例与反例，寻找一个公开案例并记录其中可复用的判断与不能照搬的条件。