系统架构、自研采购、开源选择与 PoC
比较模型 API、知识库、业务服务和客户端的组合方式。
- 用自己的话解释“系统架构、自研采购、开源选择与 PoC”及其核心术语。
- 在真实 AI 产品场景中识别何时应该使用本课方法。
- 完成一份可沉淀进“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务的实践产出。
REAL SCENE
先从一个真实场景开始
团队为了 PoC 先搭完整微服务、购买向量数据库并自托管模型,三个月后才发现用户并不信任没有引用的答案。另一个团队只做了人工拼接原型,两周验证了检索质量和用户使用意愿。PoC 应消除最大不确定性,而不是提前建设生产系统。
PLAIN EXPLANATION
说人话:它到底是什么?
AI 系统通常包含客户端、业务服务、身份权限、模型网关、知识处理、检索、工具、评测和监控。自研、采购、开源和托管 API 的选择要比较差异化价值、数据控制、能力成熟度、集成、成本、SLA 与退出风险。PoC 用最小实现验证一个关键假设,和生产化在可靠性、安全、扩展与运维要求上不同。
架构责任边界
客户端负责输入与控制,业务服务持有权限和状态,模型网关统一版本、路由与审计,知识服务维护索引,工具服务执行确定动作。边界按责任与风险划分,不按供应商产品名拼图。
- 模型不直接访问生产数据库
- 所有调用经过租户与权限层
- 关键状态有唯一权威来源
Build Buy Open Source
差异化核心、特殊数据与深度集成可能适合自研;成熟通用能力适合采购。开源提高可控性但需模型运维、安全更新和人才,托管 API 上手快但受数据条款、限额和版本变化影响。
- 比较全生命周期而非采购价
- 数据出境与日志保留需审查
- 设计可替换适配层和数据导出
PoC 假设与退出门槛
先列价值、数据、质量、延迟、成本与合规未知项,选择风险最高者。使用小而代表性样本、人工步骤或现有组件验证,预先定义成功、失败和停止条件;通过后再设计生产架构。
- 一轮只验证少量假设
- 保留基线与失败样本
- PoC 结果记录适用边界
系统架构按可信责任、状态和权限划分,而非让模型直连一切。
自研采购选型比较差异化与全生命周期风险,并保留退出能力。
PoC 用最小成本验证最大不确定性,预先写成功与停止条件。
KEY POINT
这节课最重要的结论
- 为什么重要
- 这决定了把概率性 AI 能力变成可控、可信、可交付的产品时,团队是否拥有一致、可验证的判断标准。
- 适用边界
- 当问题目标、数据来源或失败成本发生变化时,不要机械套用;先重新确认假设和风险等级。
EXAMPLES
正确案例与常见反例
知识助手 PoC 用现有托管模型、十份脱敏文档和手工权限过滤,重点验证 50 个真实问题的证据召回与用户信任;成功门槛和两周停止点预先确定。通过后才引入正式身份、增量索引、模型网关、监控和供应商适配层。
团队在没有用户问题和评测集前自建 GPU 集群、五个微服务与多 Agent;PoC 目标写“展示 AI 能力”,没有基线、门槛或停止时间。采购合同又禁止数据导出,模型升级不可控,却被宣传为已可生产。
“先画 trust boundary:client→business API→model gateway/RAG/tool,不允许模型直接持有生产凭证。PoC 固定两周和 50 条任务集,只验证检索+引用达标;非目标包括高可用、自动扩容和全量数据迁移。”
HANDS-ON
必做实操任务
本节产出:“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务中的《系统架构、自研采购、开源选择与 PoC》一页实践卡
步骤 1为 AI 产品绘制客户端、业务、权限、模型、知识、工具和监控架构。
步骤 2标出数据流、信任边界、权威状态、第三方依赖和失败降级。
步骤 3用差异化、数据、能力、成本、SLA 与退出比较四种建设方式。
步骤 4选出最大不确定性,写两周 PoC 的样本、基线、门槛和非目标。
实践结果会自动保存在本机,并进入项目工坊的任务来源。
核心用户价值:____
组件:client____ business____ auth____ model gateway____ RAG____ tools____ eval____ monitor____
数据流与权威状态:____
信任边界/第三方:____
build vs buy:差异化____ 数据____ 能力____ 集成____ 成本____ SLA____ 退出____
最大未知:价值 / 数据 / 质量 / 延迟 / 成本 / 合规
PoC 假设:____
非 AI 基线:____
样本与规模:____
最小实现与人工步骤:____
成功门槛:____ 失败/停止:____ 期限:____
PoC 非目标:____
生产化缺口:____CHECKLIST
产品经理工作检查表
MASTERY QUIZ
掌握测验
达到 60% 即可完成本课。
INTERVIEW
常见面试题
展开参考回答
按客户端、可信业务与权限层、模型网关、知识检索、工具、评测和监控划分责任,模型不直连生产凭证。用差异化、数据控制、能力、集成、全成本、SLA 与退出比较自研、开源和托管。PoC 先选最大未知,用代表样本和简单基线在固定期限验证,明确门槛、失败和非目标。
RECAP & FURTHER READING
重点回顾、延伸阅读与下一步
- 1
围绕“系统架构、自研采购、开源选择与 PoC”继续阅读:查阅对应技术的官方入门文档,重点核对输入输出、失败方式、权限边界与可观测性。
- 2
用“技术架构、Build vs Buy、PoC”作为检索词,分别写下一条定义、一条适用边界和一个反例。
- 3
对照本课正确案例与反例,寻找一个公开案例并记录其中可复用的判断与不能照搬的条件。