正在读取本机记录…
拓展技术沟通◷ 55 分钟

系统架构、自研采购、开源选择与 PoC

比较模型 API、知识库、业务服务和客户端的组合方式。

学完你能做到
  • 用自己的话解释“系统架构、自研采购、开源选择与 PoC”及其核心术语。
  • 在真实 AI 产品场景中识别何时应该使用本课方法。
  • 完成一份可沉淀进“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务的实践产出。
前置与关联课程

完成阶段 6 的能力检查,或先预览相关基础课

01

REAL SCENE

先从一个真实场景开始

!

团队为了 PoC 先搭完整微服务、购买向量数据库并自托管模型,三个月后才发现用户并不信任没有引用的答案。另一个团队只做了人工拼接原型,两周验证了检索质量和用户使用意愿。PoC 应消除最大不确定性,而不是提前建设生产系统。

02

PLAIN EXPLANATION

说人话:它到底是什么?

AI 系统通常包含客户端、业务服务、身份权限、模型网关、知识处理、检索、工具、评测和监控。自研、采购、开源和托管 API 的选择要比较差异化价值、数据控制、能力成熟度、集成、成本、SLA 与退出风险。PoC 用最小实现验证一个关键假设,和生产化在可靠性、安全、扩展与运维要求上不同。

01

架构责任边界

客户端负责输入与控制,业务服务持有权限和状态,模型网关统一版本、路由与审计,知识服务维护索引,工具服务执行确定动作。边界按责任与风险划分,不按供应商产品名拼图。

  • 模型不直接访问生产数据库
  • 所有调用经过租户与权限层
  • 关键状态有唯一权威来源
02

Build Buy Open Source

差异化核心、特殊数据与深度集成可能适合自研;成熟通用能力适合采购。开源提高可控性但需模型运维、安全更新和人才,托管 API 上手快但受数据条款、限额和版本变化影响。

  • 比较全生命周期而非采购价
  • 数据出境与日志保留需审查
  • 设计可替换适配层和数据导出
03

PoC 假设与退出门槛

先列价值、数据、质量、延迟、成本与合规未知项,选择风险最高者。使用小而代表性样本、人工步骤或现有组件验证,预先定义成功、失败和停止条件;通过后再设计生产架构。

  • 一轮只验证少量假设
  • 保留基线与失败样本
  • PoC 结果记录适用边界
01

系统架构按可信责任、状态和权限划分,而非让模型直连一切。

02

自研采购选型比较差异化与全生命周期风险,并保留退出能力。

03

PoC 用最小成本验证最大不确定性,预先写成功与停止条件。

03

KEY POINT

这节课最重要的结论

核心重点
PoC 要验证最大不确定性,不要提前建设完整生产架构。
为什么重要
这决定了把概率性 AI 能力变成可控、可信、可交付的产品时,团队是否拥有一致、可验证的判断标准。
适用边界
当问题目标、数据来源或失败成本发生变化时,不要机械套用;先重新确认假设和风险等级。
04

EXAMPLES

正确案例与常见反例

✓ 正确做法

知识助手 PoC 用现有托管模型、十份脱敏文档和手工权限过滤,重点验证 50 个真实问题的证据召回与用户信任;成功门槛和两周停止点预先确定。通过后才引入正式身份、增量索引、模型网关、监控和供应商适配层。

× 常见误区

团队在没有用户问题和评测集前自建 GPU 集群、五个微服务与多 Agent;PoC 目标写“展示 AI 能力”,没有基线、门槛或停止时间。采购合同又禁止数据导出,模型升级不可控,却被宣传为已可生产。

和工程师这样沟通

“先画 trust boundary:client→business API→model gateway/RAG/tool,不允许模型直接持有生产凭证。PoC 固定两周和 50 条任务集,只验证检索+引用达标;非目标包括高可用、自动扩容和全量数据迁移。”

05

HANDS-ON

必做实操任务

本节产出:“AI PRD、系统架构、风险清单、PoC 与发布计划”阶段任务中的《系统架构、自研采购、开源选择与 PoC》一页实践卡

  1. 步骤 1为 AI 产品绘制客户端、业务、权限、模型、知识、工具和监控架构。

  2. 步骤 2标出数据流、信任边界、权威状态、第三方依赖和失败降级。

  3. 步骤 3用差异化、数据、能力、成本、SLA 与退出比较四种建设方式。

  4. 步骤 4选出最大不确定性,写两周 PoC 的样本、基线、门槛和非目标。

○
实践完成度 0/4

实践结果会自动保存在本机,并进入项目工坊的任务来源。

AI 架构与 PoC 决策单核心用户价值:____ 组件:client____ business____ auth____ model gateway____ RAG____ tools____ eval____ monitor____ 数据流与权威状态:____ 信任边界/第三方:____ build vs buy:差异化____ 数据____ 能力____ 集成____ 成本____ SLA____ 退出____ 最大未知:价值 / 数据 / 质量 / 延迟 / 成本 / 合规 PoC 假设:____ 非 AI 基线:____ 样本与规模:____ 最小实现与人工步骤:____ 成功门槛:____ 失败/停止:____ 期限:____ PoC 非目标:____ 生产化缺口:____
06

CHECKLIST

产品经理工作检查表

07

MASTERY QUIZ

掌握测验

达到 60% 即可完成本课。

1PoC 的核心目的是什么?
2为什么模型不应直接访问生产数据库?
3采购模型只比较 API 单价有什么不足?
08

INTERVIEW

常见面试题

你如何设计 AI 系统架构并决定自研、采购和 PoC 范围?
展开参考回答

按客户端、可信业务与权限层、模型网关、知识检索、工具、评测和监控划分责任,模型不直连生产凭证。用差异化、数据控制、能力、集成、全成本、SLA 与退出比较自研、开源和托管。PoC 先选最大未知,用代表样本和简单基线在固定期限验证,明确门槛、失败和非目标。

09

RECAP & FURTHER READING

重点回顾、延伸阅读与下一步

一句话回顾PoC 要验证最大不确定性,不要提前建设完整生产架构。
  1. 1

    围绕“系统架构、自研采购、开源选择与 PoC”继续阅读:查阅对应技术的官方入门文档,重点核对输入输出、失败方式、权限边界与可观测性。

  2. 2

    用“技术架构、Build vs Buy、PoC”作为检索词,分别写下一条定义、一条适用边界和一个反例。

  3. 3

    对照本课正确案例与反例,寻找一个公开案例并记录其中可复用的判断与不能照搬的条件。