AI 应用架构模式：从单体 Prompt 到分层系统

“AI 应用不就是调 API 吗，要什么架构？"——这是把 AI 应用当"脚本"的想法。当应用复杂到一定程度（多 Agent、多工具、多数据源、商业化），没有架构的 AI 应用必然失控。

这篇文章是 AI 应用的分层架构模式：交互层、编排层、能力层、数据层，以及从单体 Prompt 到分层系统的演进路径。

一、AI 应用的"架构"指什么

传 A 统 I 应 1 2 用 应 . . 架 用 构 架 模 不 ： 构 型 确 模 ： 交 定 块 多 互 性 划 了 （ （ 分 两 P 输 、 个 r 出 依 维 o 不 赖 度 m 可 管 — p 控 理 — t ， 、 / 要 可 上 校 测 下 验 试 文 、 降 可 工 级 扩 具 / 展 调 重 用 试 怎 ） 么 组 织 ）

AI 架构的核心目标：把不确定性关进笼子——让"概率性输出"的失控面可控。

二、四层架构

┌ │ │ │ ├ │ │ │ │ ├ │ │ │ │ └ ─ ─ ─ ─ 交 编 能 数 互 排 力 据 层 ├ └ 层 ├ ├ └ 层 ├ ├ └ 层 ├ ├ └ （ ─ ─ （ ─ ─ ─ （ ─ ─ ─ （ ─ ─ ─ 用 A A A 户 对 意 I 状 上 评 I 工 检 生 I 业 知 反 怎 话 图 态 下 测 具 索 成 务 识 馈 么 捕 怎 机 文 与 能 （ （ （ 基 数 库 数 用 / 获 么 管 降 干 M R 模 于 据 （ 据 ） （ 想 / 理 级 什 C A 型 什 （ 文 （ 表 问 ） （ （ 么 P G 路 么 结 档 评 单 题 多 压 回 ） 由 ） 构 / 估 、 缩 答 / / 化 向 / / 指 A / 校 / / 量 优 令 g 记 验 F 向 实 ） 化 流 、 e 忆 / u 量 提 时 ） 式 语 n ） 重 n ） 示 ） 渲 音 t 试 c 词 染 ） ） t 模 / i 板 o ） 工 n 具 调 C 用 a 循 l 环 l i n g ）

关键原则：层与层之间通过"结构化接口"通信（编排层传状态对象，能力层返 JSON）——和传统分层架构一样，目的是可替换、可测试。

三、演进路径：从单体到分层

阶段 1：单体 Prompt（Demo 期）

一 适 问 个 用 题 ： ： P 验 改 r 证 一 o 想 处 m 法 全 p （ 崩 t 能 、 跑 不 干 就 可 所 行 测 有 ） 、 事 不 ： 可 对 扩 话 展 + 工 具 + 状 态 全 在 上 下 文 里

阶段 2：分层化（产品期）

交 适 关 互 用 键 层 ： ： / 产 状 编 品 态 排 要 从 层 稳 / 定 P 能 r 力 o 层 m / p 数 t 据 层 里 拆 拿 开 出 来 （ 进 状 态 机 / 工 作 记 忆 ）

阶段 3：服务化（规模化）

每 适 层 用 独 编 能 数 ： 立 排 力 据 多 服 服 服 服 端 务 务 务 务 / ： （ （ （ 多 会 工 检 场 话 具 索 景 状 / ） / 态 M 商 机 C 业 ） P 化 ）

四、各层的关键模式

交互层

✅ ✅ ✅ 流 结 错 式 构 误 渲 化 友 染 输 好 （ 入 （ 首 （ A 字 意 I 即 图 出 明 出 ） 确 错 ） 时 给 " 重 试 / 换 说 法 " 引 导 ）

编排层（核心）

✅ ✅ ✅ ✅ 状 上 工 校 态 下 具 验 机 文 调 - （ 管 用 重 流 理 循 试 程 （ 环 （ 锁 压 （ 回 死 缩 最 答 ， 大 不 越 + 轮 过 级 数 校 记 验 = 忆 + → 事 + 审 故 计 重 ） 事 ） 写 实 / 抽 降 取 级 ） ）

能力层

✅ ✅ ✅ 工 模 检 具 型 索 定 路 与 义 由 生 规 （ 成 范 简 解 （ 单 耦 名 任 （ 称 务 R / 快 A 描 模 G 述 型 / ， 是 参 复 能 数 杂 力 — 任 ， — 务 不 L 强 是 L 模 上 M 型 下 ） 文 的 ） 说 明 书 ）

数据层

✅ ✅ ✅ 业 反 权 务 馈 限 数 闭 （ 据 环 能 实 （ 力 时 线 层 性 上 过 （ 差 滤 工 评 ， 具 不 查 → 是 询 展 评 示 > 测 层 集 ） 快 照 → ） 回 归 ）

五、架构决策的"非功能性"考量

考量 架构影响
成本 模型路由、语义缓存、上下文压缩（省 token）
延迟 流式、TTFT 优化、预取
可靠性 重试、降级（模型挂了 → 缓存/小模型兜底）
可观测 全量 Trace、质量评估、成本分账
安全 工具鉴权、数据隔离、注入防护

AI 架构的验收标准：出问题时能定位、能降级、能止血——不是"永远不出错”。

六、踩坑记录

  1. 跳过阶段 2 直接服务化：拆了 8 个服务，编排逻辑散落 → 先分层（模块内），再服务化（模块间）
  2. 状态放 Prompt 不放系统：会话状态写在系统提示词里 → 无法校验、无法恢复 → 状态放状态机/数据库
  3. 能力层和编排层耦合：工具调用逻辑写死在业务代码 → 工具走 MCP 标准化，编排只管"怎么调"
  4. 没有降级路径：模型挂了整个产品挂 → 缓存答案 / 简单规则兜底 / 明确"服务暂时不可用"

总结

AI 应用架构的核心认知：

  1. 四层：交互、编排、能力、数据——每层职责清晰
  2. 架构的目标是把不确定性关进笼子：校验、降级、重试、可观测
  3. 演进路径：单体 Prompt → 分层 → 服务化（别跳级）
  4. 结构化接口：层间用状态对象/JSON 通信，可替换可测试

AI 应用成熟的标志：模型只是架构里可替换的一层——换模型、加工具、改流程都不动整体结构。到那一天，AI 应用才真正是"应用"，不是"脚本"。