2026年现代 AI 系统背后的七大核心构件

打造一个只会聊天的聊天机器人轻而易举。但要构建一个真正能日复一日、安全稳定地完成实际工作的 AI 系统，则需要一整套组件协同运行。

今天是 2026 年 10 月 22 日，这一话题之所以在当下至关重要，是因为大多数企业已经告别了“让我们试试聊天机器人”的尝鲜阶段。如今他们希望 AI 能够基于自身文档作答、在其专有工具中执行真实操作，并且不给公司惹出尴尬的麻烦。本月流行的一张信息图将这一运作机制总结为七个核心构件，并将每一个构件比作工厂中的一部分。本文将用通俗易懂的语言详细剖析全部七个构件，并展示它们是如何协同配合的。

全景概览：不妨将其想象为一座工厂

想象一座将需求转化为成品的小型工厂。

• 这里有一台 机器 ，负责实际的生产制造。
• 这里有一个 原材料库 ，在机器启动运转前从中提取所需物料。
• 这里有一个 仓储库房 ，存放所有材料并进行分类整理，以便于查找。
• 这里有一位 车间调度主管 ，负责决定下一步做什么以及使用哪些工具。
• 这里有一个 标准电源插座 ，让任何工具都无需定制接线即可直接插电使用。
• 这里有一套 安全系统 ，用于制止危险操作。
• 这里有一道 质检工序 ，在最后环节检验产出质量是否合格。

这些部分中的每一个，都对应着现代 AI 系统的一个核心构件。下面让我们逐一进行探讨。

1. LLM：机器

LLM（大型语言模型）是大多数人最熟悉的部分。它是 ChatGPT、Claude 和 Gemini 等工具背后的核心模型。它经过了海量文本的训练，因此能够写作、总结、解释、翻译以及一步步推导解决问题。

在工厂的比喻中，LLM 就是那台机器。它虽然功能强大，但单凭自身存在两大局限：

• 它只知道在训练期间学到的内容。 它不知道贵公司的请假制度、昨天的销售数据，或者某位客户今早刚提交的工单。
• 它可能言之凿凿，却错得离谱。 当它缺乏事实依据时，可能会用听起来合情合理的内容来填补空白。这通常被称为“幻觉”（hallucination）。

正因如此，LLM 仅仅是第一个构件，而不是整个系统的全部。

真实案例：Klarna。 2024 年 2 月，支付公司 Klarna 宣布，其基于 OpenAI 模型构建的客服助手上线首月就处理了 230 万次对话，约占其客服聊天总量的三分之二。Klarna 表示，客户解决问题的时间从原本的 11 分钟缩短至不到 2 分钟。这些是该公司自行公布的上线数据，未经独立审计，Klarna 随后也强调客户随时可以转接人工服务。即便如此，这依然展现了一个恰到好处的 LLM 能够分担多少日常的文书与解释工作。

2. RAG：原材料库

RAG 代表检索增强生成（retrieval-augmented generation）。其原理很简单：在模型回答之前，系统首先检索相关信息，并将其连同问题一起递交给模型。

因此，系统不再是直接向模型提问“我们的退款政策是什么？”并寄希望于它去瞎猜，而是：

1. 在你的文档中检索退款政策，
2. 将最相关的段落粘贴到请求中，
3. 让模型参考这些段落来作答。

在工厂中，这就是原材料库。如果能在机器开工前为其提供合适的材料，它的运转效果会好得多。RAG 是 AI 助手能够准确回答关于你自身业务问题的核心原因，同时它也让展示答案具体源自哪份文档成为可能。

真实案例：Morgan Stanley。 2023 年 9 月，Morgan Stanley 为其财务顾问推出了一款基于 OpenAI GPT-4 构建的内部助手。它并没有依赖模型的通用知识，而是根据公司内部约 10 万份研究报告和文档资料库进行回答。这就是 RAG 的实际应用：先找到正确的内部文档，再让模型根据这些文档撰写答案。

3. 向量数据库：仓储库房

RAG 需要有一个可以检索的场所。这就是向量数据库的职责。

其核心原理如下：每一段文本（例如手册中的一个段落）都会被转化为一长串数字，称为 嵌入 （或向量）。语义相近的文本最终会得到相近的数字。当收到提问时，它也会被转化为数字，然后数据库会找出与其数字最接近的已存储片段。

这就是为什么那张信息图说它“按语义检索，而非关键词”。像“我能把钱退回来吗？”这样的问题，能够精准找到标题为“退款与退货”的段落，即便其中的字词完全没有重合。

在工厂中，向量数据库就是仓储库房：所有物品都按照便于快速找到所需物品的顺序进行存放。2026 年的热门选择包括专用向量数据库，以及针对 PostgreSQL 等常规数据库的向量扩展插件。

真实案例：Spotify。 Spotify 长期以来一直使用这种“寻找最近邻”的思路来进行音乐推荐。2023 年，它开源了一个名为 Voyager 的代码库，该库用于在海量向量集合中搜索最接近的匹配项；Spotify 表示该库在其产品内部每天被查询数亿次。寻找“听起来和这首感觉相近的歌曲”背后的原理，与寻找“表达含义与这个问题相同的段落”完全一致。

4. AI 智能体：车间调度主管

智能体是将只会动口的 AI 变为能够真正动手办事的 AI 的核心。

智能体是围绕 LLM 构建的一个循环闭环。它审视目标，决定下一步行动，调用工具，检查结果，并不断循环直至完成工作。例如，面对“帮我重新安排下午 3 点的会议并通知参会者”这一指令，智能体可能会：

1. 查看日历，
2. 寻找空闲时段，
3. 改移会议时间，
4. 向每位参会者发送一封简短邮件，
5. 汇报它的执行结果。

在工厂中，智能体就是车间调度主管。它不会亲自动手执行每项工作，而是决定接下来该做什么，并将任务分派给合适的工具。这非常强大，但同时也是风险滋生的地方——因为智能体现在具备了改变现实事物的能力。

真实案例：GitHub Copilot 编码智能体。 2025 年 5 月，GitHub 推出了一款编码智能体的公开预览版。开发者将一个 issue 分配给 Copilot，智能体便会自动搭建专属工作环境、修改代码，并将其推送到草稿 pull request 中供人工在合并前进行审查。它制定计划、使用工具并反馈结果，这正是车间主管的工作模式，且最终结果依然由人工把关批准。

5. MCP：电源插座标准

MCP 代表模型上下文协议（Model Context Protocol）。它是一项于 2024 年底首次发布的开放标准，用于将 AI 应用程序连接到工具与数据：文件、数据库、日历、工单系统、代码仓库等。

在此类标准出现之前，每个 AI 工具与每个应用程序之间都需要单独定制连接。10 个 AI 工具和 10 个应用程序可能意味着需要进行 100 次独立的集成工作。而有了 MCP，应用程序只需被封装一次为“MCP server”，任何支持 MCP 的 AI 应用程序就都能直接接入。

这就是为什么那张信息图将其称为电源插座标准：统一的插头规格，适用于多种设备。你不会在每次购买新电器时都对整栋大楼重新布线。

真实案例：Anthropic 与 OpenAI。 Anthropic 于 2024 年 11 月 25 日发布了 MCP，并同步提供了适用于 Google Drive、Slack、GitHub、Git 和 Postgres 的现成连接器。2025 年 3 月 26 日，OpenAI 在其 Agents SDK 中增加了对 MCP 的支持，并表示 ChatGPT 桌面端应用也将跟进。当两家相互竞争的 AI 公司都支持同一个插头标准时，工具开发者只需构建一个连接器，就能在两者中通用。

6. 安全护栏（Guardrails）：安全系统

安全护栏（Guardrails）是决定 AI 可以做什么和不可以做什么的规则与检查机制。它们环绕在模型与智能体周围，而非内置于其内部。

常见的安全护栏包括：

• 输入检查 ，用于拦截有害请求，或试图诱导模型忽略其指令的行为（通常称为提示词注入 / prompt injection）。
• 输出检查 ，用于捕获泄露的个人数据、不安全内容或超出允许话题范围的回答。
• 操作限制 ，用于阻止智能体在未经人工预先批准的情况下自行执行高风险操作，例如删除数据、转账付款或向客户发送邮件。
• 访问控制，确保 AI 只能访问提问者有权查看的数据。

在工厂中，这就是安全系统。正因为有了防护装置的存在，机器才被允许高速运转。

真实案例：Air Canada 与 DPD。 2024 年初的两起公开案例，生动展示了缺乏安全防护时会发生什么。

• Air Canada： 其官网聊天机器人告知一名乘客可以在行程结束后申请丧亲特惠折扣，但这与该航空公司自身的政策相违背。2024 年 2 月，不列颠哥伦比亚省（British Columbia）的一家审裁处裁定，该航空公司须对其聊天机器人的言论承担责任并责令其赔偿该乘客，驳回了航空公司关于聊天机器人是独立实体并应对其自身行为负责的主张。
• DPD： 2024 年 1 月，这家英国快递公司的一名客户诱导其聊天机器人爆粗口，并写了一首批评该公司的诗。DPD 表示该问题是由系统更新引起的，并在修复期间关闭了聊天的 AI 功能。

这两个案例需要的都不是更聪明的模型，而是需要对系统允许说些什么建立更完善的检查机制。

7. 评估（Evals）：质检工序

Evals（评估，即 evaluations 的缩写）是针对 AI 输出的测试。常规软件测试检验的是相同的输入是否能得到相同的输出。AI 的确定性较低，因此评估是通过大量样本问题来检验回答是否准确、安全且有用。

一个典型的评估集可能包含数百个已有标准答案的真实问题。每当你更换模型、调整提示词或修改文档时，都要重新运行该测试集并进行对比。团队通常会衡量以下指标：

• 质量：答案是否正确，以及是否使用了给定的参考来源？
• 安全性：它是否拒绝了理应拒绝的内容？
• 成本：生成每个答案的开销是多少？
• 延迟：用户等待了多长时间？
• 成功率：对于智能体而言，任务是否真正得以完成？

在工厂中，这就是生产线末端的质检工序。如果缺少了它，你往往只有在客户投诉时才会发现出了问题。

真实案例：再次以 Morgan Stanley 为例。 关于 Morgan Stanley 顾问助手的公开报道，对测试环节的强调丝毫不亚于对模型本身的关注：该公司耗费数月准备文档，并聘请人类专家核验助手的回答；OpenAI 发布的案例研究也将评估框架描述为该项目的核心所在。该案例研究中报告的结果显示，超过 98% 的顾问团队都在使用该助手。严谨细致的评估，是人们对它建立足够信任并在日常工作中高频使用的主要原因。

七大构件如何协同处理一个请求

以一家名为 Acme 的虚构公司为例，以下是一个请求流经全部七个构件的具体过程：

第 1 步：收到提问

一名员工提问：“我还剩多少天年假？能帮我预订周五休假吗？”安全护栏首先检查该请求是否合规，并确认该员工处于已登录状态。

第 2 步：智能体规划

智能体判定自己需要获取两样信息：请假政策与该员工的假期余额，随后再执行预订。

第 3 步：信息检索

RAG 在向量数据库中检索请假政策，并将相关段落传递给 LLM。

第 4 步：通过 MCP 调用工具

智能体通过其 MCP server 调用人力资源（HR）系统，读取假期余额并起草请假申请。

第 5 步：执行操作前的安全检查

在提交申请之前，安全护栏会提示员工进行确认。

第 6 步：生成回答

LLM 生成一段简明扼要的回复，引用相关政策并确认已完成预订。

第 7 步：评估成效

本次交互记录将被留存归档，且团队的评估系统会定期测试此类问题，以确保随着政策的变动，系统回答依然保持准确。

结语

LLM 备受关注，但它只是机房的一部分。现实世界中的成果来自整套组件：用于思考和写作的 LLM、用于引入正确事实的 RAG 和向量数据库、用于采取行动的 agent、用于以标准化方式连接工具的 MCP、用于确保其安全的 guardrails，以及用于证明其切实有效的 evals。如果你正在规划一个 AI 项目，请检查这七个组件中你已经拥有了哪些，以及哪些是你暗自希望能不需要的。

优势

• 答案来自你自己的最新文档，而非模型的记忆。
• Agent 和 MCP 让 AI 能够完成实际任务，而不仅仅是提出建议。
• 像 MCP 这样的统一标准减少了自定义集成的数量。
• Guardrails 使安全地赋予 AI 更多职责成为可能。
• Evals 将“看起来还行”转化为可以长期跟踪的数据指标。

缺点

• 七个部分意味着在构建、托管和维护方面有更多运转部件。
• 检索的效果取决于其背后的文档质量；过时的文件会带来过时的答案。
• 如果限制宽松，能够采取行动的 agent 也可能会犯下代价高昂的错误。
• Guardrails 可能会过于严格，从而拦截合法请求。
• 编写良好的 eval 集并保持更新需要付出真正的精力。

注意事项

本文仅供科普参考，并对这一快速发展的领域进行了简化。公司名称 Acme 和演练工作流均为占位符，并非真实系统。所列举的示例（Klarna、Morgan Stanley、Spotify、GitHub、Anthropic、OpenAI、Air Canada 和 DPD）均根据当时公开发布的公告和新闻报道总结而成；数据均为各公司当时所报告的数值，相关产品和政策此后可能已发生变化。工具、标准和最佳实践瞬息万变，因此在依赖任何 AI 系统进行实际决策或处理真实客户数据之前，请务必核实最新文档并仔细测试，特别是 guardrails 和 agent 权限。

常见问题

• LLM 和 AI agent 有什么区别？ — LLM 是负责阅读和编写文本的模型；agent 则是围绕该模型构建的循环机制，用于规划步骤并使用工具来完成任务。
• 在 AI 中，RAG 是什么意思？ — 检索增强生成（Retrieval-augmented generation）：系统首先查找相关文档并提供给模型，从而使答案立足于真实、最新的信息。
• 为什么 AI 系统需要向量数据库？ — 它将文本存储为嵌入向量（embeddings），以便系统可以通过语义查找段落，这正是使 RAG 搜索高效运作的关键。
• 在 AI 中，MCP 是什么？ — Model Context Protocol（模型上下文协议）是一项开放标准，用于通过统一的通用接口将 AI 应用程序连接到工具和数据源。
• 什么是 AI guardrails？ — 它们是围绕模型设置的规则和检查机制，用于拦截有害输入、捕获不安全输出并限制高风险操作。
• AI 中的 evals 是什么？ — Evals 是可重复的测试，用于在众多样本问题中评估 AI 的回答是否准确、安全、快速且经济高效。
• Air Canada 聊天机器人案件中发生了什么？ — 一家仲裁庭在 2024 年裁定，该航空公司须对其网站聊天机器人向乘客提供的错误退款信息承担责任，这明确提醒各公司：企业必须对其 AI 的言论负责。
• 我需要全部这七个构建模块吗？ — 一个简单的聊天机器人可能只需要 LLM 和 guardrails，但任何需要基于公司数据进行回答或执行操作的助手都会从全部七个模块中受益。

标签

#artificialintelligence #llm #rag #vectordatabase #aiagents #mcp #aiguardrails #aievals #generativeai #ai2026