Li6Daily

Appearance

2026-07-16
1811
6.7m

AI 核心概念大串联 ​

一、整体关系图（先有个全局视角） ​

┌──────────────────────────────────────────────────────────────────┐
│  LLM（大语言模型）                                                 │
│  模型本身，负责"理解+生成"                                          │
│   ▲  输入/输出都以 Token 为单位                                     │
│   │                                                                │
│   │   ┌─────────────── Context（上下文）──────────────────┐        │
│   │   │  = System Prompt + User Prompt + 历史 + Tool 结果   │        │
│   │   │  受 Context Window（上下文窗口）容量限制            │        │
│   │   └────────────────────────────────────────────────────┘       │
│   │                                                                │
│   ├── Prompt ──┬── System Prompt（设定角色/规则）                  │
│   │            └── User Prompt（用户实际输入）                     │
│   │                                                                │
│   ├── Tool（工具调用）── 通过 MCP 协议连接外部能力                  │
│   │                                                                │
│   └── Agent（智能体）── 编排 LLM + Prompt + Tool，自主完成任务       │
│        └── Agent Skill（技能）── 预置的专用能力/工作流              │
└──────────────────────────────────────────────────────────────────┘

一句话：LLM 是引擎，Token 是燃料单位，Context 是它每次"看"到的全部信息（受 Context Window 限制），Prompt 是给它的指令，Tool/MCP 给它手脚，Agent 把这一切编排起来自动干活，Agent Skill 是现成的"专家技能包"。

二、逐概念拆解 ​

1. LLM（Large Language Model，大语言模型） ​

  • 用海量文本训练出来的深度学习模型（如 GPT、Claude、通义、文心等），本质是预测下一个 Token 的概率机器。
  • 能力：文本生成、问答、翻译、代码编写、推理等。
  • 它本身没有记忆、没有联网、没有手（不能操作文件/调 API），所有"超能力"都靠下面这些概念补齐。

2. Token（词元） ​

  • 模型读写文本的最小单位，不等同于"字"或"词"。英文约 1 Token ≈ 4 字符；中文通常每 1~2 个汉字 ≈ 1 个 Token（取决于分词器，常见中文大模型约 1 字 ≈ 1 Token，罕见字/组合字可能更多）。
  • 计费、限速、上下文长度都以 Token 计（如 GPT-4 按输入/输出 Token 分别计费）。
  • 模型输入和输出都是 Token 序列，生成是逐 Token 自回归进行的。

3. Context（上下文） ​

  • 指模型本次推理时所能看到的全部文本，包括：
    • System Prompt（系统指令）
    • User Prompt（用户输入）
    • 历史对话（多轮对话的上下文）
    • Tool 调用结果（工具返回的内容）
  • 模型每次回答都只基于"当前 Context"，它不记得窗口之外的对话（这就是为什么长对话需要把历史重新拼进 Context）。

4. Context Window（上下文窗口） ​

  • 模型单次可纳入的最大 Token 总量（输入 + 已生成的输出都计入窗口）。例如 8K / 32K / 128K / 200K。注意：窗口限制的是"总上下文大小"，而模型单次生成的输出长度另有独立的 max_tokens 上限，二者不是互不干扰的两个配额池。
  • 超出窗口的内容会被截断或遗忘，是长文档、长对话的核心瓶颈。
  • 应对手段：摘要压缩历史、RAG 检索注入、分块处理、长上下文模型。

5. Prompt（提示词） ​

  • 给模型的"输入指令/问题"，是驱动模型行为的关键。提示工程（Prompt Engineering）旨在写出更清晰、更有效的指令。
  • 分为两类：

5.1 System Prompt（系统提示） ​

  • 在对话最开始注入的顶层指令，用来设定模型角色、语气、规则、约束。
  • 例："你是一个严谨的中文技术助手，回答要分点、不啰嗦。"
  • 通常用户不可见，由应用/平台预置，且在多轮对话中保持稳定。

5.2 User Prompt（用户提示） ​

  • 用户每轮实际输入的问题或指令。
  • 与 System Prompt、历史一起构成 Context 交给模型。

关系：Prompt = System Prompt + User Prompt (+ 历史)，是 Context 的主要组成部分。

6. Tool（工具调用 / Function Calling） ​

  • 让 LLM 突破"只会说话"的限制，能调用外部函数/API 获取实时信息或执行动作。
  • 工作流程：
    1. 模型根据需求决定"要调哪个工具、传什么参数"（输出结构化 JSON）。
    2. 宿主程序执行该工具（查天气、读数据库、发邮件……）。
    3. 把工具结果作为新一段 Context 回灌给模型。
    4. 模型基于结果继续推理/回答。
  • 工具本身要用某种协议暴露能力——于是有了 MCP。

7. MCP（Model Context Protocol，模型上下文协议） ​

  • 一套开放标准协议（由 Anthropic 提出），让 LLM/客户端以统一方式与各种外部数据源、工具对接。
  • 类比：MCP 之于 AI 工具，如同 USB-C 之于硬件接口——一套协议接百种设备。
  • 组成：
    • MCP Server：把具体能力（文件系统、数据库、GitHub、浏览器……）封装成标准接口。
    • MCP Client：集成在 Agent/IDE/应用中，连接并调用 Server。
  • 价值：开发者只需实现一次 MCP Server，任意兼容 MCP 的客户端都能复用，避免为每个工具写定制集成。

8. Agent（智能体） ​

  • 以 LLM 为"大脑"，自主规划 + 调用 Tool + 迭代执行来完成复杂目标的系统。
  • 与"单次问答"的区别：Agent 会多步循环——思考→调工具→看结果→再思考，直到任务完成。
  • 典型循环（ReAct 范式）：
    Thought（思考）→ Action（选 Tool+参数）→ Observation（看结果）→ Thought → ... → Answer
  • 例子：自动订机票的 Agent = LLM(规划) + 日历 Tool + 航班查询 Tool + 支付 Tool。

9. Agent Skill（智能体技能） ​

  • 为 Agent 预置的、封装好的专用能力/工作流，让它在特定领域表现得像"专家"。
  • 通常包含：领域知识、标准操作步骤（SOP）、可调用的脚本/工具。
  • 类比：Agent 是"通才员工"，Skill 是"上岗培训手册 + 专用工具箱"。
  • 触发方式：用户意图匹配时自动加载，或显式调用。加载后 Skill 的指令会进入 Context，指导 Agent 按规范完成任务（例如"代码审查技能""画架构图技能"）。

三、概念串联：一次完整交互的流转 ​

以"让 Agent 帮你查天气并写报告"为例：

1. 你发出 User Prompt："明天北京天气如何？写份简短报告"
2. Agent 读取 System Prompt（你设定的助手角色/规则）
3. Context = System + User Prompt 送入 LLM
4. LLM 判断：需要实时数据 → 选择 Weather Tool，输出调用参数
5. 通过 MCP 协议，MCP Client 调用 Weather MCP Server 拿到天气数据
6. 工具结果回灌进 Context（Observation）
7. LLM 基于完整 Context 生成报告（逐 Token 输出）
8. 若启用了"报告排版 Skill"，该 Skill 指令注入 Context，规范输出格式
9. 全程受 Context Window 限制：过长对话会压缩/截断

可见：LLM 是核心，Token 度量一切，Context 承载信息，Prompt 下达指令，Tool+MCP 提供手脚，Agent 做编排，Skill 给专家套路。

四、核心概念对照表 ​

概念一句话定义类比
LLM预测下一个 Token 的模型大脑
Token文本最小单位，计费/长度单位字/词颗粒
Context模型本次看到的所有文本工作台上的资料
Context Window单次最多看多少 Token桌面大小
Prompt给模型的指令任务书
System Prompt顶层角色/规则设定员工手册
User Prompt用户实际输入具体需求
Tool模型可调用的外部函数手的延伸
MCP连接工具的统一协议USB-C 接口
Agent自主规划+调工具完成任务自动执行的员工
Agent Skill预置的专用能力/工作流专家培训包

记忆口诀：LLM 用 Token 思考，在 Context Window 里读 Context（含 System/User Prompt），靠 Tool 和 MCP 动手，由 Agent 编排成事，用 Skill 变专家。

最近更新