按主题找术语 · 63 份指南

人工智能

认识 AI 如何接收指令、查找资料、使用工具、回答问题，以及接受检查。

01 / 术语图鉴

全部人工智能术语

打开一个术语，就能看简单解释、示例、使用时机、正式程度和代码名称。

01 · 深入了解
代理编排 Agent Orchestration

代理编排是一套工作安排，用来管理 AI 代理、工具、任务交接、共享信息和停止规则，让多步骤任务能受控完成。
02 · 深入了解
代理记忆 Agent Memory

代理记忆是 AI 代理在这条消息结束后，仍能取用的已保存信息。规则要说清楚会存什么、存多久，以及如何更新。
03 · 核心
对话历史 Conversation History

对话历史是传给后续轮次的之前消息和有用状态。系统常会筛选或总结它。
04 · 深入了解
多模态 AI Multimodal AI

多模态 AI 能使用或生成多种数据。数据可包含文字、图片、声音、视频或传感器信息。
05 · 核心
氛围式编程 Vibe Coding

Vibe Coding 通过对话构建软件。人负责设置和检查目标，AI Agent 负责大部分代码。
06 · 深入了解
工具调用 Tool Calling

工具调用是模型用规定格式的参数，请求使用某个外部工具。是否执行、要怎么执行，仍由主程序决定。
07 · 深入了解
混合搜索 Hybrid Search

混合搜索会为同一个问题，同时使用精确词语搜索和按意思匹配的向量搜索，再把两边的结果合并或重排序。
08 · 核心
检索相关性 Retrieval Relevance

检索相关性是按照清楚的评分规则，判断搜索结果或答案有多符合用户的信息需求。
09 · 深入了解
检索增强生成 Retrieval-Augmented Generation

检索增强生成（RAG）会在运行时找出相关的外部证据，再交给模型生成内容。
10 · 深入了解
检索重排序 Reranking

检索重排序是用第二个模型，再为搜索结果评分一次。它会更仔细比较问题和每份文档，然后调整顺序。
11 · 核心
结构化输出 Structured Output

结构化输出会限制模型按照机器可读的格式规则（Schema）响应，而不是随意生成文本。
12 · 深入了解
流式响应 Streaming Response

流式响应会用小事件或数据块陆续到达。任务完成前，用户就能看到部分有用输出。
13 · 深入了解
每秒输出 Token 数 Output Tokens per Second

每秒输出 Token 数是模型开始解码后的输出速度。报告要说明分词器和测量时间。也要说明汇总方式和同时运行的请求数。
14 · 核心
模型 Token Model Token

模型 Token 是特定分词器把文字或字节转成模型使用的数字 ID 时，生成的计数单位。一个 Token 不一定等于一个单词或字符，切分方式和数量会随分词器版本改变。
15 · 深入了解
模型量化 Model Quantization

模型量化是用精度较低的数字格式，存储模型权重或运算中的数值（activation）。这能减少内存、数据传输和计算成本。
16 · 深入了解
模型路由 Model Routing

模型路由会决定每个请求要交给哪个模型或处理路径，选择依据包括质量、能力、成本、延迟或安全策略。
17 · 深入了解
模型评分器 Model Grader

模型评分器会按照书面规则，用 AI 模型为一份输出打分或分类。它也可能判断错误，所以要用人工评过的示例检查。
18 · 深入了解
模型上下文协议 Model Context Protocol

Model Context Protocol 连接 AI 应用和外部工具或数据。Host 通过 Client 连接提供工具、资源和 Prompt 的 Server。这是开放协议，双方会先确认可用能力。
19 · 核心
模型推理 Model Inference

模型推理是让训练完成的模型处理新内容，再给出预测、分数或答案。这个过程不会改动模型学到的权重。
20 · 深入了解
模型微调 Fine-tuning

模型微调是用特定任务或领域中整理好的样本，继续训练现有模型。这会改变模型学到的权重和行为。
21 · 深入了解
人在回路监督 Human in the Loop

人在回路监督是流程中安排好的人工步骤。指定人员要有足够信息、权限和责任，可以审核、修改、批准、拒绝或停止 AI 辅助工作。
22 · 核心
上下文窗口 Context Window

上下文窗口是单次模型请求能容纳的 token 总量，输入内容和生成输出都要算在内。实际计算方式会因模型和 API 而不同。
23 · 深入了解
上下文工程 Context Engineering

上下文工程会选择模型收到什么，也安排顺序。内容可包含事实、指令、工具、状态和证据。
24 · 深入了解
上下文压缩 Context Compaction

上下文压缩会把较早的对话状态换成较小的项目，让长任务可以继续。这个项目不一定是看得懂的摘要，也可能丢失细节。
25 · 深入了解
生成采样 Sampling

生成采样是按照各种可能性，选出下一个文字小单位（token）。模型不一定每次都挑概率最高的选项。
26 · 深入了解
首 Token 延迟与每秒 Token 数（教学组合） TTFT & TPS — Learning Bundle

这组教材比较两种 AI 速度。TTFT 是等到第一个 Token 的时间。TPS 是之后每秒生成的 Token 数。它不是单一标准指标。
27 · 深入了解
首个 Token 延迟 Time to First Token

首个 Token 延迟（TTFT）是从明确的请求起点，到客户端或服务器看到第一个生成 token 的等待时间。测量的起点和终点必须说清楚。
28 · 核心
提示词 Prompt

提示词是为了完成一项任务而交给模型的内容，可以包含指令、上下文、示例和数据。
29 · 深入了解
提示词版本管理 Prompt Versioning

提示词版本管理会保存有名称、内容固定的正式版本。团队能审核、测试、发布，也能回到确定的旧版。
30 · 深入了解
提示词缓存 Prompt Caching

提示词缓存让模型服务重用相同输入开头的处理结果。它可能减少重复工作，但不会直接拿旧答案来回答。
31 · 深入了解
提示注入 Prompt Injection

提示注入是有害或未预料到的文字，企图让 AI 忽略应用可信的规则，改去听从别的指令。
32 · 深入了解
推理与行动交错模式 ReAct

ReAct 代表 Reason 和 Act。Agent 执行操作、读取结果，再用新事实决定下一步。它不是 React。
33 · 核心
文档分块 Document Chunking

文档分块是把内容切成搜索系统找得到的小段落。建立索引前，要先定好每段的大小、重叠范围和切分位置。
34 · 深入了解
无状态请求 Stateless Request

无状态请求只使用这次调用传来的数据。它不假设模型记得之前的调用。
35 · 深入了解
系统提示词 System Prompt

系统提示词是一组高优先级指令，用来设置 AI 产品的角色、限制、工具和响应规则。
36 · 核心
向量嵌入 Embedding

向量嵌入（Embedding）是模型为一个项目学到的一串数字。系统可以在这个数字空间中，用距离或相似度规则比较不同项目。
37 · 深入了解
向量数据库 Vector Database

向量数据库是业界对一类数据存储系统的称呼。它能保存向量、搜索相似向量，通常也能筛选其他信息并使用快速近似索引；目前没有单一通用标准。
38 · 深入了解
依据一致性 Groundedness

依据一致性是检查答案中的说法，是否得到提供给模型的来源支持。它只是其中一项评测，不是全球通用的单一分数。
39 · 核心
语言模型 Language Model

语言模型是一种预测并生成序列的统计模型，通常能按照指令处理文字和其他类型的数据，这些类型称为模态。
40 · 深入了解
知识蒸馏 Knowledge Distillation

知识蒸馏让较小的“学生模型”学习“教师模型”的信号。训练时通常会同时使用教师分数和正确标签。
41 · 深入了解
智能体技能 Agent Skill

Agent Skill 教 Agent 如何重复完成一类任务。它包含专用规则，也可包含脚本或资源。
42 · 深入了解
智能体驾驭系统工程 Harness Engineering

Harness Engineering 构建 Coding Agent 周边环境。内容包含仓库、指令、工具、安全、环境和反馈。
43 · 深入了解
智能体沙箱 Agent Sandbox

智能体沙箱是一个受限制的环境，让 AI 智能体运行代码或工具。它会和计算机其他部分隔开，但保护范围要看具体设计。
44 · 深入了解
智能体循环 Agent Loop

Agent Loop 是受控制的循环。Agent 检查状态、用允许工具操作、读取结果，再停止或继续。
45 · 深入了解
子智能体 Sub-agent

Sub-agent 是负责单一明确任务的独立 Agent。它有自己的上下文，也要返回指定结果。
46 · 深入了解
Agent 与 Tool Calling（教学组合） Agent & Tool Calling — Learning Bundle

这组教学拆开两个 AI 系统概念。智能体会跨多个步骤完成目标；工具调用（Tool Calling）让模型请求一项受限制的外部操作。这个组合本身不是单个标准智能体协议。
47 · 深入了解
Agent2Agent（A2A）协议 Agent2Agent (A2A) Protocol

Agent2Agent（A2A）是有版本的开放协议。它让不同 AI 智能体了解彼此能做什么，也能交换消息和管理任务。
48 · 深入了解
AI 防护控制 AI Guardrail

AI 防护控制是业界统称，用来找出、限制、拦截、修改不安全的 AI 输入、输出或操作，或把它交给人员审核。它不是单一标准工具。
49 · 核心
AI 幻觉 AI Hallucination

AI 幻觉是业界常用说法，指 AI 把错误内容，或不符合现有证据的内容当作答案。NIST 使用更准确的风险术语“虚构陈述”（confabulation）。
50 · 深入了解
AI 基准测试 AI Benchmark

AI 基准测试包含固定任务、数据、指标和测试条件。内容都要清楚记录。大家用同一套规则，才能比较不同系统。
51 · 深入了解
AI 计算机操作 Computer Use

AI 计算机操作让模型查看屏幕，并返回点击、输入或滚动等操作。主程序会检查并执行每个允许操作。
52 · 核心
AI 评测 AI Evaluation

AI 评测是一套可以重复进行的测试方法。它会使用明确的任务、测试数据、评分规则和安全门槛。
53 · 核心
AI 应用基础（教学组合） AI Application Basics — Learning Bundle

这组教材说明 AI 应用的上下文、模型、工具、数据、检查、规则、测试和备用方案。它不是单一标准术语。
54 · 深入了解
AI 证据关联 AI Grounding

AI 证据关联是业界常用说法，指把 AI 生成的内容或操作，连到提供的证据、找到的来源或可信系统数据。做法和评分方式各不相同，目前没有单一标准流程。
55 · 深入了解
AI 执行追踪 AI Tracing

AI 执行追踪会记录一次 AI 工作的每个相连步骤，例如模型调用、搜索、工具和代理工作。这份记录让人能从头到尾查看发生了什么。
56 · 深入了解
Embedding 与 Vector Database（教学组合） Embedding & Vector Database — Learning Bundle

这组教学连接两个检索概念。Embedding 会把内容转成数字向量；Vector Database 则负责存储、建立索引、过滤和搜索向量。这个组合本身不是单个标准数据存储类型。
57 · 深入了解
Guardrail、Human-in-the-Loop 与 Eval（教学组合） Guardrail, Human-in-the-Loop & Eval — Learning Bundle

这组教学放在一起说明三种不同的控制方式。Guardrail 会限制行为或触发升级处理；Human-in-the-Loop 让人工审核重要案例；Eval 则用有代表性的任务衡量质量。这个组合本身不是单个标准安全机制。
58 · 核心
Hallucination 与 Grounding（教学组合） Hallucination & Grounding — Learning Bundle

这组教学比较一种失败现象和降低风险的目标。Hallucination 是缺乏支持的模型输出；Grounding 则把主张关联到已提供、可检索或可验证的证据。这个组合本身不是单个标准质量指标。
59 · 深入了解
OpenAI 推理强度设置 OpenAI Reasoning Effort

reasoning.effort 是 OpenAI API 设置，用来调整模型回答前投入的处理量。支持等级和默认值因模型而异，较高设置也不保证正确。
60 · 核心
Temperature 采样参数 Temperature

Temperature 是采样前使用的设置。它会改变 token 的概率，让选项集中在少数几个，或分散到更多选项。
61 · 核心
Token 与 Context Window（教学组合） Token & Context Window — Learning Bundle

这组教学连接两个不同的模型运行时概念。词元（Token）是因模型而异的输入或输出单位；上下文窗口（Context Window）则限制一次生成可以使用的序列范围。这个组合本身不是单个标准指标。
62 · 深入了解
Top-p 采样 Top-p Sampling

Top-p 采样会按概率排列候选 token，再保留累计概率达到 p 的最小一组，最后从这组选出下一个 token。
63 · 核心
Transformer 架构 Transformer

Transformer 是一种神经网络架构。它用“注意力机制”找出文字前后的关系，也能同时处理序列中的多个位置。