依主題找術語 · 63 份指南

人工智慧

認識 AI 如何接收指令、查找資料、使用工具、回答問題，以及接受檢查。

01 / 術語圖鑑

全部人工智慧術語

開啟一個術語，就能看簡單解釋、例子、使用時機、正式程度和程式名稱。

01 · 深入了解
人在迴路監督 Human in the Loop

人在迴路監督是流程中安排好的人工步驟。指定人員要有足夠資訊、權限和責任，可以審查、修改、核准、拒絕或停止 AI 輔助工作。
02 · 核心
上下文視窗 Context Window

上下文視窗是單次模型請求能容納的 token 總量，輸入內容和生成輸出都要算在內。實際計算方式會因模型和 API 而不同。
03 · 深入了解
子代理 Sub-agent

Sub-agent 是負責單一明確任務的獨立 Agent。它有自己的脈絡，也要回傳指定結果。
04 · 深入了解
工具呼叫 Tool Calling

工具呼叫是模型用規定格式的參數，請求使用某個外部工具。是否執行、要怎麼執行，仍由主程式決定。
05 · 核心
文件分塊 Document Chunking

文件分塊是把內容切成搜尋系統找得到的小段落。建立索引前，要先訂好每段的大小、重疊範圍和切分位置。
06 · 深入了解
代理技能 Agent Skill

Agent Skill 教 Agent 如何重複完成一類工作。它包含專用規則，也可包含腳本或資源。
07 · 深入了解
代理協調 Agent Orchestration

代理協調是一套工作安排，用來管理 AI 代理、工具、工作交接、共用資訊和停止規則，讓多步驟任務能受控完成。
08 · 深入了解
代理記憶 Agent Memory

代理記憶是 AI 代理在這則訊息結束後，仍能取用的已儲存資訊。規則要說清楚會存什麼、存多久，以及如何更新。
09 · 深入了解
代理迴圈 Agent Loop

Agent Loop 是受控制的循環。Agent 檢查狀態、用允許工具行動、讀取結果，再停止或繼續。
10 · 深入了解
代理隔離環境 Agent Sandbox

代理隔離環境是一個受限制的地方，讓 AI 代理執行程式或工具。它會和電腦其他部分隔開，但保護範圍要看實際設計。
11 · 深入了解
代理駕馭系統工程 Harness Engineering

Harness Engineering 建立 Coding Agent 周邊環境。內容包含儲存庫、指令、工具、安全、環境和回饋。
12 · 深入了解
生成取樣 Sampling

生成取樣是依照各種可能性，選出下一個文字小單位（token）。模型不一定每次都挑機率最高的選項。
13 · 核心
向量嵌入 Embedding

向量嵌入（Embedding）是模型為一個項目學到的一串數字。系統可以在這個數字空間中，用距離或相似度規則比較不同項目。
14 · 深入了解
向量資料庫 Vector Database

向量資料庫是業界對一類資料儲存系統的稱呼。它能保存向量、搜尋相似向量，通常也能篩選其他資訊並使用快速近似索引；目前沒有單一通用標準。
15 · 深入了解
多模態 AI Multimodal AI

多模態 AI 能使用或產生多種資料。資料可包含文字、圖片、聲音、影片或感測器資訊。
16 · 深入了解
串流回應 Streaming Response

串流回應會用小事件或區塊陸續送達。工作完成前，使用者就能看到部分有用輸出。
17 · 深入了解
每秒輸出 Token 數 Output Tokens per Second

每秒輸出 Token 數是模型開始解碼後的輸出速度。報告要說明分詞器和量測時間。也要說明彙整方式和同時執行的請求數。
18 · 深入了解
系統提示 System Prompt

系統提示是一組高優先層級的指示，用來設定 AI 產品的角色、限制、工具和回應規則。
19 · 深入了解
依據一致性 Groundedness

依據一致性是檢查答案中的說法，是否獲得提供給模型的來源支持。它只是其中一項評測，不是全球通用的單一分數。
20 · 核心
氛圍式程式開發 Vibe Coding

Vibe Coding 透過對話建立軟體。人負責設定和檢查目標，AI Agent 負責大部分程式碼。
21 · 深入了解
知識蒸餾 Knowledge Distillation

知識蒸餾讓較小的「學生模型」學習「教師模型」的訊號。訓練時通常會同時使用教師分數和正確標籤。
22 · 深入了解
首 Token 延遲與每秒 Token 數（教學組合） TTFT & TPS — Learning Bundle

這組教材比較兩種 AI 速度。TTFT 是等到第一個 Token 的時間。TPS 是之後每秒產生的 Token 數。它不是單一標準指標。
23 · 深入了解
首個 Token 延遲 Time to First Token

首個 Token 延遲（TTFT）是從明確的請求起點，到用戶端或伺服器看到第一個生成 token 的等待時間。量測的起點和終點必須說清楚。
24 · 深入了解
脈絡工程 Context Engineering

脈絡工程會選擇模型收到什麼，也安排順序。內容可包含事實、指令、工具、狀態和證據。
25 · 深入了解
脈絡精簡 Context Compaction

脈絡精簡會把較早的對話狀態換成較小的項目，讓長任務能繼續。這個項目不一定是看得懂的摘要，也可能漏掉細節。
26 · 深入了解
推理與行動交錯模式 ReAct

ReAct 代表 Reason 和 Act。Agent 執行動作、讀取結果，再用新事實決定下一步。它不是 React。
27 · 深入了解
混合搜尋 Hybrid Search

混合搜尋會為同一個問題，同時使用精確詞彙搜尋和依意思比對的向量搜尋，再把兩邊的結果合併或重新排序。
28 · 深入了解
提示注入 Prompt Injection

提示注入是有害或未預期的文字，企圖讓 AI 忽略應用程式可信的規則，改去聽從別的指令。
29 · 核心
提示指令 Prompt

提示指令是為了完成一項任務而交給模型的內容，可以包含指示、脈絡、範例和資料。
30 · 深入了解
提示指令快取 Prompt Caching

提示指令快取讓模型服務重用相同輸入開頭的處理結果。它可能減少重複工作，但不會直接拿舊答案來回覆。
31 · 深入了解
提示指令版本管理 Prompt Versioning

提示指令版本管理會保存有名稱、內容固定的正式版本。團隊能審查、測試、發布，也能回到確定的舊版。
32 · 深入了解
無狀態請求 Stateless Request

無狀態請求只使用這次呼叫送來的資料。它不假設模型記得先前呼叫。
33 · 核心
結構化輸出 Structured Output

結構化輸出會限制模型依照機器可讀的格式規則（Schema）回應，而不是任意撰寫文字。
34 · 核心
對話紀錄 Conversation History

對話歷史是傳給後續回合的先前訊息和有用狀態。系統常會篩選或摘要它。
35 · 核心
語言模型 Language Model

語言模型是一種預測並產生序列的統計模型，通常能依照指示處理文字和其他類型的資料，這些類型稱為模態。
36 · 核心
模型 Token Model Token

模型 Token 是特定分詞器把文字或位元組轉成模型使用的數字 ID 時，產生的計數單位。一個 Token 不一定等於一個單字或字元，切分方式和數量會隨分詞器版本改變。
37 · 深入了解
模型脈絡協定 Model Context Protocol

Model Context Protocol 連接 AI 應用和外部工具或資料。Host 透過 Client 連到提供工具、資源和 Prompt 的 Server。這是開放協定，雙方會先確認可用能力。
38 · 核心
模型推論 Model Inference

模型推論是讓訓練完成的模型處理新內容，再給出預測、分數或答案。這個過程不會改動模型學到的權重。
39 · 深入了解
模型評分器 Model Grader

模型評分器會依照書面規則，用 AI 模型為一份輸出打分或分類。它也可能判錯，所以要用人工評過的範例檢查。
40 · 深入了解
模型量化 Model Quantization

模型量化是用精度較低的數字格式，儲存模型權重或運算中的數值（activation）。這能減少記憶體、資料傳輸和運算成本。
41 · 深入了解
模型微調 Fine-tuning

模型微調是用特定任務或領域中整理好的範例，繼續訓練現有模型。這會改變模型學到的權重和行為。
42 · 深入了解
模型路由 Model Routing

模型路由會決定每個請求要交給哪個模型或處理路徑，選擇依據包括品質、能力、成本、延遲或安全政策。
43 · 核心
檢索相關性 Retrieval Relevance

檢索相關性是依照清楚的評分規則，判斷搜尋結果或答案有多符合使用者的資訊需求。
44 · 深入了解
檢索重新排序 Reranking

檢索重新排序是用第二個模型，再為搜尋結果評分一次。它會更仔細比較問題和每份文件，然後調整順序。
45 · 深入了解
檢索增強生成 Retrieval-Augmented Generation

檢索增強生成（RAG）會在執行時找出相關的外部證據，再交給模型產生內容。
46 · 深入了解
Agent 與 Tool Calling（教學組合） Agent & Tool Calling — Learning Bundle

這組教學拆開兩個 AI 系統概念。AI 代理（Agent）會跨多個步驟完成目標；工具呼叫（Tool Calling）讓模型請求一項受限制的外部操作。這個組合不是單一標準 AI 代理協定。
47 · 深入了解
Agent2Agent（A2A）協定 Agent2Agent (A2A) Protocol

Agent2Agent（A2A）是有版本的開放協定。它讓不同 AI 代理了解彼此能做什麼，也能交換訊息和管理任務。
48 · 核心
AI 幻覺 AI Hallucination

AI 幻覺是業界常用說法，指 AI 把錯誤內容，或不符合現有證據的內容當成答案。NIST 使用更精確的風險用語「虛構陳述」（confabulation）。
49 · 深入了解
AI 防護控制 AI Guardrail

AI 防護控制是業界統稱，用來找出、限制、阻擋、修改不安全的 AI 輸入、輸出或操作，或把它交給人員審查。它不是單一標準工具。
50 · 深入了解
AI 執行追蹤 AI Tracing

AI 執行追蹤會記錄一次 AI 工作的每個相連步驟，例如模型呼叫、搜尋、工具和代理工作。這份紀錄讓人能從頭到尾查看發生了什麼。
51 · 深入了解
AI 基準測試 AI Benchmark

AI 基準測試包含固定任務、資料、指標和測試條件。內容都要清楚記錄。大家用同一套規則，才能比較不同系統。
52 · 核心
AI 評測 AI Evaluation

AI 評測是一套可以重複進行的測試方法。它會使用明確的任務、測試資料、評分規則和安全門檻。
53 · 深入了解
AI 電腦操作 Computer Use

AI 電腦操作讓模型查看畫面，並回傳點擊、輸入或捲動等動作。主程式會檢查並執行每個允許動作。
54 · 核心
AI 應用基礎（教學組合） AI Application Basics — Learning Bundle

這組教材說明 AI 應用的脈絡、模型、工具、資料、檢查、規則、測試和備用做法。它不是單一標準術語。
55 · 深入了解
AI 證據連結 AI Grounding

AI 證據連結是業界常用說法，指把 AI 生成的內容或操作，連到提供的證據、找到的來源或可信系統資料。做法和評分方式各不相同，目前沒有單一標準流程。
56 · 深入了解
Embedding 與 Vector Database（教學組合） Embedding & Vector Database — Learning Bundle

這組教學連結兩個檢索概念。Embedding 會把內容轉成數字向量；Vector Database 則負責儲存、建立索引、篩選和搜尋向量。這個組合不是單一標準資料庫類型。
57 · 深入了解
Guardrail、Human-in-the-Loop 與 Eval（教學組合） Guardrail, Human-in-the-Loop & Eval — Learning Bundle

這組教學放在一起說明三種不同的控制方式。Guardrail 會限制行為或觸發升級處理；Human-in-the-Loop 讓真人審核重大案例；Eval 則用具代表性的任務量測品質。這個組合不是單一標準安全機制。
58 · 核心
Hallucination 與 Grounding（教學組合） Hallucination & Grounding — Learning Bundle

這組教學比較一種失敗現象和降低風險的目標。Hallucination 是缺乏依據的模型輸出；Grounding 則把主張連到已提供、可檢索或可驗證的證據。這個組合不是單一標準品質指標。
59 · 深入了解
OpenAI 推理投入設定 OpenAI Reasoning Effort

reasoning.effort 是 OpenAI API 設定，用來調整模型回答前投入的處理量。支援等級和預設值依模型而異，較高設定也不保證正確。
60 · 核心
Temperature 取樣參數 Temperature

Temperature 是取樣前使用的設定。它會改變 token 的機率，讓選項集中在少數幾個，或分散到更多選項。
61 · 核心
Token 與 Context Window（教學組合） Token & Context Window — Learning Bundle

這組教學連結兩個不同的模型執行期概念。詞元（Token）是依模型而異的輸入或輸出單位；上下文視窗（Context Window）則限制一次生成可使用的序列範圍。這個組合不是單一標準指標。
62 · 深入了解
Top-p 取樣 Top-p Sampling

Top-p 取樣會依機率排列候選 token，再保留累積機率達到 p 的最小一組，最後從這組選出下一個 token。
63 · 核心
Transformer 架構 Transformer

Transformer 是一種神經網路架構。它用「注意力機制」找出文字前後的關係，也能同時處理序列中的多個位置。