概念索引

這份路線的規則是：每個概念只在一章「首次教」，其他章只「深化」。走應用路線的人不讀 Part II，相關概念會先在模型速成概覽，下表也會註明。各章頁面用「（← S2 Transformer 與 decoding）」標出概念來源，用「（→ S16 安全與治理）」標出之後會深入的地方。

找不到某個概念時，先查這裡。數學與統計工具（連鎖律、softmax、對數圖、標準誤、bootstrap、cosine 相似度）不屬於任何一章，忘了時翻數學補給；下表在相關的列附上對應小節。表中章名前的代號怎麼讀，見代號怎麼讀。

模型

概念	首次教	深化
Backprop、optimizer、初始化與正規化（數學補給：連鎖律）	S1 神經網路基礎	S3 Pretraining 與 scaling
實驗追蹤（W&B）	S1 神經網路基礎	—
Perplexity（數學補給：對數尺度）	S1 神經網路基礎	S3 Pretraining 與 scaling、S5 推論與 serving
Word embedding（word2vec）	S1 神經網路基礎（○）	—
Tokenization / BPE	S2 Transformer 與 decoding（應用路線：模型速成先概覽）	S6 LLM API 與應用基本功（token 計價）
Attention、Transformer block	S2 Transformer 與 decoding	S5 推論與 serving
Causal mask（拿掉它時訓練與生成會怎樣）	S2 Transformer 與 decoding	—
Decoding / sampling（temperature、top-p；數學補給：softmax）	S2 Transformer 與 decoding	S4 Post-training 與 reasoning、S5 推論與 serving、S6 LLM API 與應用基本功、S7 Prompt、structured output 與 workflows
Sampling 參數的限制（部分 API 不接受 temperature、top_p、top_k）	S6 LLM API 與應用基本功（S2 Transformer 與 decoding、S4 Post-training 與 reasoning 與模型速成先提及並連到這裡）	S7 Prompt、structured output 與 workflows、S11 Context engineering
RoPE、GQA / MLA、MoE	S2 Transformer 與 decoding	S5 推論與 serving
MoE 的計算量與記憶體（計算看啟用參數、記憶體看總參數）	S2 Transformer 與 decoding	—
Resource accounting（參數、FLOPs、記憶體）	S2 Transformer 與 decoding	S3 Pretraining 與 scaling、S5 推論與 serving
量化概念	S2 Transformer 與 decoding	S5 推論與 serving（實作）、S6 LLM API 與應用基本功（GGUF / 本地模型）、S18 部署與架構
多模態架構	S2 Transformer 與 decoding（○）	S9 檢索與 RAG（文件解析）、S10 工具與 MCP（computer use）
資料工程（過濾、去重、PII）	S3 Pretraining 與 scaling	S4 Post-training 與 reasoning（合成資料）
Scaling laws、emergence（數學補給：log–log 圖）	S3 Pretraining 與 scaling	—
平行化訓練	S3 Pretraining 與 scaling	—
SFT、LoRA	S4 Post-training 與 reasoning	S9 檢索與 RAG（embedding 微調）
Chat template	S4 Post-training 與 reasoning（應用路線：模型速成先概覽）	S7 Prompt、structured output 與 workflows（工具呼叫的原始樣子）
RL 基礎、RLHF、DPO（含 DPO 的限制：離線學習、缺少探索）	S4 Post-training 與 reasoning	S14 Agent eval、資料與最佳化（agentic RL）
GRPO / RLVR、reasoning model	S4 Post-training 與 reasoning	S6 LLM API 與應用基本功（應用端使用）
Test-time compute、verifier	S4 Post-training 與 reasoning	S14 Agent eval、資料與最佳化
Reward hacking、sycophancy	S4 Post-training 與 reasoning	S13 Memory 與個人化（個人化迎合）、S14 Agent eval、資料與最佳化（最佳化鑽漏洞）
合成資料與蒸餾	S4 Post-training 與 reasoning	S8 Eval 方法論、S14 Agent eval、資料與最佳化（router 蒸餾）
GPU 心智模型	S5 推論與 serving	S18 部署與架構
Prefill / decode、KV cache	S5 推論與 serving（S0 全局地圖、模型速成先概覽）	S6 LLM API 與應用基本功、S11 Context engineering、S18 部署與架構
Continuous batching、PagedAttention	S5 推論與 serving	S18 部署與架構
TTFT / TPOT / goodput	S5 推論與 serving	S6 LLM API 與應用基本功（量 TTFT）、S18 部署與架構
Prompt caching（KV prefix 重用）	S5 推論與 serving（應用路線：模型速成概覽，S11 Context engineering 主教）	S18 部署與架構
Constrained decoding 機制	S5 推論與 serving	S7 Prompt、structured output 與 workflows
加速分類（FlashAttention、speculative decoding）	S5 推論與 serving	—

應用

概念	首次教	深化
Messages / roles、token 計價	S6 LLM API 與應用基本功	S8 Eval 方法論（成本會計）
Streaming（SSE、partial JSON）	S6 LLM API 與應用基本功	S17 產品與 AI UX
Retry、rate limit、idempotency	S6 LLM API 與應用基本功	S12 Agent loop 與 harness、S17 產品與 AI UX
取消與中斷	S6 LLM API 與應用基本功	S17 產品與 AI UX
Reasoning model 的應用端使用（thinking budget、interleaved thinking）	S6 LLM API 與應用基本功	S7 Prompt、structured output 與 workflows、S12 Agent loop 與 harness
回饋收集（最小版：讚 / 倒讚）	S6 LLM API 與應用基本功	S14 Agent eval、資料與最佳化、S17 產品與 AI UX
本地與小模型	S6 LLM API 與應用基本功	S18 部署與架構
Ollama 的 context 長度（預設可能只有 4K，超過時丟掉較早的內容）	S6 LLM API 與應用基本功（S5 推論與 serving 先提及並連到這裡）	之後各章用本地模型的提示都連到這裡
Tracing（OpenTelemetry GenAI）	S6 LLM API 與應用基本功	S8 Eval 方法論、S12 Agent loop 與 harness、S14 Agent eval、資料與最佳化
測試非確定性程式	S6 LLM API 與應用基本功	S8 Eval 方法論
Prompt 結構、few-shot、CoT	S7 Prompt、structured output 與 workflows	—
Prompt sensitivity	S7 Prompt、structured output 與 workflows	—
Structured output、function calling	S7 Prompt、structured output 與 workflows	S10 工具與 MCP、S13 Memory 與個人化（記憶擷取）
Prompt as code、跨模型遷移	S7 Prompt、structured output 與 workflows	S18 部署與架構
五種 workflow 模式	S7 Prompt、structured output 與 workflows	S12 Agent loop 與 harness、S15 Multi-agent（orchestrator-worker）、S19 真實 agent 系統與畢業專題
多模態輸入（圖片、PDF 直接餵模型）	S7 Prompt、structured output 與 workflows（○）	S9 檢索與 RAG
錯誤分析（open / axial coding）	S8 Eval 方法論	S14 Agent eval、資料與最佳化、S15 Multi-agent（MAST 失敗分類）
LLM-as-judge 與校準	S8 Eval 方法論	S13 Memory 與個人化（A13 分層記憶第 0 步的 pairwise judge，用於個人化評估）、S14 Agent eval、資料與最佳化（agent-as-judge）
Capability vs regression eval、pass@k / pass^k	S8 Eval 方法論	S10 工具與 MCP、S12 Agent loop 與 harness、S14 Agent eval、資料與最佳化、S18 部署與架構
Benchmark 污染與 construct validity	S8 Eval 方法論	S14 Agent eval、資料與最佳化
Error bars、bootstrap 信賴區間（數學補給：標準誤、bootstrap；S4 Post-training 與 reasoning 先用一次）	S8 Eval 方法論	S9 檢索與 RAG、S12 Agent loop 與 harness、S14 Agent eval、資料與最佳化、S18 部署與架構
樣本數規劃（檢定力）	S8 Eval 方法論（○）	—
多重比較（Bonferroni）	S8 Eval 方法論（○）	—
標註者一致性（Cohen’s κ）	S8 Eval 方法論（○）	—
成本會計（每任務成本、預算）	S8 Eval 方法論	S13 Memory 與個人化、S15 Multi-agent
不確定性（logprobs、calibration）	S8 Eval 方法論	S17 產品與 AI UX（A17 完整前端第 0 步的逐筆不確定性訊號與呈現）、S18 部署與架構（cascade）
校準指標（ECE、Brier score）	S8 Eval 方法論（○）	—
文件解析、OCR	S9 檢索與 RAG	—
Embedding、vector search、hybrid、rerank（數學補給：cosine 相似度）	S9 檢索與 RAG	S12 Agent loop 與 harness（與 agentic search 比較）
Retrieval eval vs generation eval	S9 檢索與 RAG	—
Long context vs RAG	S9 檢索與 RAG	S11 Context engineering、S13 Memory 與個人化（記憶基準線）
Prompt vs RAG vs 微調的決策	S9 檢索與 RAG（模型速成先概覽微調能做什麼）	S11 Context engineering
Text2SQL	S9 檢索與 RAG（○）	—
間接 prompt injection 🔒	S9 檢索與 RAG	S13 Memory 與個人化、S16 安全與治理
工具設計與風險分級	S10 工具與 MCP	S12 Agent loop 與 harness、S16 安全與治理、S17 產品與 AI UX（確認介面）
MCP（transports、auth）	S10 工具與 MCP	S16 安全與治理（供應鏈）、S17 產品與 AI UX（MCP Apps）
stdio MCP server（必做；帶 OAuth 的 HTTP 版在進階）	S10 工具與 MCP	—
Tool search / deferred loading	S10 工具與 MCP	S11 Context engineering
Code execution 作為工具介面	S10 工具與 MCP	—
Agent-computer interface（ACI）	S10 工具與 MCP	S19 真實 agent 系統與畢業專題
Sandbox、egress 🔒	S10 工具與 MCP	S12 Agent loop 與 harness、S16 安全與治理
Context 預算與失效模式	S11 Context engineering	S12 Agent loop 與 harness、S15 Multi-agent
Progressive disclosure	S11 Context engineering	S12 Agent loop 與 harness（skills）

Agent 系統

概念	首次教	深化
Compound AI、augmented LLM、workflow vs agent	S0 全局地圖	S7 Prompt、structured output 與 workflows、S12 Agent loop 與 harness、S19 真實 agent 系統與畢業專題
Agent 分級 Level 0–4	S0 全局地圖	—
Agent loop、ReAct（S0 全局地圖先以 mini-SWE-agent 概覽）	S12 Agent loop 與 harness	S19 真實 agent 系統與畢業專題
Harness 元件	S12 Agent loop 與 harness	S14 Agent eval、資料與最佳化（ablation）、S19 真實 agent 系統與畢業專題
權限模式、hooks 🔒	S12 Agent loop 與 harness	S16 安全與治理
停止條件、升級給人、HITL	S12 Agent loop 與 harness	S19 真實 agent 系統與畢業專題
Checkpoint / resume	S12 Agent loop 與 harness	S18 部署與架構（durable execution）、S19 真實 agent 系統與畢業專題
Compaction、context reset、sub-agent 隔離	S12 Agent loop 與 harness	S13 Memory 與個人化、S15 Multi-agent（sub-agent 隔離）、S19 真實 agent 系統與畢業專題
Skills	S12 Agent loop 與 harness	S13 Memory 與個人化（程序性記憶）、S16 安全與治理（供應鏈）
Agentic search	S12 Agent loop 與 harness	S15 Multi-agent
Long-running patterns（initializer / worker、generator–evaluator）	S12 Agent loop 與 harness	—
Memory 類型與階層	S13 Memory 與個人化	—
個人化	S13 Memory 與個人化	S17 產品與 AI UX（介面）
Memory poisoning 🔒	S13 Memory 與個人化	S16 安全與治理
Trajectory eval、模擬使用者	S14 Agent eval、資料與最佳化	S15 Multi-agent、S19 真實 agent 系統與畢業專題
Infra noise、benchmark hygiene	S14 Agent eval、資料與最佳化	S19 真實 agent 系統與畢業專題
Prompt 最佳化（DSPy、GEPA）	S14 Agent eval、資料與最佳化	—
路由決定紀錄與 router 蒸餾（← S7 Prompt、structured output 與 workflows 的 routing workflow）	S14 Agent eval、資料與最佳化	S18 部署與架構（模型路由）
Data flywheel	S14 Agent eval、資料與最佳化	S17 產品與 AI UX（回饋介面）
Multi-agent 架構與 token 經濟	S15 Multi-agent	S19 真實 agent 系統與畢業專題
Deep research 架構	S15 Multi-agent	S19 真實 agent 系統與畢業專題
Workspace / worktree 隔離	S15 Multi-agent	—

可信、產品、上線

概念	首次教	深化
Lethal trifecta、威脅建模	S16 安全與治理	S19 真實 agent 系統與畢業專題（稽核）
結構性防禦設計模式	S16 安全與治理	—
Guardrails、approval fatigue	S16 安全與治理	S17 產品與 AI UX
資料治理與法規	S16 安全與治理	—
Agentic UX、generative UI	S17 產品與 AI UX	—
回饋設計	S17 產品與 AI UX	—
Proactive agents	S17 產品與 AI UX	S19 真實 agent 系統與畢業專題
模型路由與 cascade（← S7 Prompt、structured output 與 workflows 的 routing workflow；S14 Agent eval、資料與最佳化 的 router 蒸餾）	S18 部署與架構	—
Eval 把關的 CI/CD、canary	S18 部署與架構	—
多租戶隔離	S18 部署與架構	—
Gateway、cache（exact / semantic；prompt caching ← S5 推論與 serving）	S18 部署與架構	—
Durable execution	S18 部署與架構	S19 真實 agent 系統與畢業專題