跳到內容

怎麼使用這份路線

這份路線的每一章都有自己的講義:讀者不必打開外部連結,就能從頁面學會這一章的內容。各章最後的「延伸閱讀」整理了 30 多份來源(大學課程、教材、業界指南、繁中與簡中社群教材),是想更深入時的選讀;完整清單見來源清單。

你的目標 路線
把 LLM 接進產品、做出 AI 應用或 agent(多數人) 應用路線:S0 全局地圖 → 模型速成 → Part III 到 Part VII(S6–S19)
也想懂模型內部怎麼運作,或要訓練模型、做推論基礎設施 完整路線:從 S0 全局地圖依序走到 S19 真實 agent 系統與畢業專題
先看懂 AI 系統在做什麼,暫時不寫程式 理解路線:S0 全局地圖 → 模型速成的「現在要懂的四件事」 → Part III 到 Part VII(S6–S19),用淺顯模式讀講義,做「先試一下」與自我檢查

應用路線對應業界說的 AI 工程師:用現成的模型做產品,不從頭訓練模型;完整路線再往 ML 工程師、研究者的方向延伸,自己訓練與改造模型。

前兩條是實作路線,要寫程式:需要會一門程式語言的基礎(變數、函式、迴圈)、會呼叫 HTTP API、看得懂 JSON。第三條理解路線不需要程式背景:讀講義、做「先試一下」和自我檢查,就能看懂 AI 系統怎麼運作;之後想動手,再接著做必做題。不熟的詞先查術語表的常用詞速查。

Part II 模型原理(S1–S5)比較底層、用到較多數學,是選修的深入路線。不讀它也能走完 Part III 到 Part VII(S6–S19);S6 LLM API 與應用基本功之後的頁面用到模型知識時,會先指回模型速成,再標出「深入:」與 Part II 的對應章節,例如「深入:S2 Transformer 與 decoding」。不確定就先走應用路線,走到一半想知道「為什麼」時,再回頭讀 Part II 的對應章節。

章和進階題都用一個字母加數字當代號:

代號 意思
S 第幾章(S0–S19,共 20 章)
A 系統專案的一步,數字等於章號,A6 是 S6 的進階題;系統專案從 S6 才開始,所以沒有 A1–A5
M 模型專案的一步,M1 是 S1 的進階題,依此類推(M1–M5)
Part 由幾章組成的一大段,例如 Part II 是 S1–S5(選修的模型原理)

S6–S19 這種寫法指一段範圍。

實作題分兩種:必做題是主線,只驗證該章最核心的概念;進階題是選做的長期專案,也就是系統專案或模型專案的一步。詳見每一章的結構。

內文提到單一章或單一步時,寫成「代號+名稱」,例如「S6 LLM API 與應用基本功」「A10 工具組與 MCP server」;一段範圍會寫出 Part 名稱或線名,例如「Part II 模型原理(S1–S5)」「系統專案 A6–A18」。

頁首的開關可以切換閱讀模式,選擇會記住,每一頁都套用:

  • 淺顯(預設):只顯示主線。每一章的主線都從「為什麼需要」講起,用一個例子一步步走完(從 S6 LLM API 與應用基本功起都是同一個「筆記助理」),並附有數字的小例子和容易誤會的地方。第一次讀、沒有相關背景的人,讀主線就能懂。
  • 深入:另外展開「準備動手做」(實作細節)、「深入一點」(推導與更多機制)、選修主題(○)、進階題和延伸閱讀。已經懂基礎、想更進一步的人用這個模式。

在淺顯模式下,收起來的區塊仍然可以單獨點開:「準備動手做」「深入一點」直接點標題,選修主題與進階題按「展開這一段」,都只會展開那一段,不會切換整個網站的模式。

區塊 內容
理解路線重點 頁首的三句話:不寫程式的讀者這一章要帶走什麼;其他工程細節可以先略過
在做什麼 / 學完能 這章要回答的問題,以及學完可以檢驗的能力,先列讀完主線就做得到的。每項能力標出由哪裡練到:「(必做)」是必做題、「(進階)」是進階題、「(講義與自我檢查)」是靠講義與自我檢查題確認的能力;同一項能力分兩段練時,標成「(必做:…;進階:…)」
講義 先看全貌,再用一個例子走完全程。★ 是核心主題,○ 是選修(深入模式才展開),🔒 是安全檢查點
實作 先試一下(約 10 分鐘的紙筆小練習,附可收合的答案)、必做題(只驗證這章最核心的概念,多數可獨立完成)與進階題(實作專案的一步,深入模式才展開)
自我檢查 5–9 題,都能從講義主線找到答案,至少一題是情境判斷;每題附可收合的提示(判斷重點、常見錯法、回讀哪一節)
延伸閱讀 選讀:原始論文、官方文件、跟著寫程式的教材、課程與中文資源,每筆註明比講義多了什麼
  1. 先看全貌,再分流。 先在 S0 全局地圖看懂整體,再依目標選路線:應用路線直接從 S6 LLM API 與應用基本功往上蓋應用、agent、安全與上線;完整路線先走 Part II 模型原理(S1–S5)。
  2. 每個概念只「首次教」一次。 之後的章只會「深化」它,並用「(← S2 Transformer 與 decoding)」標出來源章。完整對照見概念索引。
  3. 先有系統,才有評估。 先讓應用跑起來、留下 trace,再從真實的失敗整理出測試集;不先憑空寫測試題。
  4. 先手寫,框架最後。 agent loop 和 harness 先自己寫,理解框架替你做了什麼,再比較框架。
  5. 由簡到繁,有證據才升級。 prompt → RAG → fine-tune;workflow → agent;single-agent → multi-agent。每次升級都要有評估結果佐證。
  6. 安全從早期就開始。 S9 檢索與 RAG、S10 工具與 MCP、S12 Agent loop 與 harness、S13 Memory 與個人化各有一個 🔒 安全檢查點,S16 安全與治理是深入篇。
  7. 來源有日期、benchmark 有缺陷。 這個領域變化很快;每份來源都標日期,每個 benchmark 都附上已知問題。
  • 題目只寫目標、步驟、驗收標準、提示,不附解答。驗收標準都有數字,可以自己檢查有沒有過。
  • 不限語言。提示會同時列出 TypeScript 與 Python 的參考工具。需要會基本的程式設計;還不會的話,先學一門語言的基礎(變數、函式、迴圈、呼叫 HTTP API),再回來做題。
  • 卡住時,先回到提示指出的講義段落;需要時再看延伸閱讀。
  • 可以用 AI 寫程式工具(例如 Claude Code、Cursor、GitHub Copilot)處理樣板與設定,但每題要練的核心部分自己寫;把題目整段丟給工具,驗收數字過了也學不到東西。提示與自我檢查的答案先自己想過再打開。
  • 需要付費 API 或 GPU 的題目會標出大概成本,並盡量提供本地模型的替代方案。
  • 你的程式碼放在自己的 repo;這個網站只放題目。
  • 數學或統計生疏的話(連鎖律、softmax、對數圖、標準誤、bootstrap、cosine 相似度),先翻數學補給,每節都附一個能手算的小例子。
  • 系統專案 A6–A19:選一個你在意的應用,每章幫它長出一種能力,最後在 S19 真實 agent 系統與畢業專題把它完成。應用路線的人做這條。
  • 模型專案 M1–M5:Python,從 autograd 到小模型後訓練與推論伺服器。對應 Part II 模型原理(S1–S5),走完整路線的人再做。

必做題和進階題可以分開:只做必做題也能走完整條路線,最後一題是 S19 真實 agent 系統與畢業專題的必做題;這一章的進階題是 A19 畢業專題,需要系統專案 A6–A18 累積的系統。

範例學習計畫:應用路線加上關鍵的系統專案

Section titled “範例學習計畫:應用路線加上關鍵的系統專案”

適合目標是「能做出並評估 AI 應用與 agent」的人。除了應用路線的講義與必做題,再挑系統專案裡最關鍵的幾步。已經熟悉的章可以只做自我檢查題,答得出來就往下走。

階段 內容
1 S0 全局地圖;模型速成;S6 LLM API 與應用基本功 + A6 串流聊天與 trace;S7 Prompt、structured output 與 workflows
2 S8 Eval 方法論 + A8 錯誤分析與 golden set;S9 檢索與 RAG + A9 附引用的 RAG
3 S10 工具與 MCP + A10 工具組與 MCP server;S11 Context engineering + A11 context builder;S12 Agent loop 與 harness + A12 手寫 harness
4 S13 Memory 與個人化;S14 Agent eval、資料與最佳化;S15 Multi-agent;S16 安全與治理
5 S17 產品與 AI UX;S18 部署與架構;S19 真實 agent 系統與畢業專題
  • 系統專案挑四步:A6 串流聊天與 trace(第一個看得到的成果)、A8 錯誤分析與 golden set(從真實 trace 長出的 eval)、A9 附引用的 RAG、A12 手寫 harness。手寫 harness 會用到 A10 工具組與 MCP server 做出的工具,以及 A11 context builder,所以 A10、A11 也排進去。A9 附引用的 RAG 裡的 embedding 微調會用到微調的概念(模型速成;深入:S4 Post-training 與 reasoning),可以先跳過。
  • 有餘力時,下一個最值得做的是 A14 agent eval 與最佳化。它的第 0 步會用到 router(← A7 structured output 與 workflow);沒做 A7 的話,就照第 0 步的做法,用強模型為歷史請求標出路由決定。
  • 做完這份計畫,你會有一個 RAG、工具、harness 都有 eval 數字佐證的系統。
  • 想從「會呼叫 API」走到「能設計、評估、上線 agent 系統」的工程師。
  • 沒有機器學習背景,想看懂 AI 系統怎麼運作的人:從 S0 全局地圖開始,用淺顯模式讀講義。
  • 想系統性理解 LLM 原理,而不只是追新工具的人:走完整路線,用深入模式讀 Part II。
  • 前端工程師可以從 S6 LLM API 與應用基本功 或 S17 產品與 AI UX 切入,這兩章最貼近前端經驗。S17 產品與 AI UX 的必做題只需要 S6 LLM API 與應用基本功的串流概念,學完 S6 就能做。
  • 後端或資料工程師:S6 LLM API 與應用基本功、S8 Eval 方法論、S9 檢索與 RAG、S18 部署與架構最貼近你的經驗,可以走快一點。系統專案 A6–A16 都不必寫前端,介面用 Gradio、Chainlit、Streamlit 或 CLI 即可,串流、停止與回饋的驗收標準相同(做法見 A6 串流聊天與 trace 的提示)。S17 產品與 AI UX 的必做題有「不寫前端的版本」,見 S17 必做題;只有 A17 完整前端要真的寫前端。數學與統計熟的話,數學補給可以略過,S8 Eval 方法論的統計進階是寫給你的。

講義內容以 CC BY-NC-SA 4.0 授權:可以轉載與改作,但要標示出處、不得用於商業用途,改作也要用相同授權。引用的第三方內容與商標屬於原作者。