agent run --goal "整理上週的會議筆記"
- contextsystem + user + notes_search
- tokenizeuser → [182917, 4286, 56375, …]
- prefillKV cache ready
- decodenotes_search({query: "上週會議"})"3 項決議、2 項待辦"
- tool4 notes + excerpts
- feedbackmessages += [tool_call, tool_result]
- respond串流 → 使用者 · trace ✓
主題 點了會跳到該章的對應段落M 模型專案(選做的實作題)A 系統專案(選做的實作題) 安全檢查點S/A/M 代號怎麼讀
從這裡開始
Part I 模型原理選修・深入路線
想懂模型怎麼運作再走;只做應用的人可以先跳過,從 S6 LLM API 與應用基本功繼續。
Part I 的 5 章(S1–S5),點開或切到深入模式就會顯示
Part II 應用基礎
Part III 知識與工具
Part IV Agent 系統
Part V 產品上線
Part VI 綜合實戰
應用路線(推薦給多數人)想做出 AI 應用或 agent:S0 AI 系統概觀 → 模型速成 → Part II 到 Part VI(S6–S19)。不需要機器學習背景。
理解路線(不寫程式)只想看懂 AI 系統怎麼運作:讀講義、做每章的「先試一下」與自我檢查。
完整路線(含模型原理)也想懂模型內部怎麼運作:從 S0 AI 系統概觀依序走到 S19 真實 agent 系統與畢業專題。Part I 模型原理(S1–S5)比較底層、用到較多數學。
不寫程式,可以走理解路線,讀講義、做每章的「先試一下」與自我檢查,了解 AI 系統怎麼運作。想動手做實作題,則需要基本程式、HTTP 與 JSON 能力。
每章可在頁首切換兩種讀法。淺顯顯示適合第一次閱讀的主線;深入另外展開實作細節、推導、選修主題與進階題。
走完系統專案,你會有什麼
Section titled “走完系統專案,你會有什麼”系統專案由各章進階題串成,每章在同一個 agent 加入能力。完成後,會有一個已部署、自己每天使用,具備 RAG、工具、記憶、評估與安全防護的系統,也會留下供別人審查的工程證據。A 後面的數字對應章號,讀法見代號怎麼讀:
| 階段 | 你的系統長出什麼 |
|---|---|
| Part II 應用基礎(A6–A8) | 串流聊天介面(Gradio、Chainlit 或 CLI 也可以)與 trace、穩定的 structured output 與 workflow、從真實 trace 長出的 golden set 與 judge |
| Part III 知識與工具(A9–A11) | 附引用的 RAG、帶風險分級的工具與 MCP server、有預算與快取的 context builder |
| Part IV Agent 系統(A12–A15) | 手寫 harness、分層記憶、trajectory evals 與 prompt 最佳化,multi-agent 只在評估勝出時保留 |
| Part V 產品上線(A16–A18) | 安全稽核與修補、完整前端、多使用者部署與 eval 把關的發布流程 |
| Part VI 綜合實戰(A19) | 畢業專題:延伸成常駐 agent |
完整對照見系統專案 A6–A19。
兩個實作專案
Section titled “兩個實作專案”模型專案 M1–M5從 autograd 到自己的 tiny GPT,再到在小模型上跑 SFT、DPO、GRPO,最後寫一個迷你推論伺服器。
系統專案 A6–A19選一個你在意的應用,從串流聊天一路長成有 RAG、工具、harness、記憶、評估、安全防護並部署上線的 agent。
講義內容以 CC BY-NC-SA 4.0 授權:可以轉載與改作,但要標示出處、不得用於商業用途,改作也要用相同授權。引用的第三方內容與商標屬於原作者。