01
Harvard CS2680 现代 AI 系统:Agent 与系统优化
把 Agent 当系统来研究:从 agent loop 一路往下到 serving stack —— 批量调度、KV cache、路由、量化、投机解码。
适合:写过 Python/PyTorch、有系统课基础(CS61 + 一门研究生系统课)
04
Karpathy: Neural Networks — Zero to Hero
从 micrograd 的三十行反向传播,一路写到从零训练 GPT,全程对着代码讲。
适合:会一点 Python,想先看到「能跑的东西」
06
Stanford CS224N 自然语言处理
NLP 的经典主线:词向量、序列模型、注意力与 Transformer,配 2026 冬季学期讲义。
适合:懂深度学习基础(反向传播、PyTorch)
07
Stanford CS312 深度学习炼金术
把深度学习当实验科学来练:用受控实验建立直觉,用「先预测结果、再跑实验」的测验检验理解 —— 覆盖缩放、优化器、损失地貌。
适合:修过一门深度学习课、想补「实验直觉」的读者;作业需要大量算力(课程提供 Modal)
⏳ 还没做完的系列
这张名单由两半合成:还缺哪几讲是代码从磁盘算的(不会过期),为什么还没做 / 下一步写在 courses/progress.json 里(人写的)。
-
- 为什么
- 客座讲座(Dan Fu)有录像但还没做书;另有 3 讲(第03–05讲)的幻灯片当年一张都没插进正文,需要按新流程重做
- 下一步
- 先做 客座-DanFu;再重做第03–05讲的幻灯片安置
🧭 从哪一本开始读
顺序只是建议:三条线可以并行,不必按编号读。每一条都标了「适合谁」,选不对也不会看得很痛苦。
① 想先建立直觉(不用数学焦虑)
- 吴恩达 机器学习专项课程 —— 概念与直觉优先、代码为辅;每卷都补了「易错点」和自测题,读完知道机器学习在解决什么问题。
- Karpathy: Neural Networks — Zero to Hero —— 配套的动手线:从 30 行反向传播写到从零训练 GPT,全程对着代码讲,先看到能跑的东西。
② 想补系统底子(决定你后面读不读得动)
- 南京大学 操作系统原理 —— 进程、并发、文件系统都讲到能自己实现的程度;读 LLM 推理、训练框架时用得上。
- 南京大学 生成式软件工程 —— 把 Agent 当工程问题做:上下文、工具、评测、失败复现,而不是背提示词技巧。
③ 有深度学习基础、要进大模型
- Stanford CS224N 自然语言处理 —— NLP 的主线任务与模型:词向量、注意力、Transformer、预训练与对齐。
- Stanford CS336 语言建模 —— 语言模型从零:分词、架构、GPU、数据、扩展 —— 最接近「自己训一个」的一门。
- UC Berkeley EECS 189 机器学习导论 —— 把前两门里「默认你懂」的数学补上:概率、优化、泛化,配实验。
🌏 别处整理好的资料
这些不是我们的内容,是别人维护得比我们好的站 —— 省得重复造一遍;链接直接过去,我们只做索引。