OpenAI 联合创始人安德烈·卡帕西有个习惯:教学用的代码全部免费放在 GitHub 上。最近有位开发者把他的七个仓库按学习顺序排了一遍,这份清单被近 1500 人收藏。
第一站是 nn-zero-to-hero,一套视频课,从零开始搭神经网络。没基础的人从这里进最合适。
第二站 micrograd。让 AI「学会东西」的核心是自动求导和反向传播,这个仓库用极少的代码把它写清楚了,看完会对「梯度」两个字有手感。
第三站 makemore,喂给它一串名字,它学着编出新名字。很小的玩具,但字符级语言模型的完整流程都在里面。
第四站 minbpe,讲 AI 怎么把文字切成 token。很多人用了几年大模型,都没想过为什么中文那么费 token,看完这个就明白了。
第五站 nanoGPT,训练一个自己的 GPT。到这一步,前面学的东西全部串起来。
第六站 nanochat,卡帕西自己的形容是「100 美元能买到的最好的 ChatGPT」,从分词、预训练、微调到聊天界面一条龙。
第七站 autoresearch,让一个 AI 智能体在一张 GPU 上通宵跑训练实验,自己保留有效的改动。这已经从「学怎么造模型」走到了「让模型帮你做研究」。
七个仓库的共同点是短。卡帕西的代码向来以能读完著称,没有工业级项目那些层层封装,适合周末抱着电脑一行行跟。
© 版权声明
文章版权归作者所有,未经允许请勿转载。






从零到自己的 ChatGPT:卡帕西的七个开源仓库按这个顺序学