9月3日、Vinod Chuganiが「5 Free Courses to Go From LLM Beginner to Practitioner」と題した記事を公開した。この記事では、LLMの数学的基礎から本番環境でのエージェント構築まで、体系的に学べる無料コース5選について詳しく紹介されている。
LLMのチュートリアルはネット上に溢れているが、「次のコースに自然につながる」学習パイプラインを構成できるものは少ない。本記事で紹介される5コースは、それぞれが明確な役割を持って連結されており、バックプロパゲーションの実装から本番エージェントのデプロイまで一本道で到達できる構成になっている。
最初に取り組むべきコース：Andrej KarpathyのNeural Networks: Zero to Hero
5コースの中で最も「効く」のが、**Neural Networks: Zero to Hero**だ。OpenAI創業メンバーでTesla元AI部門長のAndrej Karpathyが作成した無料YouTubeシリーズ（全9講義）で、PyTorchなどのフレームワークに頼らず、生のPythonで神経回路網を一から実装していく。
このコースの核心は、抽象論として理解されがちなバックプロパゲーションを、自作の自動微分エンジン「micrograd」を書くことで一行一行追えるレベルで理解させる点にある。そこから文字レベルの言語モデル「makemore」を経て、最終的にGPT-2スケールのトランスフォーマーとBPEトークナイザーを自力で実装する。
- 必要な前提知識：Pythonと確認できる程度の微分の知識
- 所要時間：20〜30時間（アクティブなコーディング時間として）
- 形式：YouTube再生リスト＋GitHub上のJupyterノートブック（すべて無料）
LLMを使う側にとっても、自分が操作しているものの内部構造を把握しているかどうかは、デバッグ能力に直結する。このコースはその差をつける。
本番システムの設計感覚を養う：FSDL LLM Bootcamp
2023年4月にサンフランシスコで開催された2日間のイベントをYouTubeで無料公開したのが**Full Stack LLM Bootcamp**（Full Stack Deep Learning）だ。
APIを呼べる人間が次に直面する「どうシステムとして組むか」という問いに答える構成になっており、プロンプトエンジニアリング、LLMOps、評価パイプライン設計、レイテンシとコストのトレードオフといったトピックを扱う。2023年版のため一部APIリファレンスは古くなっているが、アーキテクチャの考え方は現在も通用する。所要時間は8〜10時間。
理論とスケーリングを体系的に学ぶ：Stanford CS336
学術的な深さが必要な場面には、Stanfordの**CS336: Language Modeling from Scratch**が対応する。Percy LiangとTatsunori Hashimotoが担当する大学院レベルの講義で、データ収集・クリーニング、トークナイザー構築、スケーリング則、アライメントの力学まで網羅する。
OSカーネルを自分で書くことでシステム思考を身につけるOS講義と同じ哲学で設計されており、「既存モデルを使う」のではなく「一から作ることで理解する」アプローチをとる。講義スライドと課題は公式サイトで公開。所要時間は30〜40時間とこのリスト中最も重い。
Karpathyコースで実装の基礎を固めてからCS336に進む構成になっているのは、CS336がデータパイプラインの設計やスケーリング則の数理など実装経験があることを前提とした内容を扱うためだ。Karpathyで「トレーニングループがなぜそう動くか」を体で理解していないと、CS336の議論についていくのが難しくなる。
実装スキルを身につける：Hugging Face LLM Course
理論と実装の接続点となるのが**Hugging Face LLM Courseだ。全13章構成で2026年半ばまで継続的に更新されており、LoRAによるファインチューニングからDPO（Direct Preference Optimization：人間のフィードバックをもとにモデルの出力傾向を直接調整する手法）、GRPO**（Group Relative Policy Optimization：強化学習ベースの報酬最適化手法で、DeepSeek-R1などの推論モデル構築に用いられる）を使った推論モデル構築まで、現在の実務ワークフローをカバーしている。
記事内で特に注目されているのがChapter 10〜12で、LoRAを使ったSFTTrainerワークフローをこの5行で示している：
from trl import SFTTrainer
from peft import LoraConfig
lora_config = LoraConfig(r=16, lora_alpha=32, target_modules=["q_proj", "v_proj"])
trainer = SFTTrainer(model=model, train_dataset=dataset, peft_config=lora_config)
trainer.train()
これが現在のLoRAファインチューニングの標準パターンであり、このコースが目指すゴール地点でもある。所要時間は15〜20時間。
エージェントのデプロイとorchestration：DeepLearning.AI短期コース群
最終段階は**DeepLearning.AIのショートコース群だ。特にAI Agents in LangGraphはLangChain/LangGraph作者のHarrison Chase自身が担当し、ステートフルなエージェントをゼロから構築する内容になっている。RAGパイプライン、vLLMサービングエンドポイントの最適化なども扱う。各コースは1〜3時間で完結する設計で、合計所要時間は10〜15時間**（複数コースを組み合わせた場合の目安）。
全体の学習ロードマップ
| ステージ | コース | 目安時間 |
|---|---|---|
| 仕組みの理解 | Karpathy Zero to Hero | 20〜30時間 |
| 本番システム設計 | FSDL LLM Bootcamp | 8〜10時間 |
| 理論とスケーリング | Stanford CS336 | 30〜40時間 |
| ファインチューニング | Hugging Face LLM Course | 15〜20時間 |
| デプロイとエージェント | DeepLearning.AI | 10〜15時間 |
記事では「すべて完了してから次へ進む必要はない」とも述べられており、実践的なアプローチとして、Karpathyをしっかりやり切り、FSDLはざっと流し、CS336は自分の業務に近い章だけ深掘りし、プロジェクトが具体化したタイミングでHugging FaceとDeepLearning.AIを本腰で進めることを推奨している。
LLMについて「読んで知っている人」と「実際に作れる人」の差は、トレーニングループを何度回し、損失曲線を観察し、ファインチューニングの失敗をデバッグしてきたかにある、というのが記事の結論だ。
詳細は5 Free Courses to Go From LLM Beginner to Practitionerを参照していただきたい。
