lvncerpedia

nanochat

nanoChat / nanoGPTで勉強するのが良い理由

  • ✅ 最小構成(無駄がない)
  • ✅ PyTorchで全部読める
  • ✅ 実際に学習回せる
  • ✅ 「ブラックボックス感」が消える

特におすすめの進め方👇

  1. まずREADMEを読む
  2. model.pyを上から読む
  • Embedding
  • Attention
  • FFN
  1. 「これ何?」ってなったら1個ずつ調べる
  2. 小さいデータでtrain回してみる