Skip to content

micrograd 學習索引 ​

一個極簡的自動微分引擎,約 150 行 Python 實作反向傳播與神經網路。

原始碼 ​

原始碼 ​

翻譯 ​

  • translation/ — 繁體中文翻譯

學習目標摘要 ​

  • 理解自動微分(Automatic Differentiation)與反向傳播(Backpropagation)的核心原理
  • 掌握神經網路的基本組成:Value、Neuron、Layer、MLP
  • 能從零手寫一個 mini 神經網路框架

前置知識 ​

  • Python 基礎語法
  • 微積分基本概念(導數、連鎖法則)
  • 線性代數入門(矩陣乘法)

關鍵概念 ​

  • 計算圖(Computational Graph):將運算組織為有向無環圖
  • 反向傳播(Backpropagation):沿計算圖反向傳遞梯度
  • 自動微分(Autodiff):程式自動追蹤並計算導數
  • 損失函數與優化:MSE Loss、梯度下降

學習路徑建議 ​

  1. 先讀 micrograd-01-閱讀摘要 掌握全貌
  2. 讀 micrograd-06-概念卡片 建立基本名詞概念
  3. 跟 micrograd-05-程式碼逐行解讀 讀完 engine.py
  4. 讀 micrograd-02-文件重點 強化關鍵知識
  5. 操作 micrograd-08-實驗紀錄 實際跑一遍
  6. 讀 micrograd-03-閱讀心得 + micrograd-04-閱讀評論 深化理解
  7. 用 micrograd-10-詞彙對照表 複習