延伸資源

Karpathy 相關專案

• nanochat — autoresearch 的基礎，簡化版 LLM 訓練
• nanoGPT — GPT 訓練的最小實作
• llm.c — 純 C 語言的 LLM 訓練

社群 Fork

• autoresearch-macos — macOS 支援
• autoresearch-mlx — Apple MLX 支援
• autoresearch-win-rtx — Windows 支援
• andyluo7/autoresearch — AMD GPU 支援

相關 Twitter 討論

• Karpathy 原始公告
• 後續討論
• Dummy's Guide — 初學者指南

論文參考

• ResFormer：Value Residual 機制的來源
• Muon Optimizer：Newton-Schulz 正交化最佳化器
• Sliding Window Attention：Longformer / Mistral 使用的注意力機制
• QK-Normalization：穩定 attention 訓練的技術

AI Agent 相關

• Claude Code — Anthropic 的程式碼 Agent
• GitHub Copilot — GitHub 的 AI 程式設計師
• OpenCode — 開放原始碼的 AI 代理工具