Appearance
autoresearch 學習索引
學習目標摘要
- 理解 AI Agent 自主進行 LLM 架構搜尋的設計思路
- 掌握 Agent 自動修改程式碼、調整超參數、迭代實驗的工作流
- 探索「AI 研究助手」的未來可能性與限制
前置知識
- 前 5 個階段的 LLM 訓練與推理知識
- Python 程式能力與 LLM 基本概念
- 對 AutoML / Neural Architecture Search 有基本認識(可選)
關鍵概念
- AI Agent 自主實驗:Agent 自動撰寫訓練程式碼並執行
- 架構搜尋(Architecture Search):自動探索最佳模型結構
- 超參數搜索:Agent 自動調整學習率、batch size 等
- 迭代實驗迴圈:實驗 → 分析 → 改進 → 再實驗
概述
autoresearch 是 Karpathy 於 2026 年發布的實驗性專案,讓 AI Agent 自主修改訓練程式碼並進行架構搜尋。