閱讀心得

從「寫程式」到「寫提示詞」

autoresearch 最令人震撼的並非其技術細節，而是它隱含的研究範式轉移。傳統 ML 研究者的工作流程是：閱讀論文 → 形成假設 → 修改程式碼 → 訓練實驗 → 分析結果。而在 autoresearch 中，人類的角色被濃縮為「撰寫 program.md」—— 剩下的全部交給 AI Agent。

這不是自動化超參數搜尋（AutoML）的變體，而是更激進的：Agent 可以直接修改模型架構、交換最佳化器、重構訓練迴圈。它的自由度遠超過傳統 NAS（Neural Architecture Search）或 Hyperparameter Optimization。

自我修改程式碼的意義

專案選擇讓 Agent 直接編輯 Python 原始碼，而非透過抽象 config 系統，這是個有趣的設計取捨。優點是：

• Agent 可做任何修改，不受 config schema 限制
• diff 直接可讀，人類 reviewer 清楚知道改變了什麼
• 不需要設計複雜的 config 系統

但這也意味著 Agent 需要真正「理解」程式碼，而非填寫參數表格。

對 AI Safety 的隱含思考

README 開頭的科幻敘事並非玩笑。Karpathy 描繪了一個「程式碼已進化到第 10205 代，沒有人類能理解」的未來。這既是對 AI 自主研究的願景，也是警示：當我們讓 AI 開始自主修改程式碼時，人類的理解能力會逐漸落後。

實驗設計的巧思

固定 5 分鐘時間預算是個深思熟慮的設計：

• 消除計算平台差異帶來的不可比較性
• 迫使 Agent 在固定資源下尋找最優解
• 讓人類在合理時間內獲得足夠多的實驗結果

這與傳統 ML 研究中「訓練到收斂」的思維完全不同，更像是一種在約束條件下的最佳化競賽。