原創教學
AI 開始造 AI，誰來踩煞車？研究自動化不等於「智慧爆炸」
AI 不只在幫人寫答案，也開始參與打造下一代 AI。真正值得問的，不只是它能跑多快，而是：誰能證明這次改動真的更好，誰有權讓它進入下一輪？
先講結論：研究加速、研究主導與完全自主，是三件不同的事。 看見 AI 提出新方法，不代表看見一台已能不斷把自己升級、也不需要人類的機器。把這些階段混成「智慧爆炸已經來了」，會錯過真正該追蹤的變化。
26% 是重要訊號，但不是「AI 已全面接管」
Anthropic 公布的2026年8月研發快照，將26%工作歸為AI主導、仍由人監督；已測範圍沒有完全自主類別。這是公司自報的加權工作指標，不是人員替代率或全產業比例。Anthropic官方說明
這個區別會改變新聞的讀法。「人類先拆好每一步，AI 幫忙做」與「只交付目標，AI 自己處理大部分步驟」，都還可能保留人類的最後批准。不要只看到主導二字，就補上一個資料沒有支持的「無人管理」。
把 AI 造 AI 拆成三層，就不容易被標題帶走
以下是本文的理解框架，不是所有研究機構共同採用的能力分級。
| 層次 | 可以看到的進展 | 還不能直接推論的事 |
|---|---|---|
| 任務加速 | 更快完成某段程式或實驗 | 整項研究已更快、更可靠 |
| 流程主導 | 從目標出發串起多個工作步驟 | 不再需要人類驗收與批准 |
| 遞迴改進 | 改動經驗證後，有助後續研究 | 能力必然無限增長或失去控制 |
最容易誤判的是第三層：一個訓練流程跑得更省，不等於模型在所有問題上都更聰明；一個模型更會寫研究程式，也不等於它更會決定值得研究的問題。效率、能力、研究方向與可靠度，都需要各自的證據。
重要的不是「多叫幾個 Agent」，而是改進能否過關
Google DeepMind 的 AlphaEvolve 提供一個具體例子：模型提議程式，評估器執行與評分，再讓較好的候選進入下一輪；作者也報告它曾改善AI訓練相關流程。這展示可驗證的迭代，不是所有AI都能自行升級的證明。官方介紹、作者白皮書摘要
可以把這種迴圈想成一座實驗工坊：提出想法的人很多，但作品要先通過量測，才有資格成為下一輪的起點。如果只增加產出速度，卻沒有比較標準，留下來的未必是進步，也可能只是更會自我介紹的候選。
本文的判斷是：評估與放行，應當是研究迴圈的一部分，不是忙完以後才補的文件。 這是根據上述機制提出的分析，不是任何研究系統已零風險的保證。
為什麼跑得更快，還不能宣布「智慧爆炸」？
METR 的 RE-Bench 比較有限的研究工程任務，結果會隨給定時間預算改變。它提醒我們：短時間搜尋有優勢，不代表長程研究同樣占優；這篇2024年發表、2025年修訂的研究，也不是2026年所有模型的最新排名。作者論文摘要
更根本的問題是，想形成持續向上的回饋，每次改動都必須真的讓下一輪受益。若一次改動只對某個測試有用，或換來更大的運算成本，下一輪未必變快。若改善只在熟悉的題目成立，遇到新問題也可能失效。
所以「智慧爆炸」不是把迴圈畫成箭頭，就會自動成立的結論。本文不給發生年份、機率或必然性：公開的局部成果不足以替這些預測背書。值得追蹤的是哪一段工作更自主、改善能否重現，以及監督是否跟得上。
一個小例子：AI 改良排序程式，怎樣才算進步？
以下是虛構教學情境，不是公司實測或部署建議。
假設你讓 AI 改良一段排序程式。原本版本能正確處理既定輸入；AI 提議的新版本在某批資料跑得更快。這時，直接採用還太早。你可以先問：空資料、重複值或不同長度的輸入，結果仍正確嗎？另一批未用來選版本的資料，還保留速度優勢嗎？增加的記憶體成本值得嗎？若失敗，原版是否仍能恢復？
這個例子說明的不是「四個問題能保證安全」，而是把提議、證據與採用分開。AI 提出候選，並不等於候選已通過；跑完測試，也不等於人類已批准取代原版。
研究系統的規模可能大得多，但讀者不必先懂訓練程式，才能要求一個清楚的答案：究竟改了什麼、用什麼證明、在哪些條件下成立？
下次看見「AI 會造更強 AI」，先追問這四件事
- 改善在哪裡？ 是某個函式、實驗流程，還是端到端研究成果？別讓局部勝利被包成全面能力。
- 誰在判定更好？ 只看模型自己的評語，還是有可檢查的測試與外部證據？本文建議保留未參與挑選的評估資料，降低只適合已知題目的誤判。
- 自主到哪一步？ 寫程式、跑實驗、選方向與正式採用，權限不應被一句「自主 Agent」一起帶過。
- 失敗怎麼辦？ 是否有成本上限、停止條件與可回復版本？這些是本文提出的追問，不代表任何現成工具已具備或足以保證安全。
把這四問存起來，遇到下一個「自我進化」標題，就能把情緒換成可核對的進展。
我們應該期待加速，也應該拒絕把猜測當成果
AI 參與 AI 研發，值得認真看待。它可能把人類從一些反覆工作中解放出來，也可能讓不良研究假設跑得更快。前者是機會，後者是本文對未充分驗證迴圈的風險推論；兩者都不能靠一張總分表就定案。
真正有用的態度，不是先認定它必然失控，也不是因為仍有人監督就認定沒有風險。讓研究更快，同時讓證據、權限與責任更清楚，才是值得要求的進步。
如果 AI 能幫忙打造下一代 AI，你最希望人類牢牢保留哪一個決定？
查核說明
作者：奧微軟體 AugurSoft。查核日期：2026-10-07。本文為獨立AI知識解析，無服務推銷、投資／速度／安全保證；不把公司自報當獨立重現。未驗公司內部數據、研究程式、跨模型表現與智慧爆炸預測；上列教學情境與追問是作者提出的理解工具。