AI 知識
AI 自己改流程,誰來判它改對了?別把「比較像成功」當成驗收
沒有答案,也能比較;能比較,不代表已經證明
AI 把自己的工作流程改完,再告訴你「這樣比較好」,你會相信哪一部分?它可能確實少漏了一段資料,也可能只是把表格排得更像完成品。兩份輸出之間有差異,是觀察;哪份更符合你的需求,則需要另外判斷。
這正是閱讀自我改進研究時值得先畫的界線。探索可以在缺少標準答案的情況下前進,但不能因此省掉交付條件。對讀者最實用的問題,不是先替 AI 換一顆更大的腦袋,而是讓每次流程變更,都留下「改哪裡、看到什麼、還不知道什麼」。
Harness² 改的是周圍流程,不是讓權重自己成長
Harness² 第一方專案把模型周圍的提示、工具、記憶與協作等安排視為 harness。框架固定模型權重,在目前任務中提出流程修改、試跑候選,再依執行差異組合改法;另一層則把採用的流程與有證據的經驗留下來,影響後續調整。
論文摘要說明,這種任務內調整不依賴已知正解來引導。這是方法的使用條件,不是「不用驗證也知道正確」的承諾。研究報告的是特定基準上的改善,不能直接換算成你的任務成功率、成本或安全性。本文不引用跨模型勝負,也沒有重跑研究。
把探索、驗收、保留拆成三個決定
第一個決定是探索:這個改法值得試嗎?可以從執行紀錄看它是否更早發現缺資料、少走錯誤路徑,或提供比較容易回查的結果。這些訊號能幫忙挑下一個實驗,但不能代替最終判定。
第二個決定是驗收:這次結果符合原本條件嗎?例如數量能否與輸入對帳、每個重要欄位能否回到原文、缺件是否明確保留。條件應在比較前先寫下來,不要看見新流程的漂亮輸出後,才把標準改成它擅長的樣子。
第三個決定是保留:改法值得成為下一次的預設嗎?一次任務的成功,可能只是剛好碰上容易的資料。可以先限制在同類任務、保留原版,拿未參與調整的新資料再比較。這三個決定是本文原創教學框架,不是作者發布的正式驗收標準。
虛構例子:一張很漂亮的活動清單,仍可能漏掉取消通知
以下為虛構教學情境,不是真實客戶、研究案例或實測。假設 AI 要從數封活動通知整理待辦,舊流程逐封閱讀,新流程先擷取日期與活動名稱。新版本的輸出更整齊,卻漏掉一封沒有日期、只寫「活動取消」的補充信。
如果比較只看表格是否完整,新流程可能勝出;如果原本驗收條件包含「取消通知也要影響結果」,就能發現它尚未合格。這時不必急著宣布流程更差或模型不行,先留下漏件的輸入、哪一步丟掉訊息,以及驗收條件如何判定。
接著只調整會漏掉補充信的步驟,用同一份資料確認原症狀消失,再用另一份包含延期通知的新資料檢查。這是可執行的比較建議,不保證涵蓋所有活動、所有信件格式,也不代表本文已證明某個工具更可靠。
收藏五欄表:先記證據,再決定要不要留下
下表是原創的操作筆記格式,可用於小型受控比較,並非 Harness² 內建功能或官方規範。
| 欄位 | 要記什麼 | 為什麼不能省 |
|---|---|---|
| 原流程 | 版本、輸入與原先驗收條件 | 防止比較基準跟著結果移動 |
| 這次改動 | 哪一個步驟或設定變了 | 才能追查結果差異來自哪裡 |
| 執行證據 | 原始輸出、工具紀錄與漏件 | 避免只留下成功摘要 |
| 尚未證明 | 新資料、成本、權限等缺口 | 不把未知寫成已通過 |
| 採用範圍 | 哪類任務先用、何時回原版 | 不讓一次嘗試默默變成全域規則 |
同時改模型、資料、提示與判分方式,最後即使變好了,也很難知道哪個改動有效。剛開始可以選一個小任務,固定模型與驗收條件,一次只改一個重要環節;若為了比較增加呼叫,也要把耗時與費用另行記錄,不能只看輸出分數。
會改流程,不等於有權改所有規則
原專案的網路使用說明特別提醒,執行環境可能存取公開評測資料,做評測前應限制接觸答案與評分條件。這也提醒讀者:看見高分之前,要先弄清楚它接觸過什麼。不能把可取得評測線索的環境,當成已排除資料洩漏的證據。
實際試用時,外部寫入、憑證與權限仍由人決定。AI 可以提出改法,不等於獲准自行放寬限制、增加付費操作或改掉驗收條件。遇到這些邊界,先停在只讀或隔離試驗,確認授權再繼續。這些是本文建議,不是已完成的安全稽核。
一份值得留下的改法,應該能說明它在哪些條件下有用,也願意留下失敗與未知。最重要的不是讓 AI 為自己打更高的分數,而是讓你有足夠證據,決定這次該採用、再試,還是退回原流程。
作者:奧微軟體編輯整理。本文為研究解讀與原創教學,非服務案例、研究重現或產品背書;無商業導入與成效承諾。
查核日期:2026-10-22。來源為本文兩處第一方連結。未驗安裝、實際任務品質、速度、成本、資安效果及研究結果可重現性。
