AI 知識

先整理,再讓 AI 變聰明

當 AI 回答越來越慢、成本越來越高,最直覺的懷疑通常是模型選錯了。

但在許多多步驟工作流裡,真正一路放大成本的,往往是另一件更基本的事:每個步驟都把原始輸出、重複資料、格式殘缺的內容,原封不動塞進下一輪。

最後,負責推理的模型先花大量時間做整理。

這不是模型能力不足,而是輸入沒有先被整理成值得推理的材料。

上下文不是免費的收納箱

上下文越長,模型需要處理的 token 越多。這會影響請求成本、回應時間,也會讓真正重要的內容更難被辨識。

因此,「把所有資料都給 AI」不是穩健策略。更好的目標不是少給資料,而是把不需要推理的雜訊,留在模型之外處理。

可以把一個 AI 工作流分成兩個層次:

  1. 可明確判斷的整理工作,交給一般程式。
  2. 需要語意理解、取捨與整合的工作,再交給 AI。

這樣做的好處不只是省 token。當輸入更乾淨,模型的注意力更集中,結果也更容易檢查與追溯。

先用程式處理「不用想」的事

不是每一筆資料都要由模型判讀。以下這些工作通常有明確規則,適合在前處理階段完成:

  • 去重:相同內容、重複事件、重複欄位,不必重複送進模型。
  • 完整性檢查:缺少關鍵欄位、文字截斷、格式壞掉的資料,先標記或排除。
  • 分組與排序:依日期、主題、來源類型或任務狀態整理,讓模型不必先猜資料結構。
  • 衝突標記:資料彼此矛盾時先標出,不要混在正常內容裡等待模型偶然發現。
  • 摘要分層:保留原始資料的可追查位置,但把本輪真正需要判斷的內容整理成精簡版本。

這類處理不需要模型的創造力。規則越清楚,就越應該用可重複執行、容易測試的方式完成。

AI 要做的,是判斷而不是清掃

整理完成後,再把 AI 用在真正有價值的地方:

  • 多份資料互相矛盾時,判斷哪個說法更可信。
  • 一堆摘要之中,找出值得優先處理的事件。
  • 將不同觀點整合成一段讀得懂的說明。
  • 在資訊不足時,指出還缺哪一塊證據。

這些工作需要語意與脈絡。把模型的上下文留給它們,通常比把原始資料完整搬進去更有效。

做一個「答案包」,不要只堆一個大輸入框

實作時,可以把送給模型的內容視為一個答案包,而不是隨手拼接的長字串。每次請求前,先確認答案包是否包含:

  • 本輪問題是什麼。
  • 已去重、已完成基本檢查的關鍵資料。
  • 需要模型做出的明確判斷。
  • 被排除或標記衝突的項目摘要。
  • 必要時可追查的原始資料識別,不必把全部原文貼進去。

答案包的核心原則很簡單:每一段內容都要能回答「為什麼模型現在需要讀它?」

如果答不出來,這段內容多半應該留在程式端、資料庫或下一輪再使用,而不是佔用這一輪的上下文。

先整理,再讓 AI 變聰明

模型不是越餵越強。真正可靠的工作流,會先把確定能處理的雜訊處理完,再讓 AI 專注於不確定、需要判斷的地方。

當你下一次看到 AI 變慢或帳單變高,不妨先問一個問題:

這次送進去的每一段內容,真的都值得模型花時間讀嗎?

這個問題往往比急著換模型,更早找到改善的起點。

回文章列表