AI 知識
上下文不是越長越好
模型更新時，大家最容易注意到的是回答速度、能力或價格。但長任務真正卡住時，還有另一個常被忽略的問題：每一次新提問，系統得帶著多少舊內容重新往前走？
DeepSeek-V4.1-Flash 這次把快取需求壓低，提醒了一件很實際的事：模型不只在產生下一句話，也在處理先前留下的對話、文件片段、工具結果和規則。這些內容有些很重要，有些只是當時用完卻一直留著。
上下文不是越長越好。真正有用的是讓下一步保留足夠的決策依據，又不必一直背著已經失效的內容。
先分清楚：哪些資料要留，哪些只要能找回來
正在做的任務，通常只需要少量關鍵資訊：目標、已確認的限制、目前結論、尚未解決的問題，以及下一個動作。
完整的原始資料未必需要每次都塞進對話。只要知道放在哪裡、需要時能取回，就不必把每一段摘錄、每一輪嘗試、每一份草稿都重複帶著。
可以先問一句：這段內容會改變下一個決定嗎？若不會，它比較適合變成可回查的參考，而不是一直掛在當前上下文裡。
四個讓對話繼續往前的方法
1. 每一段結束時，留下決策摘要
不要只留下長長的聊天紀錄。用幾句話記下已決定什麼、為什麼這樣決定，以及哪些前提還不能動。下一次開始時，先帶這份摘要，比叫模型翻完整段歷史更直接。
2. 把重複輸出壓成一份可用版本
列了三次相同清單、改了五版相近草稿，並不代表下次都要保留。挑出目前採用的版本，再把其他嘗試標成已排除或可回查。這能減少重複，也讓人更容易看見現在到底站在哪裡。
3. 把「還不知道」明確寫下來
不確定的項目最容易被舊內容掩蓋。把未確認的問題獨立列出，例如「日期還沒定」「資料來源還要核對」或「這個假設尚未驗證」。這比讓模型從一堆舊句子猜測目前狀態更可靠。
4. 任務換了，就重新開一段
從研究轉成寫作、從比較選項轉成執行清單，常常已經是另一個任務。這時不一定要把原本所有脈絡搬過去。帶著必要摘要重新開始，反而能避免前一階段的探索把下一階段帶偏。
明示虛構教學例：整理一份旅行規劃
假設你先用 AI 比較交通、住宿與行程，過程中累積了很多候選方案。等到要排每天行程時，不需要再把所有被淘汰的飯店、過期票價和每一輪比較全部帶進去。
可以只帶四項：已確定的日期與預算、保留的地點、還沒決定的空檔，以及下一步要安排的順序。若突然改成研究行李清單，就再用這份摘要開新段落。
這個例子是教學情境，不代表任何工具會自動判斷哪些內容該刪。整理仍需要人先決定什麼才是當前任務真正的依據。
不必為了變短而刪掉關鍵細節
有些工作確實需要完整脈絡，例如需要逐條核對規格、比對原始文字，或追查某個決定為什麼做出來。這時不該只因為想讓對話變短，就丟掉會影響判斷的資料。
重點不是把上下文清到最少，而是讓每一段留下的內容都還有用途。下一次覺得 AI 愈聊愈慢時，先不要急著換模型。先整理一次：現在真正需要它知道的是什麼？
回文章列表