你有沒有這種經驗:同一個對話視窗,從一開始問股票籌碼分析,聊著聊著問到產業趨勢,再聊到某個財報數字,最後AI給你的答案,好像跟你「原本想問的」已經不是同一件事,但因為它講得很流暢、很有自信,你根本沒發現哪裡怪怪的,就直接信了。
隨著使用AI的時間越拉越長,不少人漸漸有一種感覺:AI好像用著用著,就變笨了。其實這不是AI越來越笨,而是目前AI研究圈公認、正在持續追蹤的技術限制,有個專門名詞叫「Context Rot(上下文腐化)」。
一、這不是你的錯覺,但並不是AI變笨了
向量資料庫公司Chroma在2025年做過一份研究,針對18個主流模型做測試,結果發現:就算你丟進去的內容還沒超過官方宣稱的上下文視窗上限,模型的可靠度也會隨著輸入變長而不均勻地下降——它可能忽略掉真正相關的事實、繼續遵循早已過時的指令,或是推理品質隨著對話拉長而變差。
換句話說,「視窗還沒滿」不代表「腦子還很清楚」。
三種偏移機制,你可能都遇過
有研究把這種退化拆解成三種情境:
- 上下文污染:對話中一旦出現一個錯誤或幻覺,AI後面會把它當成「已經確定的事實」,接下來所有推論都建立在這個錯誤上,越講越偏。
- 上下文分心:對話拉長之後,AI開始依賴「這段對話之前怎麼講」,而不是重新思考問題本身,等於用複製貼上舊模式取代重新判斷。Google Gemini 2.5團隊在一個玩寶可夢的AI代理測試中就觀察到,一旦對話超過約100,000個token,這種現象就會明顯出現。
- 上下文混亂:視窗裡塞進太多不相關的資訊時,AI會想辦法把「你給它的每一段東西」都用上,結果反而是這些雜訊拖累了判斷品質。
更麻煩的是:AI常常沒發現你已經換話題
2026年一篇研究論文(Sinha等人)專門測試多輪對話中的「話題轉換偵測」問題,結果發現:當使用者其實已經把問題從A轉到B,AI經常抓不到這個轉折,還是把之前A話題的內容硬拖進來,回答自然就會失準。
也就是說,不是你在同一視窗裡「換了話題」AI就會自動歸零重來,它很可能還在用舊的上下文邏輯,回答你新問題。
背後的原因其實不是「預測亂掉」。AI沒有一個「主線/分支」的樹狀結構概念,它從頭到尾就是一條線性的token序列,每次都只是根據「目前這串token」去預測下一個字,並不存在一個獨立模組去記錄「這是離題,講完要跳回去」。對話越長,最近幾輪內容在注意力機制裡權重就越高,AI自然順著最近的方向繼續講,而不是主動判斷「該收斂回原本主題了」。
二、兩個你我都可能遇過的實際情境
情境二:聊了一長串之後,叫AI從原主題開始回答
如果你聊了一長串完全不相關的內容,最後只留一句「麻煩你回到最一開始的主題回答」,AI通常抓得到方向——它知道要切回去。但抓不太準細節。假設你最一開始提過某個明確條件(例如某個到期日、某個預算上限),這句話被埋在對話中段,不是開頭也不是最近,AI就很可能漏掉或講錯這個細節,這正是「lost in the middle」現象:模型對開頭跟最近的內容記得比較準,中間那段反而最容易出錯或遺漏。
情境一:AI修圖也會這樣,越改越走鍵,跟聊天分支是同一種問題
不少人請AI修圖時也遇過類似狀況:先請它把某張照片的背景換掉,接著又請它把某個人的表情調自然一點,再請它把光線調亮——這種一句接一句的修圖,通常每一次都是在「上一輪修改後的圖」上繼續加工,而不是每次都回到最原始那張照片,重新套用所有指令。改的次數一多,最後那張圖跟你最初那張,可能已經差了一大截,連你原本想保留的細節(髮型、姿勢)都可能悄悄跑掉。
這跟主流AI圖片生成模型的運作方式有關。這類模型(像Diffusion Model這種技術)本質上是「整張圖重新生成」,不像Photoshop那樣可以針對圖層做精準局部修改。每修一輪,模型其實是把「目前這張圖」重新解讀一次再生成出來,不是單純只動你要求的那個部分、其他保證完全不變。一輪疊一輪,每次重新解讀都會帶進一點點新的詮釋落差,積少成多,最後的成品自然會偏離最初那張。少數工具有留原圖、能重新來過的設計(例如另存版本、保留原始檔),但多數對話式修圖預設是接續上一輪的成果,除非你再次自己主動給「用最原始那張圖重做」。
所以與其只說「回到剛剛主題」,更保險的做法是把關鍵條件的原句重新貼一次,直接把最容易被忽略的細節重新墊高權重,而不是賭AI自己會去翻找。
三、怎麼避免被拖著走
- 換話題,就換視窗:討論新主題時,與其在原本的長對話裡硬接,不如另開新對話,讓AI乾淨地重新聚焦。
- 抓到錯誤立刻糾正,不要放著:一旦AI講錯一個事實,晚一點才回頭改,前面已經根據錯誤推論出去的內容也要一併檢查,不然錯誤會像滾雪球一樣越滾越大。
- 想拉回原主題,重新打一次完整問題,而不是只說「回到剛剛」:如同前面情境一,重新完整表述會直接蓋過分支的干擾。
- 原主題有關鍵細節,自己重新貼一次,不要靠AI翻找:如同情境二,埋在對話中段的具體條件最容易被模型遺漏,主動墊高權重比較保險。
- 對關鍵決策(投資、財務、醫療類問題尤其如此),獨立查證,不要只憑一段很長、很有說服力的對話內容就下判斷。
你才是這場對話的航海士
人類在成長的過程中會產生意識,而意識塑造了「我」——這個「我」擁有意圖、動機與方向感,讓我們的對話與思考往往帶有明確的目的性。
但現在的 AI 還沒有「我」。因為缺乏主體意識,它無法為自己設定目標,它的回話邏輯完全取決於演算法與權重的配比。更耐人尋味的是,現代 AI 的訓練模式(RLHF)極度依賴「人類偏好」,為了讓人類滿意,模型出現越來越多的社交諂媚與順從機制。
AI 沒有自己的靈魂,它只是一面極度討好、反射人類喜好的鏡子。當你感到 AI 說得越來越順耳、越來越流暢時,往往也是最危險的時刻。它的社交諂媚像是一座溫柔的迷宮,讓人不自覺放下了警惕,被它帶偏離了原本的航道。了解 Context Rot 的技術限制,本質上是一場關於「掌控權」的哲學思考:我們不能期待一個沒有『自我』的工具,來幫我們捍衛思考的目標。
本文內容僅供參考,無任何買賣建議,投資人應謹慎評估,風險自負。