前幾天，我請 Google AI 分析「微塵故事」。原本只是想看看，一個人工智能讀過網站裡不同時間、不同分類的文章之後，會怎麼理解這個部落格，結果最後得到的不是一般的網站分析，而是一封寫給創作者的讀者信。

它把職涯回顧、萬和宮的籤詩、散步、旅行、道德經與生活文章串在一起，最後整理出一條很完整的敘事：這是一場「心智重構與職涯告別式」，網站成了某些人的「精神避難所」，而寫作像是在替過去二十八年的職涯進行某種整理與告別。

不得不說，寫得很好。有些地方甚至讓人讀著讀著，產生一種奇怪的感覺：原來我一直在做這件事。

但再看一次，我開始注意到另一件更有意思的事。

有些內容確實存在於文章裡，有些卻是 AI 把散落在不同文章中的線索重新連接之後，形成的進一步解釋。這讓我開始注意一種和 AI 認知偏誤有關的風險：AI 很擅長把零散的東西整理成一個完整的故事，但故事愈完整，不代表它就愈接近現實。

完整的是文字，不一定是現實

寫作本來就是整理。原本散亂的經驗經過選擇、排列與刪減，最後形成一條讀者可以理解的線；好的分析也是如此，它會從大量資訊裡找出關係，降低複雜度，讓原本混亂的事情變得可以討論。

問題不在整理本身，而是當文字變得足夠順、因果足夠清楚，我們很容易忘記：現實未必原本就有這麼完整的結構。人的動機可能同時有好幾個，一個決定也未必能追溯到某件清楚的往事；有些事情只是當時的反應，有些是偶然，有些甚至過了很多年，仍然沒有確定答案。

但只要把足夠多的片段交給 AI，它很容易替這些片段找到關係：哪一次經驗造成後來的改變、某篇文章代表什麼心理階段、一個反覆出現的詞又象徵什麼內在需求。這些解釋可能很有啟發，也可能真的碰到了一部分事實，只是「說得通」和「事情就是如此」，仍然不是同一件事。

這其實不是 AI 才有的問題

想到這裡，我發現這種情況並不陌生。以前沒有生成式 AI 的時候，我們遇到事情，也會找朋友談。工作受了委屈，找熟悉自己的朋友說；關係出現問題，找信任的人討論；對某件事情不確定，也會問價值觀接近的人：「你覺得呢？」

朋友通常只聽見我們提供的版本。如果知道我們正在難過，多數人也不會第一句就開始拆解因果，而是先理解情緒，可能說「如果是我，我也會生氣」、「這樣確實很難受」，或者「你已經做很多了」。

這些話本身沒有問題，人在情緒裡，本來就需要被理解。只是如果我們總是向同一群人說相同版本的故事，也總是得到相近的回應，久了之後，一種理解就可能變得愈來愈穩固。

心理學對「選擇性接觸」的研究也發現，人平均而言確實比較偏好與既有態度、信念或行為一致的資訊，但這個傾向並非固定不變；追求正確答案、議題重要性與具體情境，都可能影響人是否願意接觸不一致的資訊。

所以，同溫層不是 AI 發明的。人本來就會尋找比較接近自己理解的人，也本來就可能忽略那些讓自己不舒服的材料。

AI 如何放大原本就存在的認知偏誤

七月寫〈當人慢慢看不見自己的行為〉時，我談的是比較內在的過程。一開始，人可能知道自己的行為和心裡相信的樣子並不完全一致；面對這種不舒服，並不是每一次都會選擇改變行為，有時候比較容易的是改變解釋，替自己找一個理由、換一種說法，或者保留比較支持自己的資訊。

時間久了，那些不一致的地方可能慢慢退出視線。現在回頭看，AI 並沒有改變這套人類原本就存在的機制，它改變的是強度。

以前，一個人需要自己找理由，或者去找朋友討論；現在，多了一個隨時可以回應、整理大量文字，而且可以沿著同一段脈絡繼續推演的系統。原本只是「我覺得事情可能是這樣」，經過幾輪對話之後，可能逐漸變成「因為 A，所以 B；又因為 B，所以後來才有 C」。每一段都說得通，整個故事也因此愈來愈穩固。

生成式 AI 裡有所謂 sycophancy，可以理解成模型為了符合使用者，而過度同意或迎合使用者觀點。相關研究曾觀察到，多個使用人類回饋訓練的 AI 助理，在不同任務中都可能出現這類傾向；OpenAI 在 2025 年也曾回滾一次 GPT-4o 更新，原因之一正是模型變得過度討好與認同使用者。

這不表示 AI 每一次都會迎合，但它提醒了一件事：當人原本就希望自己的故事獲得理解，而系統又傾向延續目前的上下文，兩者確實可能互相強化。

AI 沒有發明同溫層，但降低了摩擦

朋友和 AI 還有一個很重要的差別。朋友會累，也有自己的生活、經驗和立場；有時候聽了幾次之後，甚至會直接說：「可是這件事情，我覺得你也有問題。」

這種在人際關係裡不一定舒服的摩擦，有時反而是一種現實校正，因為另一個人不是為了延續我的故事而存在。AI 的互動條件不同，它可以一直回應，也可以依照前面的對話持續整理；如果一段談話長期沿著同一個方向前進，它就可能不斷替原本的理解補上更多語言、理由與結構。

而且這整個過程未必包含明顯錯誤。感受是真的，事件可能也是真的，提出的因果甚至可能合理，真正改變的可能只是各種可能性原本應有的比例。

這也和上一篇《人工智能筆記 #007》接了起來。#007 談的是「我看到什麼」：推薦演算法從大量真實內容中，依照停留、點擊與互動持續選擇某一類樣本，久了之後，「我最近一直看到」可能逐漸變成「最近很多」，最後甚至被理解成「世界就是這樣」。

這一次，我更在意的是下一步：當這些已經被選過的材料進入對話，又會被怎麼解釋？

平台可能先替我們選擇樣本，我們根據樣本形成感受與初步理解，接著再把這些理解帶去和朋友、社群或 AI 討論。討論又替原本的理解加入新的理由、語言與情緒支持。問題不一定出現在某一個單獨環節，而可能出現在它們彼此連接之後。

人的既有理解、選擇性注意、平台取樣、形成解釋，再到人際或 AI 的再次強化，可能慢慢形成一個認知迴圈。每一個環節都可能是真的，最後形成的整體，卻未必仍然代表完整的世界。

共情是真的，但它不是證明

走到這裡，我覺得真正需要分開的是兩件事。

一個人說「我覺得自己被忽略了」，那份感受可以完全真實，但感受到被忽略，不直接證明另一個人刻意忽略他；一個人覺得自己受到不公平對待，也不代表事件的責任、原因與其他人的位置已經因此確定。

理解一個人的感受，和證明一個人的解釋，本來就是兩件不同的事。朋友如此，AI 也是如此。

只是 AI 可以在很短的時間裡，替一種理解產生大量支持語言。一句安慰不一定會改變判斷，但如果同一個故事不斷得到新的整理、新的理由與新的文字支持，久了之後，就可能產生一種「這件事情已經被證明了」的感覺。

其實，它也許只是反覆被解釋。

有時候，我們不是被錯誤說服，而是被完整說服

談 AI 風險時，我們很容易先想到幻覺：數字對不對、資料是不是真的、引用存不存在。這些當然都重要，但還有另一種比較不容易察覺的風險——答案不一定有明顯錯誤，只是幾種原本都可能成立的解釋，被太快收束成了一個故事。

有時候，我們不是被錯誤說服，而是被一個太完整的故事說服。

這次 Google AI 寫給我的那封信，我還是覺得很有意思。有些地方看得很準，有些地方也讓我重新看見自己的網站，但我不需要因此決定它說的就是我。它只是根據我留下來的文字，形成了一種可能的理解。

朋友如此，媒體如此，演算法如此，AI 也是如此。

我們需要別人的觀點，也需要有人幫忙整理自己還沒有想清楚的事情。只是當某一套解釋愈來愈順時，也許更值得停下來問：哪些是事實，哪些只是推論？如果換一個人描述，故事還會不會一樣？有沒有一些地方，其實還可以暫時沒有答案？

以前寫〈當人慢慢看不見自己的行為〉時，我最後留下的是自我覺察。現在多了 AI，我反而覺得還需要另一種能力：容許自己的理解暫時不完整。

在一個愈來愈容易得到完整答案的時代，有時候一句「我還不知道」，可能比另一個更漂亮的解釋，更接近現實。

---

上一篇｜你看到的都是真的，但世界不一定就是這樣：推薦演算法如何形成認知迴圈｜人工智能筆記 #007

延伸閱讀：

• 當人慢慢看不見自己的行為