昨天，我在 Threads 上看了幾篇關於親人離世、關係疏離與生離死別的文章。有些內容讓我停下來多看了一會，也勾起自己過去的一些經驗。
後來重新打開 Threads，首頁依然出現大量類似內容。第一個反應很自然：最近怎麼這麼多這樣的故事？但很快又冒出另一個問題：真的是最近特別多，還是因為我剛才的閱讀與停留，讓社群媒體的推薦演算法開始把更多同類內容送到眼前？
那些文章可能都是真的，那些人的失去與情緒也是真的，我產生的共鳴當然也是真的。問題並不在真假，而在於另一件比較不容易被察覺的事情：
我一直看到的這批「真實」，究竟是不是世界原本的比例？
這讓我第一次很具體地感受到，推薦演算法真正影響人的地方，未必是把假的事情變成真的，而是從龐大的真實世界裡，不斷挑選某一種真實給我們看。
久了以後，「我一直看到」很容易變成「最近很多」，最後甚至被理解成「世界就是這樣」。
事實沒有被造假，世界的比例卻可能已經被重新排列。
在理解世界以前，樣本可能已經被選過一次
過去談媒體識讀，我們習慣先問內容是真是假、來源是否可靠、數據有沒有問題。這些問題仍然重要，但推薦演算法出現之後，似乎還需要再往前問一步：
為什麼偏偏是這件事情來到我面前？
以前我會把理解一件事情想成幾個步驟：先發生事情，再由我理解，最後賦予意義。現在才發現，平台時代其實多了一個更前面的環節。
世界每天同時發生大量事情，平台不可能全部呈現給每一個人，因此必須先排序、篩選，再根據我們過去的行為判斷什麼內容最可能吸引注意。
也就是說，在我們開始思考之前，看到的樣本可能已經先被選過一次。
個人化本身當然有價值。我喜歡日本旅行，平台多推薦一些鐵道與地方旅遊；最近研究退休，它多出現一些相關內容，都能降低搜尋成本。
真正複雜的地方在於，平台很難知道一次停留究竟代表長期興趣，還是只是一個短暫情緒。
如果我因為某段回憶，在一篇親人離世的文章多停留一分鐘，系統讀到的不是「這個人今天剛好想起了一些事情」，而是「這類內容讓他停留」。相似內容因此再次出現，我又多看了一篇，系統便得到更多相同訊號。
於是，一次共鳴可能逐漸被當成偏好，一個短暫狀態也可能慢慢變成平台眼中的「你」。
個人化、共情與偏見之間的界線
這也是我開始覺得，「共情」與「偏見」之間的界線沒有想像中那麼清楚。
推薦系統本身並不需要帶著某種立場。它只是根據行為，持續提供更可能引起反應的內容。從產品設計來看，這叫個人化；對使用者而言，也可能產生一種「它很懂我」的感覺。
但同一套機制如果持續往一個方向運作，也可能把既有反應放大。系統越了解我會對什麼停留，就越容易繼續提供相同類型的東西；而我看得越多，又越可能產生相同反應。
所以問題未必只是「演算法有沒有偏見」，更可能是：
個人化、被理解的感覺，以及偏差的累積，本來就可能是同一套機制在不同程度下的結果。
這也讓平台的問題從過去常談的隱私，又往前推了一步。
以前我們擔心的是平台知道了我什麼。現在可能還需要問：
平台知道我以後，開始替我選擇什麼？
前者是資料蒐集，後者則更接近對現實的編排。
一個平台不需要提供任何假新聞，也可能讓人的世界觀慢慢失去比例。因為真實的樣本，並不等於具有代表性的樣本。
生成式 AI，讓認知迴圈又多了一層
推薦平台主要參與的是「我看到什麼」，生成式 AI 則開始進入「我怎麼理解已經看到的東西」。
假設我在 Threads 上連續看到大量關於孤獨、離別與家庭疏離的文章，逐漸形成一個感覺：現在是不是很多人都變得很孤獨？
接著我把這個問題帶進 AI：
「為什麼現在這麼多人都很孤獨？」
如果沒有先檢查這個問題本身，裡面其實已經藏了一個前提：現在真的特別多人孤獨。
AI 當然可以幫忙整理。它可以從人口結構、都市生活、家庭型態、社群媒體、人際互動與心理需求等角度，提出一套結構完整、甚至相當有說服力的分析。
這些分析未必錯。
真正需要注意的是，最前面的樣本可能從來沒有被確認過。
於是，一個原本只是「我最近一直看到」的感覺，經過平台的選擇與 AI 的整理之後，很容易慢慢變成一套完整的「世界現在就是這樣」。
這和我之前在《模型不是世界》裡整理的問題其實相連：AI 可以根據我們提供的資料與敘事形成一個很有用的模型，但模型不是現實本身；被理解，也不代表自己的判斷已經被證明。人工智能筆記
現在多出來的一層是：在我們把世界交給 AI 以前，平台可能已經替我們先選過一次材料。
最後就可能形成一個很安靜的循環：平台根據注意力選擇內容，我根據這些內容形成理解，AI 再幫我把理解整理得更完整；當我回到平台，又更容易注意到符合原有理解的內容，系統於是取得更多相同訊號。
最難察覺的地方在於，整個過程可能沒有任何明顯的「錯」。
內容是真的，感受是真的，AI 的分析也可能很有邏輯，真正慢慢偏移的只是我們所看到的比例，以及最後形成的理解。
從辨認真假，到察覺自己的迴圈
所以我開始覺得，演算法與 AI 時代需要的媒體識讀，可能不能只停在「這是真的嗎」。
還需要再多問幾個問題：為什麼我最近一直看到這一類內容？我現在看到的是整體現象，還是平台選出來的一組樣本？如果沒有連續看到這些內容，我還會得到同樣的結論嗎？
這不是要懷疑所有推薦，也不是看到什麼都先認為自己正在被操弄。推薦與個人化確實讓資訊取得方便很多，我自己經營部落格，也希望搜尋引擎和推薦系統能把文章送到真正有興趣的人面前。
真正困難的問題不是要不要分眾，而是：
分眾是在幫助一個人找到內容，還是在不知不覺中替一個人決定世界長什麼樣子？
這條界線恐怕沒有辦法完全交給平台替我們畫。
最後還是回到自己能不能察覺。
當某一類內容越看越多、某一套解釋越來越完整時，能不能適時停一下，先不要急著把眼前的樣本推論成整個世界。也許可以換一種媒體、讀一本完全不同的書、和想法不同的人談話，甚至乾脆離開螢幕，到現實生活裡重新看看。
我很喜歡把這件事理解成：
重新取樣。
不是否定原本看到的故事，而是提醒自己：這只是其中一批樣本。
世界裡當然有人失去、有人孤獨、有人告別；但同一時間，也有人出生、有人吃飯、有人聊天，有很多家庭只是平凡地過完一天。
那些事情未必比較重要，只是比較不容易讓人停下來，因此也不一定會一直出現在我們的螢幕上。
結語：保留重新觀看世界的能力
演算法與 AI 讓內容更容易找到，也讓理解與分析變得更快速。問題並不是這些技術應不應該存在，而是當系統越來越懂得怎麼吸引我們、理解我們、回應我們之後，我們還有沒有能力注意到：眼前看到的，只是世界的一部分。
過去我們擔心的是人工智能會不會替人思考。
現在看來，另一個更日常的問題可能已經出現：演算法先替我們選擇材料，AI 再幫我們整理理解。
真正需要保留的，也許不是拒絕科技，而是在一切都顯得合理的時候，還能停下來問一句：
我是不是已經進入了自己的迴圈？
如果有這個可能，也不一定需要立刻找到另一個正確答案。
先停一下，重新取樣，再看一次。
能夠察覺、暫停，並保留重新觀看世界的空間，也許會成為 AI 時代很重要的一種認知自由。
上一篇｜AI 失控之外：被放大的不只是能力，而是人的選擇與責任｜人工智能筆記 #006
回到系列導讀｜人工智能筆記
延伸閱讀：
發表迴響