最近幾天，關於人工智能風險的討論突然變得密集。

有 AI 研究者離開前沿模型公司，公開警告更強大的人工智能可能帶來極端風險；AI 企業也開始更頻繁地談安全測試、外部監督，以及模型能力提升後可能出現的失控與濫用問題。另一方面，實際案例已經顯示，AI 在網路攻擊中不只是提供建議，而是逐漸能參與偵察、漏洞利用與資料取得等工作。

這些討論重新把一個很大的問題推到眼前：

AI 有一天會不會真的失控？

我不知道答案。

對於所謂文明級風險究竟有多大、什麼時候可能發生，研究者之間仍有很大的分歧。有人認為風險已經高到不能忽略，也有人認為許多極端情境仍建立在尚未證實的假設上。

但看著這些討論，我慢慢在意起另一個問題。

也許真正值得問的，不只是 AI 最後會變成什麼，而是：

人類在得到 AI 這種能力之後，會變成什麼樣子？

當答案愈來愈容易，能力是怎麼形成的？

人工智能最直接的改變，是讓很多事情的成本迅速下降。

搜尋資料、整理資訊、翻譯、寫作、程式設計、資料分析與規劃，很多原本需要幾個小時完成的工作，現在可能只需要幾分鐘。一些過去必須累積相當專業才能跨過的門檻，也正在快速降低。

這當然是一種進步。

真正讓我在意的，是當得到答案愈來愈容易之後，形成答案的能力會發生什麼變化？

以前為了完成一篇文章，我們可能要找資料、看不同說法、理解其中的矛盾，再慢慢形成自己的判斷。今天，AI 可以替我們完成其中很大一部分。

這並不代表使用 AI 一定會使人的能力退化。計算機出現之後，我們不再完成所有手算；搜尋引擎出現之後，也不需要把所有資訊記在腦中。人類一直都在把部分工作交給工具，再把時間與注意力移往其他地方。

所以真正值得問的，也許不是「AI 會不會讓人變笨」，而是：

哪些能力可以放心交給 AI，哪些能力一旦也一起交出去，我們最後連判斷 AI 是否正確的能力都會失去？

完成一件工作，是結果。

形成一個人的能力，卻是一個過程。

有些沒有效率的過程，本來就是學習

學習有一個很麻煩的地方：它經常沒有效率。

我們會找錯資料、理解錯，也可能花很長時間讀一件最後沒有用到的東西；有時先相信一個說法，過了一段時間，才發現事情原來沒有那麼簡單。

如果只從工作效率來看，這些過程似乎都應該被消除。但人的判斷力，很多時候正是在這些不太有效率的地方慢慢長出來。

我們因為犯錯，開始知道哪些條件不能忽略；因為遇到不同說法，才發現原本的理解只是其中一個角度；也可能真正採取行動之後，才知道一套在文字上很完整的推論，到了現實裡不一定成立。

所以我使用 AI 一段時間後，愈來愈在意一個區別：

把工作交給 AI，和把能力形成的過程交給 AI，是兩件不同的事。

AI 很適合幫我們更快走過已經熟悉的路，也可以協助整理大量資訊、提供不同觀點。

但提出問題、辨認假設、理解因果、查證來源與形成判斷，其中有些部分仍然需要自己走。

不是因為慢比較高尚。

而是因為如果沒有走過那一段路，我們可能最後只擁有答案，卻沒有判斷答案的能力。

AI 改變的，也包括一個人的行動槓桿

這個問題到了另一邊，又變得更複雜。

Anthropic 在 2026 年 9 月公布的威脅情報報告中指出，他們觀察到 AI 被使用在網路攻擊、監控、影響行動、詐騙與武器相關活動中。部分案例已經不只是向聊天機器人詢問問題，而是由多個 AI agent 參與偵察、漏洞利用與資料外洩；目前人類仍會負責選擇攻擊目標及檢視結果，但完成攻擊所需的技術與人力門檻正在下降。

這讓問題從「AI 有多聰明」，逐漸轉向另一件事：

當一個人的行動能力突然被科技放大，他最後會拿來做什麼？

同一套工具，可以讓一個人更快取得知識、更有效率工作，也更容易創造；它同樣可能降低欺騙、操縱、攻擊與犯罪的成本。

科技能夠不斷累積。晶片可以更快，模型可以更強，工具也可以愈來愈容易使用。

但人的善意、貪婪、恐懼、權力欲、節制與同理心，並不會因為運算能力增加，就自動跟著升級。

所以後來我覺得，「科技進步沒有同步保證道德進步」這句話還不夠精確。

更接近我現在理解的說法是：

科技進步的是能力，道德考驗的始終是選擇。

AI 改變的，是一個選擇最後可以造成多大的結果。

好的選擇可以走得更遠。

壞的選擇也是。

責任不能只停在最後使用工具的人

說到這裡，也不能因此把所有責任重新推回使用者。

因為今天的 AI 並不是一把完全中性的鐵鎚。它背後有訓練方式、產品設計、安全限制、功能開放順序，也有企業在速度、成本、競爭與安全之間做出的選擇。

什麼能力可以公開？安全測試做到什麼程度才可以推出？發現異常行為後要不要揭露？當發展速度與安全發生衝突時，哪一邊優先？

這些都不是 AI 自己決定的。

所以使用者當然必須為自己的行為負責，但設計、開發與部署這些能力的人，也參與了能力如何進入社會的過程。

最近 AI 產業內部出現一個很有意思的現象：一些企業領導者與研究者一方面公開警告更強 AI 的風險，另一方面又身處競爭激烈、資金龐大，而且持續要求更快推出新能力的產業裡。部分公司已開始提出放慢特定能力發展、引入獨立評估與增加外部監督等方案，但真正如何執行，仍存在很大的現實困難。

這裡真正值得觀察的，也許不是誰比較悲觀、誰比較樂觀。

而是：

如果你真的認為風險這麼大，這個判斷最後會改變你什麼行為？

安全測試會不會增加？還沒有充分把握的功能是否願意延後？企業比外界更早知道的重大風險，願不願意揭露？當損害真的發生，又願不願意承擔相應的責任？

提醒社會風險存在很重要。

但提醒本身，不應該成為責任的終點。

利益私有化，風險不能全部社會化

企業投入資本、人才與技術，承擔研發失敗的可能，因此在產品成功後取得報酬，本來就是市場運作的一部分。

問題在另一邊。

如果企業已經取得技術帶來的估值、收入、市占與競爭優勢，那麼由相同產品產生，而且在當時條件下已經可以合理預見與降低的風險，就不應該等到事情發生之後，再全部交回政府、消費者與社會承擔。

否則最後就可能形成一個很熟悉的結構：

利益私有化，風險社會化。

這並不表示所有 AI 造成的問題都應該由企業負責。

如果使用者刻意利用 AI 犯罪，使用者當然必須承擔責任；真正超出個別企業控制、具有跨國與系統性的風險，也需要政府、產業與社會共同治理。

真正需要建立的，不是一個「出了事情誰全部負責」的簡單答案，而是一套更清楚的責任判斷：

誰知道得比較早？

誰有能力控制？

誰決定部署？

誰取得主要利益？

最後又是誰承擔損害？

當這些問題被放在一起，AI safety 就不再只是技術問題。

它也是一個責任如何分配的問題。

個人和企業，其實正在面對同一件事

走到這裡，我才發現，文章前面談個人，後面談企業，看起來像兩個題目，其實底下是同一個問題。

對個人來說，AI 可以幫我們完成愈來愈多事情，但工具愈方便，愈需要知道哪些能力不能因為方便而停止形成。

對企業來說，AI 可以創造愈來愈大的價值，但取得愈大的能力、資訊與利益，也意味著不能把與這些能力相應的風險完全交給別人。

能力愈大，責任不應該因此變得更小。

這不只是 AI 的問題。

只是 AI 把它變得更清楚。

AI 最值得注意的，也許不只是失控

我不知道人工智能最後會發展到什麼程度，也不知道那些關於超級人工智能、人類滅絕與文明級風險的推演，最後有多少會成真。

這些問題需要研究，也需要持續被檢驗。

但另一件事情，其實不必等到未來。

它已經正在發生。

AI 讓我們更快取得答案、更容易完成工作，也讓一個普通人可以動用過去難以想像的知識與工具。

真正的考驗因此不只在機器。

它也重新回到人。

當工具愈來愈強，我們是不是仍然願意經歷那些必要但沒有效率的學習？

當行動能力變大，我們是不是仍然願意檢查自己的選擇？

當企業從技術取得更大的利益與權力，是否也願意承擔與它相稱的責任？

也許 AI 時代真正需要重新學習的，不只是怎麼使用一個更強大的工具。

而是當工具替我們完成愈來愈多事情之後，

如何不把學習、選擇與責任，也一起外包出去。

---

上一篇｜AI 的技術限制與使用注意事項：提示詞教學少說的八件事｜人工智能筆記＃005

回到系列導讀｜人工智能筆記