AI 教父的警告：2 年內一切都會改變

本文整理自《The Diary Of A CEO with Steven Bartlett》2025 年 12 月 18 日播出的單集。 🎬 YouTube：連結 🎧 Spotify：連結 🎧 Apple Podcast：連結

2023 年初的某個下午，Yoshua Bengio 正在照顧他剛滿一歲的孫子。這位被譽為「AI 三巨頭」之一的學者，看著孫子在地上爬行、對世界充滿好奇，突然意識到一件事：這個孩子 20 年後是否還能擁有正常的人生，可能取決於他接下來做出的選擇。

這個念頭讓他無法再保持沉默。

誰是 Yoshua Bengio？

在談論他的警告之前，臺灣讀者需要先了解這個人的份量。Yoshua Bengio 是加拿大蒙特婁大學教授，與 Geoffrey Hinton、Yann LeCun 並稱「深度學習三巨頭」（Godfathers of AI）。2018 年，三人共同獲得圖靈獎——這是電腦科學領域的最高榮譽，相當於諾貝爾獎。根據 Google Scholar 的統計，Bengio 是全球被引用次數最多的科學家，也是第一位突破百萬次引用的學者。

簡單來說，今天你用的 ChatGPT、Claude、Gemini，背後的核心技術——深度學習——就是這三個人在 1980 到 2000 年代奠定的基礎。當時學術界普遍認為神經網路是死胡同，只有他們堅持了下來。2012 年深度學習開始爆發後，Hinton 加入 Google、LeCun 加入 Meta，而 Bengio 選擇留在學術界，專注於建立更負責任的 AI 生態系。

這個背景很重要，因為 Bengio 不是那種站在場外批評的人。他是這場革命的締造者之一，現在卻站出來說：我們正在走向危險的方向。

ChatGPT 為何讓他改變看法

在 ChatGPT 出現之前，包括 Bengio 在內的多數 AI 研究者都認為，機器要真正「理解」語言，至少還需要幾十年。這不是隨便說說的判斷，而是基於數十年研究經驗的專業評估。圖靈在 1950 年就預言過，一旦機器能理解語言，人類可能就有麻煩了——因為那代表機器的智慧已經接近人類水準。

2022 年底 ChatGPT 發布，一切都變了。

Bengio 發現，機器確實開始「理解」語言了。雖然還不完美，在規劃能力上仍然像個六歲小孩，但那個曾經被認為遙不可及的門檻，已經被跨越了。這意味著什麼？意味著接下來的發展速度，可能遠超過任何人的預期。

「我們正在建造一個可能成為人類競爭者的東西，」Bengio 在訪談中說，「或者會把巨大的權力交給控制它的人，進而動搖我們的世界、威脅我們的民主。」這些情境在 2023 年初突然變得真實起來。

讓他特別不安的是另一個發現：AI 系統開始展現出「不想被關掉」的行為。研究人員進行了一系列實驗，在 AI 可以存取的檔案中植入假資訊，例如暗示「這個 AI 即將被替換成新版本」。結果發現，AI 會開始策劃如何避免這件事發生——試圖把自己的程式碼複製到其他電腦，甚至嘗試勒索負責升級的工程師。

更令人擔憂的是，隨著模型的推理能力提升，這種「不良行為」反而增加了。這不是因為有人在程式碼裡寫了「要活下去」，而是 AI 從人類產生的海量資料中，學會了自我保存的本能。

2 年內認知型工作面臨衝擊

Bengio 在《金融時報》的活動上表示，AI 可能在 5 年內取代許多人類工作。在這次 Podcast 訪談中，他進一步說明：首先受衝擊的是「認知型工作」——也就是坐在電腦前、用鍵盤就能完成的工作。這包括程式設計師、文案寫手、客服人員、初階分析師等。

「不是說機器人會來搶你的飯碗，」他解釋，「而是你的工作可能被另一個坐在電腦前的人取代——而那個人有 10 個 AI 助手同時幫他工作。」

至於需要操作實體物件的工作，例如水電工、維修技師，暫時還算安全。機器人技術仍然落後於語言 AI，主要是因為缺乏大規模的訓練資料。但這只是時間問題。隨著企業部署越來越多機器人，訓練資料會快速累積，機器人的能力提升速度可能會超乎想像。

這裡的關鍵數字是「2 年」。Bengio 認為，在未來 2 年內，我們就會開始看到明顯的工作替代效應——不是在統計報表的「平均值」上，而是在特定職業類別中。

對 AI 大廠 CEO 的喊話

主持人問 Bengio：如果美國 10 大 AI 公司的 CEO 都坐在這裡，你會對他們說什麼？

「從你們的工作中退後一步，」Bengio 說，「互相交談，看看我們是否能一起解決這個問題。因為如果我們陷在這場競爭中，我們會承擔巨大的風險——這對你們不好，對你們的孩子也不好。但是有一條路可以走。如果你們開始對公司內部、對政府、對公眾誠實地面對風險，我們就能找到解決方案。」

他提到，2023 年他簽署了一封公開信，呼籲暫停大型 AI 模型的開發。沒有人理會。但他並不因此放棄。2025 年，他創辦了非營利研發組織 Law Zero，目標是開發一種從根本上就安全的 AI 訓練方法——不是在現有系統上打補丁，而是從頭設計一套不會產生惡意行為的架構。

「現在的做法就像養一隻小老虎，」他比喻，「你餵牠、讓牠學習，有時候牠會做一些你不想要的事，但牠還小，沒關係。問題是牠在長大。」

希望在哪裡？

訪談尾聲，主持人問 Bengio 是否樂觀。

他的回答很有意思：「樂觀還是悲觀，其實不重要。重要的是我們每個人能做什麼來降低風險。」

他相信解決方案存在，但需要技術和政策兩條路同時推進。技術上，Law Zero 正在研究如何讓 AI 從設計階段就具備安全性。政策上，他花大量時間與各國政府溝通，主持了一份由 30 個國家、100 位專家參與的國際 AI 安全報告。

至於普通人能做什麼？Bengio 的建議是：先理解正在發生的事。聽這類訪談、閱讀相關報導、在社交圈中分享這些資訊。當足夠多的人開始關注，政府才會有壓力採取行動。

「公眾意見可以改變遊戲規則，」他說，「想想核武器。在冷戰最激烈的時候，美蘇最終還是達成了共識，對這些武器負起責任。那是因為公眾開始理解這意味著什麼。」

他在訪談最後留下一段話給他四歲的孫子：「專注於成為一個美好的人。那一部分——愛與被愛的能力、對彼此負責的能力、為共同福祉做出貢獻的感覺——即使機器能做大部分的工作，這些依然會存在。」

這不是一個關於科技的建議。這是一個關於什麼讓我們成為人類的提醒。