「我會按下那個按鈕」——AI 教父的父親心聲

本文整理自《The Diary Of A CEO with Steven Bartlett》2025 年 12 月 18 日播出的單集。 🎬 YouTube：連結 🎧 Spotify：連結 🎧 Apple Podcast：連結

「如果在你面前放一個按鈕，按下去 AI 的發展就會停止。你會按嗎？」

Yoshua Bengio 沒有猶豫：「如果是那種我們不理解、可能壓倒人類的 AI——比如不受控制的超級智慧——是的，我會按。因為我在乎我的孩子。」

這個回答來自一個花了四十年推動 AI 發展的人。他是深度學習的奠基者之一，與 Geoffrey Hinton、Yann LeCun 並稱「AI 三巨頭」，2018 年共同獲得圖靈獎。根據 Google Scholar 統計，他是全球被引用次數最多的科學家。

如果有人有資格對 AI 的未來發表意見，就是他。但更有意思的是，是什麼讓一個科學家願意公開說出可能得罪整個產業的話？

抱著孫子的那個下午

2023 年初的某個下午，Bengio 正在照顧他剛滿一歲的孫子。

「有些事情關於我們和很小的孩子之間的關係，超越了理性，」他回憶，「當我看著他，我意識到一件事：我不確定他 20 年後是否還能過正常的生活。是否還能生活在民主國家。」

這個念頭讓他無法繼續保持沉默。

在那之前，Bengio 其實讀過很多關於 AI 風險的論述。他有個學生對這個議題非常擔憂。但他總是「看向另一邊」。這是人之常情——誰會願意相信自己畢生的工作可能帶來災難性後果？「我想對自己的工作感覺良好，」他坦承，「我們都想對自己的工作感覺良好。」

但那天下午，另一種情感壓過了這種迴避。

「情感（emotion）這個詞的意思就是運動（motion），意思是讓你動起來，」他說，「如果只是理智上的認知，它來了又走了。但當你真正感受到對孩子的愛、對孫子的愛，當你意識到他們的未來可能因為你正在做的事而改變……你就無法繼續假裝沒事。」

拒絕 Google 和 Facebook

這不是 Bengio 第一次因為價值觀做出困難的選擇。

2012 年，深度學習開始爆發。那一年，他和 Hinton、LeCun 的研究終於被證明有效，整個世界開始注意到這項技術。科技巨頭紛紛出手挖角：Google 聘請了 Hinton，Facebook 聘請了 LeCun。

Bengio 也收到了邀約。但當他思考「這些公司為什麼要付這麼多錢給我」時，答案讓他不舒服：「他們可能想用 AI 來改善廣告業務。個人化廣告——那聽起來像是操控。」

那是他第一次開始思考 AI 的社會影響。他決定留在學術界、留在加拿大，專注於建立一個更負責任的 AI 生態系。他主導了《蒙特婁 AI 負責任發展宣言》（Montreal Declaration for the Responsible Development of AI），試圖在商業狂潮中保留一塊思考的空間。

「我本來可以去那些公司，賺更多的錢，」他說，「但我想為一個我覺得對的使命工作。而且這也讓我有自由——當 ChatGPT 出來、我需要公開談論風險時，我可以這樣做。如果我在一家公司，我可能沒有這個自由。」

同事的反彈

自由是一回事，代價是另一回事。

當 Bengio 開始公開談論 AI 風險，他收到了來自同事的反彈。「各種評論，」他說，「很多人擔心負面談論 AI 會傷害這個領域——會減少資金、會影響學生招募。」

事實上什麼都沒發生。AI 領域的資金從未這麼多，投入的研究人員也從未這麼多。但 Bengio 理解這些反彈的來源：「因為我之前也是那樣感覺的。當有人說『你在做的事可能很糟糕』，你不會喜歡。」

這種認知失調在科學界並不罕見，在任何領域都不罕見。當你投入大量時間和精力在某件事上，你會想相信這件事是好的。承認自己可能在製造問題，需要一種特殊的誠實——對自己的誠實。

「但我很固執，」Bengio 說，「就像 2000 年代，當整個學界都說『神經網路已經結束了』的時候，我堅持繼續做。現在我看到問題了，我也堅持說出來。」

給四歲孫子的職涯建議

訪談接近尾聲，主持人問了一個有趣的問題：你的孫子現在四歲。當他長大問你「我應該做什麼工作」的時候，你會怎麼回答？

Bengio 的答案沒有提到任何職業：

「專注於成為一個美好的人。我認為這一部分會持續存在，即使機器可以做大部分的工作。那些愛與被愛的能力、承擔責任的能力、為彼此和集體福祉做出貢獻的感覺……這些會留下來。」

他接著說：「我比以往更深切地感受到對人類整體的情感，因為我意識到我們在同一艘船上，我們可能會一起輸。但正是這種『人的東西』——如果我在醫院，我會想要一個真人握著我的手，即使機器可以做其他所有事。人的觸碰會變得越來越有價值，當其他技能越來越自動化的時候。」

這個回答很有意思。一個花了四十年開發人工智慧的人，在思考未來時，最看重的是那些最難被機器複製的東西：連結、關係、情感。

最後一通電話

節目有一個傳統：請上一位來賓留下一個問題給下一位。Bengio 拿到的問題是：如果你可以和你最愛的人打最後一通電話，你會說什麼？

「我會說我愛他們。我珍惜他們在我心中的位置。我鼓勵他們培養這些人類的情感，讓他們能夠向整個人類的美開放，並且做出自己的那份貢獻——那真的感覺很好。」

他停頓了一下，然後加上一句：「做出自己的貢獻（do their share），把這個世界推向一個好的方向。」

這可能是整場訪談最私密的時刻。一位七十多歲的科學家，談論的不是研究、不是技術、不是政策。而是愛。是責任。是作為人類的意義。

他創辦的 Law Zero 正在試圖從技術上解決 AI 安全問題。他花大量時間與各國政府溝通、寫報告、發表演講。但在這一切的核心，驅動他的不是對科學問題的好奇心，而是一個父親、一個祖父對後代的擔憂。

「我經常被問到對 AI 的未來是樂觀還是悲觀，」Bengio 說，「我的回答是：這其實不重要。重要的是我能做什麼、我們每個人能做什麼，來降低風險。我們不會單獨解決問題。但每個人都可以做一點事，把指針推向更好的世界。」

對一個自稱內向的人來說，這需要很大的勇氣——走到公眾面前，說出可能不受歡迎的話，承受同事的質疑。是什麼讓他能夠做到？

或許就是 2023 年那個下午，抱著孫子時的那個念頭：這不是關於我。這是關於他們。