DeepMind CEO 的不眠之夜：站在 AGI 門檻上的人

本文整理自 Google DeepMind Podcast 2024 年 12 月播出的單集，由 Hannah Fry 主持，專訪 DeepMind 共同創辦人兼 CEO Demis Hassabis。

「我睡得很少。」

Demis Hassabis 在訪談中坦承這件事，語氣平淡，像是在說一個早已習慣的事實。不是因為工作太多——雖然工作確實多——而是因為睡不著。「這是一種非常複雜的情緒，」他說。

一方面，他正在做自己夢想了一輩子的事。另一方面，他比任何人都清楚這件事的重量。當主持人 Hannah Fry 問他「站在 AI 前沿是什麼感覺」時，他沒有給出勵志演說式的答案。他說：孤獨、興奮、焦慮，同時存在。

從西洋棋到 DeepMind：三十年的準備

Hassabis 四歲開始下西洋棋，十三歲成為當時世界上排名第二的同齡棋手。西洋棋教會他的不只是計算和策略，更是一種面對競爭的心態。「我為競爭而生，」他說，「這是我從棋盤上學到的。」

但西洋棋只是起點。青少年時期，他轉向電腦遊戲設計，參與創造了《乜乜公園》（Theme Park）這款經典模擬經營遊戲。然後是劍橋的電腦科學學位，然後是倫敦大學學院的神經科學博士。每一步看起來都在轉換跑道，但其實都指向同一個目標：理解智慧是什麼，以及如何打造它。

2010 年，他和 Shane Legg、Mustafa Suleyman 一起創辦 DeepMind。那時候，「人工智慧」還是一個會讓投資人皺眉的詞。矽谷的熱錢都在追逐社群網路和行動應用，沒有人認為 AI 是可行的商業方向。Hassabis 記得，早期募資時常常要解釋「AI 是什麼」「為什麼值得做」。

十五年後，AI 成了全球最熱門的話題。DeepMind 被 Google 以超過五億美元收購，成為 AI 研究的重鎮。AlphaGo、AlphaFold、Gemini——這些名字定義了過去十年的 AI 進展。Hassabis 說，這大致符合他當初的預期。「我為這一刻訓練了一輩子，」他說，「而且情況大致是我想像的樣子。」

這句話聽起來有點狂妄，但如果你追蹤他的軌跡，會發現他確實一直在為此準備。西洋棋培養了競爭直覺，遊戲設計讓他理解互動系統，神經科學給了他關於人類智慧的洞見。所有這些，都在三十年後匯集成打造 AGI 的能力。

AlphaGo 的苦樂參半

2016 年，AlphaGo 擊敗世界圍棋冠軍李世乭。這是 AI 史上的標誌性時刻，證明機器可以在最複雜的策略遊戲中超越人類。全世界都在慶祝（或者擔憂），但 Hassabis 的感受更複雜。

「苦樂參半，」他用這個詞來形容。

樂的部分很明顯：他們做到了。一個多數人認為還要幾十年才能解決的問題，被 DeepMind 在幾年內攻克了。這是技術成就，也是對 Hassabis 長期願景的驗證。

苦的部分比較微妙。圍棋對 Hassabis 來說不只是一個「問題」，而是一個美麗的謎團。千年來，人類在這個 19x19 的棋盤上探索無盡的可能性，發展出風格、流派、美學。當 AlphaGo 證明機器可以比任何人類都下得更好時，某種神秘感消失了。

「圍棋曾經是一個美麗的謎，」他說，「我們解開了它。」解謎的成就感和失去謎團的失落感，同時存在。

這種矛盾情緒在他後來的工作中反覆出現。當 AI 開始生成圖像、撰寫文字、創作音樂時，他會想：這對人類的創造力意味著什麼？他和電影導演朋友們聊過這個問題。對方的反應也是雙重的：一方面，AI 讓原型設計快了十倍；另一方面，某些創作技能是不是正在被取代？

Hassabis 對藝術和創造力有很深的尊重——他自己做過遊戲設計，知道創作是什麼感覺。所以當他打造的工具開始影響創作領域時，他的情緒不是純粹的興奮，而是帶著一絲愧疚和責任感。

圖靈機的極限：一生的追問

如果要用一個問題概括 Hassabis 的人生，那就是：「圖靈機的極限在哪裡？」

圖靈機是計算理論的基礎概念。簡單說，任何可以被明確步驟描述的問題，理論上都可以被圖靈機（也就是電腦）解決。但什麼東西是「不能」被這樣解決的？人類心智有沒有什麼部分是超越計算的？

這個問題從 Hassabis 年輕時讀到艾倫·圖靈的論文開始，就一直跟著他。他後來讀神經科學，是為了理解人腦怎麼運作；他創辦 DeepMind，是為了測試機器智慧的邊界；AlphaFold 折疊蛋白質，是在證明另一個被認為「太複雜」的問題其實是可計算的。

「到目前為止，沒有人發現宇宙中有任何東西是不可計算的，」他說。這是一個驚人的事實。物理定律、化學反應、生物過程，目前為止全都可以用計算來模擬。那麼人類心智呢？意識呢？

Roger Penrose 認為意識涉及量子效應，經典電腦永遠無法複製。Hassabis 對此持懷疑態度，但他沒有完全否定。他傾向於相信一切都是可計算的，但他也承認這是一個「正在進行中的實驗」。如果 AGI 能模擬人類心智的所有功能，但我們發現模擬和真實之間有某種無法彌補的差異，那可能就是圖靈機的極限所在。

他引用康德的哲學：現實是心智的建構。我們感受到的光、熱、觸感，最終都是資訊。如果這是真的，那麼資訊處理系統理論上可以重現一切。但「理論上」和「實際上」之間可能有鴻溝。這個鴻溝是什麼，是 Hassabis 想要在有生之年找到答案的問題。

競爭中的孤獨

當被問到和其他 AI 領袖的關係時，Hassabis 的回答很誠實。

「我們都認識，我和大部分人都處得來，」他說，「但他們彼此之間不一定都處得來。」

這是一個微妙的處境。AI 領域目前正處於「有史以來最激烈的商業競爭」。Hassabis 的投資人朋友告訴他，這比網路泡沫時期還要瘋狂十倍。每家公司都在搶人才、搶算力、搶發布速度。在這種環境下，維持同業之間的友誼並不容易。

但 Hassabis 也強調，他們都明白有更大的事情在發生。「公司的成功很重要，但還有更大的東西在這裡，」他說。AGI 的出現會影響全人類，不只是某一家公司的股價。這種認知讓競爭對手之間保持著某種奇怪的連帶感——他們是對手，但也是少數真正理解彼此處境的人。

他說自己「為競爭而生」，但他也在學習什麼時候需要合作。AI 安全、國際治理、社會影響——這些議題不是任何一家公司能單獨解決的。他花越來越多時間思考這些「技術以外」的問題，也花時間和其他領袖溝通協調。

孤獨感還是在的。能真正理解「站在 AGI 門檻上是什麼感覺」的人，全世界大概只有幾十個。而這幾十個人還彼此競爭。這種處境很難向外人解釋。

Agent 時代的焦慮

訪談中，Hassabis 對短期未來表達了具體的擔憂。

目前的 AI 系統他稱之為「被動系統」。你提出問題，它給你答案；你下達指令，它執行任務。能量和意圖來自人類，AI 只是回應。

但接下來兩三年，「Agent」（代理）系統會成熟。這類系統更自主：你給它一個目標，它自己規劃步驟、執行行動、根據結果調整。不是一問一答，而是持續運作。

「想像數百萬個 Agent 在網路上遊走，」Hassabis 說，「這是我擔心的事。」

這些 Agent 會非常有用——幫你訂機票、管理郵件、協調專案。但它們也更難控制。如果一個 Agent 的目標設定有誤，或者被惡意利用，後果比現在的 AI 更嚴重。DeepMind 正在研究「網路防禦」，準備應對這個新世界。

他預期兩到三年內，可靠的 Agent 系統會開始普及。這個時間框架太短了，短到讓他睡不著。不是因為他不相信自己的團隊能做好安全措施，而是因為他不確定整個生態系統——包括其他公司、其他國家、開源社群——是否都準備好了。

人生使命：然後休假

訪談的最後，Hannah Fry 問他：有沒有一天你會覺得工作完成了？

Hassabis 的回答很具體：「幫助世界安全地讓 AGI 跨過終點線。」

注意用詞。不是「我做出 AGI」，而是「幫助世界」；不是「做出 AGI」，而是「安全地跨過終點線」。這反映了他對自己角色的理解：他不是獨自打造 AGI 的天才，而是一個引導過程的人。這個過程需要很多人、很多組織、很多國家的參與。他的工作是確保這個過程不會出軌。

做完這件事之後呢？

「好好休個假，」他說，帶著自嘲的笑。然後補充：「我會把時間花在科學上。」

對 Hassabis 來說，休假大概不是躺在沙灘上什麼都不做。他提到自己「用僅有的空閒時間」在思考物理學問題——資訊是不是宇宙的基本單位？他對科學的好奇心從未消退，只是被 CEO 的責任暫時壓抑。

五到十年。這是他給出的 AGI 時間線，也是他給自己的時間表。如果一切順利，他可能會在六十歲左右完成人生使命，然後開始另一段旅程。

但在那之前，還有很多個睡不著的夜晚要度過。

本文為 Demis Hassabis 訪談系列的第三篇。前兩篇分別探討了 AGI 的技術路線圖，以及 AI 對社會經濟的衝擊。