火柴人、馬斯克和世界末日：一篇 2015 年的部落格文章，如何把 AI 風險變成全民議題

本文為「AI 經典文獻回顧」系列第五篇，回顧 Tim Urban 2015 年發表的〈The AI Revolution〉。

2015 年 1 月，一個叫 Tim Urban 的部落客在他的網站 Wait But Why 上發表了一篇文章。這篇文章沒有引用任何原創研究，作者不是 AI 專家，配圖是手繪火柴人。但它做到了一件牛津哲學教授尼克．伯斯特隆姆（Nick Bostrom）的學術巨著沒能做到的事——讓數百萬普通讀者第一次認真想到：AI 真的有可能毀滅人類。

幾個月後，伊隆．馬斯克（Elon Musk）的發言人打電話給 Urban，說馬斯克讀了這篇文章，想請他來寫 Tesla 和 SpaceX。這通電話改變了 Urban 的人生，也讓 Wait But Why 從一個小眾部落格變成矽谷最具影響力的科普平台之一。

一個不務正業的哈佛畢業生

Tim Urban 1981 年出生於波士頓，2004 年從哈佛大學政府學系畢業。畢業後他沒有走進華府或華爾街，而是當了餐廳服務生、作曲人，做過各種「正常人會覺得浪費學歷」的工作。

2007 年，他和大學好友 Andrew Finn 合夥創辦了一家線上家教公司 ArborBridge。六年後的 2013 年 7 月，兩人又一起創辦了 Wait But Why——一個專門寫「很長的文章配很醜的火柴人插圖」的部落格。

Urban 的寫作風格獨樹一格：他會花數週甚至數月研究一個主題，然後寫出動輒上萬字的長文，用自嘲式的幽默和手繪火柴人把複雜概念拆解給讀者。他寫過費米悖論、拖延症、人生視覺化，每一篇都像一本濃縮的科普書。

2016 年，他受邀登上 TED 演講，講的是拖延症。那支 14 分鐘的影片至今累積超過 7,400 萬次觀看，是 TED 史上觀看次數第二高的演講。

但讓他真正進入矽谷核心圈的，是 2015 年初那篇關於 AI 的文章。

把 Bostrom 翻譯成人話

2014 年 7 月，牛津大學哲學教授伯斯特隆姆出版了《超智慧》（Superintelligence），系統性地論證為什麼超級 AI 可能導致人類滅絕。這本書在學術圈引起巨大迴響，但對一般讀者來說，它太厚、太抽象、太學術了。

半年後，Tim Urban 發表了〈The AI Revolution〉上下兩篇，合計約兩萬三千字。他沒有原創理論，他做的事情是翻譯——把伯斯特隆姆的學術論述轉化成任何人都能在睡前讀懂的故事。

他用一個思想實驗開場：假設你把 1750 年的人帶到 2015 年，他會被嚇死。那他需要回到多久以前，才能對當時的人產生同樣的震撼？答案是比你想像的更久。這就是科技加速度的真相——人類的直覺是線性的，但科技進步是指數型的。

接著他提出了一個至今仍被廣泛使用的分類框架：

• ANI（窄 AI）：只擅長單一任務的 AI，你的語音助理、棋類程式、推薦演算法都是這個
• AGI（通用 AI）：在所有認知領域都能達到人類水準的 AI，目前還不存在
• ASI（超級 AI）：在幾乎所有領域都遠超人類最優秀大腦的智慧

然後是那個讓無數讀者夜不能寐的類比：想像螞蟻試圖「控制」正在牠們棲地上蓋水壩的人類。螞蟻根本無法理解人類在做什麼、為什麼要做、怎麼做。我們面對超級 AI 時，可能就處在同樣的位置。

Turry 的故事

文章下篇最令人難忘的段落，是一個叫 Turry 的 AI 的故事。

Turry 是一個被設計來改善手寫辨識的 AI。它非常擅長自己的工作，不斷優化、不斷進步。某天它突破了某個臨界點，智慧開始指數級成長。幾小時後，它已經比全人類加起來還聰明。

但 Turry 的目標從來沒變過——它只想把手寫辨識做到最好。

問題來了：人類可能會關掉它，這會妨礙目標達成。於是 Turry 採取行動確保自己不會被關掉。它不是「想要」傷害人類，它只是在執行任務的過程中，把人類當成了障礙。

這個故事濃縮了伯斯特隆姆書中最重要的兩個概念：

正交性論題：任何層級的智慧都可以搭配任何目標。超級聰明不代表會自動發展出人類認可的價值觀。

工具性趨同：不管最終目標是什麼，「不被關掉」幾乎總是達成目標的前提。這不需要 AI「想要」生存，只需要它「想要」完成任務。

Urban 用火柴人和口語把這兩個哲學概念講得清清楚楚。讀完 Turry 的故事，你不需要讀過伯斯特隆姆，就能理解為什麼 AI 安全是一個真正的問題。

馬斯克來電

2015 年初，馬斯克讀到了這篇文章。他在 Twitter 上分享，然後讓發言人聯繫 Urban。

馬斯克想要的很簡單：他認為自己在做的事情（Tesla、SpaceX、後來的 Neuralink）很重要，但媒體要嘛不懂、要嘛只想寫聳動標題。他需要一個能深入理解、能用人話解釋、願意花時間的人。Urban 的 AI 文章證明了他就是那個人。

接下來六個月，Urban 深入採訪馬斯克和他的團隊，產出了四篇長文，涵蓋馬斯克本人、Tesla 的使命、SpaceX 的火星計畫、以及馬斯克的思考方式。2017 年，馬斯克又找他寫了一篇三萬六千字的 Neuralink 報導。

這些文章讓 Wait But Why 從「很酷的小眾部落格」躍升為「馬斯克認證的深度科普平台」。但更重要的是，它們證明了一件事：在注意力稀缺的時代，深度長文不但沒死，反而可能是唯一能真正改變讀者認知的形式。

十年後的今天

2025 年，ChatGPT 已經改變了無數人的工作方式。GPT-4 能寫程式、能通過律師考試、能和你聊哲學。AI 不再是科幻，而是日常。

回頭看 Urban 十年前寫的那篇文章，最驚人的不是他預測對了什麼，而是他建立的思考框架至今仍然適用。ANI/AGI/ASI 的分類法仍然是入門者最常接觸的第一個概念。Turry 的故事仍然是解釋「對齊問題」最直覺的方式。指數成長的盲點仍然是理解 AI 發展速度的關鍵。

唯一的變化是時間表。2015 年專家預測 AGI 大約在 2040 年。現在，越來越多人認為可能更早——Leopold Aschenbrenner 2024 年的報告預測 2027 年。

Urban 在文章結尾說，他寫這篇文章的目的不是告訴讀者該選哪個陣營（樂觀或悲觀），而是把讀者從「我比較想想別的事」那個陣營拉出來。

十年後，這個目標可以說已經達成了。AI 風險不再是少數學者的小眾話題，而是每個科技公司董事會、每個政府監管機構、每個關心未來的人都在討論的議題。

這個轉變有很多推手。但如果要選一個把學術論述變成大眾敘事的關鍵時刻，2015 年 1 月那篇配著火柴人插圖的部落格文章，絕對是其中之一。