AI 安全與治理

陶哲軒的警告:AI 可能讓人類患上「認知肥胖症」

菲爾茲獎得主陶哲軒用「綠色革命導致肥胖症」類比 AI 對人類認知的潛在危害。當思考變得太容易外包,我們的大腦會像不運動的肌肉一樣萎縮。他也談到大學如何應對這個挑戰,以及學術經費不確定性帶來的連鎖效應。

來源: Futurology Podcast

本文整理自 Futurology Podcast 於 2026 年 1 月播出的訪談。


綠色革命的教訓

陶哲軒在訪談中提出了一個讓人不太舒服的類比。

二十世紀的「綠色革命」讓糧食產量大幅增加,食物變得便宜又充足,饑荒在西方國家成為歷史。但隨之而來的,是肥胖症、飲食失調,以及所有相關的健康問題。人類第一次需要「刻意」控制飲食、「刻意」去運動。在過去的幾百年,如果你是在農場工作的農民,你不需要去健身房,勞動本身就是運動。

但當食物變得太容易取得,問題就出現了。

陶哲軒說,AI 可能對「認知」做同樣的事。當思考變得太容易外包,當你可以把任何需要動腦的任務都丟給 AI 處理,會發生什麼事?

認知能力可能會萎縮

他的預測很直接:我們可能會出現「認知失調」的問題。

這不是說 AI 本身是壞的——就像綠色革命不是壞事一樣,我們不會想回到糧食短缺的年代。但解決一個問題的同時,會創造新的責任。

陶哲軒指出,其實在 AI 出現之前,就已經有一些成長環境太優渥的人,缺乏基本的問題解決能力。AI 會加劇這個趨勢。未來會有一群人,只有在 AI 能引導他們的情況下才能解決問題。一旦停電或系統當機,他們可能會陷入真正的麻煩。

就像我們現在需要刻意安排時間運動來維持身體健康,未來我們可能需要刻意安排「認知運動」來維持大腦的靈活度。這在過去是不需要的,因為生活本身就會逼你動腦。

大學的短期應對:實體考試回來了

面對這個挑戰,大學正在摸索應對方式。

陶哲軒提到,疫情期間很多考試都改成遠端進行。但因為 AI 的出現,他們「很遺憾地」正在恢復一些「有點過時」的做法——比如在教室裡進行期中考。

他認為這是短期的權宜之計,在我們想出更好的評量方式之前的過渡方案。

有些老師開始採用新的做法:要求學生使用 AI 時必須揭露,而且要附上他們的提示詞(prompts)。因為提示詞本身也能展現思考過程。有些老師則會出這種題目:「這是 ChatGPT 對這個問題的回答,它是錯的,請指出哪裡有問題。」

陶哲軒說,我們需要承認這些工具存在。下一代會在這些工具的陪伴下長大,重點是教他們區分「正確的使用方式」和「錯誤的使用方式」。就像面對食物一樣,你不能禁止食物,你只能鼓勵好的習慣、抑制壞的習慣。

更大的問題:學術經費的不確定性

訪談中還觸及了一個更棘手的現實問題。

陶哲軒任教於 UCLA,他描述了當前美國學術界面臨的經費困境。過去,經費的增減是可預期的——國會通過預算,下個財政年度某個部門的預算可能增加 5% 或減少 5%,但有時間準備,過程是穩定的。

現在不一樣了。他說最糟糕的不是經費被砍本身,而是「不確定性」。當政策可能隨時改變、經費可能明天就被凍結,大學就沒辦法做長期規劃。

他舉例:以前如果你有一筆三年的研究經費,你可以承諾聘用一個研究生三年。現在他們只能承諾「這個財政年度內」,因為沒人知道明年經費還在不在。這對學生的士氣打擊很大。

更嚴重的長期影響是:當外部風險已經這麼高,大學就不敢自己承擔任何風險。那些實驗性質的、可能失敗但也可能帶來突破的新計畫,就不會被啟動。大家把所有精力都用在「滅火」和「緊急募款」,沒有餘力去嘗試新東西——包括嘗試把 AI 融入教育的新方法。

這形成了一個諷刺的局面:在最需要大學站出來、為 AI 時代重新發明教育的時刻,大學卻被綁住手腳。

學術人才流向業界

另一個正在發生的趨勢是,越來越多數學家進入科技公司。

陶哲軒對此的看法比較正面。他認為這是「數學的時刻」——數學終於有機會對很多實際問題產生直接影響。AI 最大的問題是不可靠,它會產出表面上看起來很有說服力、但其實是錯的答案。而數學這個學科,花了幾百年在精進「如何檢驗一個東西是不是真的正確」。這正是 AI 公司需要的能力。

他也提到,考慮到學術界的經費正在遭受攻擊,讓年輕學者和學生有多元的職涯選擇,其實是好事。

陶哲軒自己已經在跟一些科技公司合作。他認為未來學術界和業界的界線會越來越模糊。那種「成功的學生留在學術界,不成功的才去業界」的老派觀念已經過時了。有不同人生經驗的人,能用不同的方式貢獻同一個專案。

我們對「智慧」的理解可能是錯的

訪談最後,主持人問陶哲軒:我們今天有什麼根本信念是錯的?

他的回答是:我們對「智慧」(intelligence)的定義。

AI 的歷史一直是這樣的:這是一個只有人類能做的任務——閱讀自然語言、下西洋棋、解數學題。然後某個人找到一個 AI 演算法也能做到這件事。現在 AI 能辨識人臉、能理解語音。但當你看它是怎麼做到的,你會覺得「這不像是智慧,這只是某種技巧,把一堆神經網路拼在一起、跑一些演算法」。

陶哲軒的反思是:也許真正的問題是,智慧本來就不是我們以為的那樣。

大型語言模型的運作方式,基本上就是「每個瞬間說出腦海中浮現的下一個詞」,像是意識流式的傾倒。你不會覺得這樣能成功,但它成功了。也許人類的很多行為也是這樣——我們以為自己在深思熟慮,其實只是在「反應」,靠直覺或自動導航在運作。

他說:「我現在給你的這個回答沒有事先排練過,我沒有深思熟慮,但光靠『活在當下、即時反應』就能說到這裡。有些事情確實需要仔細深入的思考,但很多看起來像是需要智慧的任務,其實幾乎是靠本能或自動導航就能完成的。」

這不是說人類不聰明,而是說「聰明」這件事,可能比我們想像的更機械、更可複製。


我的觀察

「認知肥胖症」是這個時代最貼切的警告

陶哲軒的「綠色革命→肥胖症」類比,是我聽過對 AI 風險最有力的說法。

它不是那種「AI 會取代人類」或「AI 會毀滅世界」的聳動敘事。它說的是一個更平凡、但也更可能發生的未來:AI 讓認知勞動變得太容易取得,於是我們的大腦開始萎縮。

就像現代人需要刻意去健身房、刻意控制飲食,未來我們可能需要刻意安排「不用 AI 的時間」來維持思考能力。這聽起來很荒謬,但想想我們現在多少人已經沒辦法在沒有 GPS 的情況下認路,就知道這不是杞人憂天。

問題是,誰會自願讓自己的生活變得更「不方便」?控制飲食和規律運動已經夠難了,要人們「少用 AI 來保持大腦靈活」,難度只會更高。

短期解法 vs 長期問題

大學恢復實體考試,是面對 AI 的權宜之計。陶哲軒自己也說這有點「過時」。

但真正的問題是:學生畢業後的工作環境,一定會有 AI。我們到底應該教他們「在沒有 AI 的情況下也能解決問題」,還是「正確地使用 AI 來解決問題」?

這兩個目標可能是衝突的。如果課堂上完全禁止 AI,學生學到的是「不用 AI 的能力」,但這個能力在職場上可能沒那麼重要。如果課堂上鼓勵使用 AI,學生可能從來沒有機會鍛鍊「不靠 AI 也能思考」的基礎能力。

陶哲軒提到有些老師讓學生揭露 prompts、或者讓學生批判 AI 的錯誤答案,這些都是有趣的嘗試。但我覺得這題還沒有標準答案。也許不同的領域、不同的技能,需要不同的平衡點。

唯一確定的是:假裝 AI 不存在,不是一個選項。