孔祥重院士：AI 時代最稀缺的不是算力，而是會做系統設計的人
哈佛大學講座教授、台灣人工智慧學校校長孔祥重院士，在中研院蔡元培院長講座分享 AI 時代的機會與挑戰。他指出 AI 越用越笨是真實現象，而系統設計與問題拆解能力，將是人類最後的競爭優勢。
本文整理自中央研究院 115 年知識饗宴「蔡元培院長科普講座」，講者為哈佛大學 Bill Gates 講座教授、台灣人工智慧學校校長孔祥重院士。
Good News 與 Bad News
孔祥重院士開場就點出 AI 時代的雙面性：
好消息是自然語言成為操作 AI 的介面，門檻前所未有地低。「什麼人都可以用，就表示這個世界會變。」科學研究、工程開發、商業模式，到處都是新機會。
壞消息是問題一堆：
- 國家層面：AI 自主權、算力資源、永續發展
- 社會層面：數位落差加劇、工作被取代、教育該教什麼
- 個人層面：職涯該怎麼規劃、如何在這時代有所貢獻
AI 越用越笨，是真的
「學生必須用 AI 才能 stay competitive，但用越多可能就越笨。」
孔祥重直言，已有研究證實：長期依賴 AI 會削弱人的思考能力。醫生用 AI 看醫學影像三年後，判讀能力明顯下降。年輕人不會做 critical thinking，這是現在的大問題。
這不是要人們不用 AI，而是要意識到：不訓練腦袋，以前學的東西都會掉。
系統設計與問題拆解：AI 無法取代的能力
當 AI 越來越厲害，人該學什麼？
孔祥重指出兩種 AI 無法取代的人：
- System Design：決定要做什麼系統、怎麼設計系統的人
- Problem Formulation：能把大問題拆成小問題，讓 AI 處理每個小問題，最後組合成答案的人
「十年前我們說讀 computer science 很好，薪水高、大家搶。現在讀得不好就慘了，找不到事。」因為入門級工作 AI 就能做，高科技公司不太願意請純寫程式的 CS 學生了。
問題是：這些能力要去哪裡學？
以前是進大公司，待個十五、二十年，看過很多系統，自然就會了。現在大公司不請入門級的人，你想學的東西，反而沒有地方學了。
Reasoning：讓小模型做到大模型的準確度
孔祥重花了一段時間解釋 AI 的技術原理，從 embedding、向量空間、到 token 運算。但最讓他興奮的是近期的 Reasoning Model。
諾貝爾獎得主 Daniel Kahneman 區分人的思考為兩種：直覺反應與深度思考。AI 也是一樣——
以前的 AI 是直覺式的，看到問題直接給答案。現在的 Reasoning Model（如 OpenAI 的 O1）會先「想一想」，把問題拆解成小步驟，再逐步推導。
「一張圖大家就怕了」——小模型透過 reasoning，可以做得比大模型還準。
例如 27 × 14，AI 不需要背所有乘法表，只要會把 27 拆成 20 + 7，分別乘以 14 再相加。這就是 reasoning 的威力。
Inference 比 Training 更貴
業界原本以為訓練模型最貴，但孔祥重指出：真正貴的是推論（inference）。
一個模型訓練一次花幾千萬美金，但千千萬萬人每天在用。用的人越多、用的次數越多，推論成本就越高。「百分之九十可能是在做 inference 的錢。」
這也是為什麼 NVIDIA 花 200 億美金買下 Groq——因為 NVIDIA 的 GPU 做 training 很強，但做 inference 不夠快。Groq 的晶片把 memory 放在本地，答案「眼睛一眨就出來了」。
Inference hardware 是現在機會最大的領域。
開源是主流，但要小心依賴
孔祥重觀察到一個現象：工程師根本不管模型從哪來，只要好用、開源，就拿來用。「急得不像話，沒法等。」
為什麼開源會成為主流？
- 落後者：透過開源社群互相幫忙，進步比較快
- 領先者：closed model 不敢放在別人家，但 open model 可以。這樣才能擴大影響力、控制市場
但這也有風險：你會被人家控制。所以台灣一定要有自主的繁體中文大型語言模型。
孔祥重還提到一個實用觀點：好的 prompt 要存下來重複使用。「一個 prompt 最好用它一百次，不要每次都重新寫。」而要重複使用，用繁體中文寫比較順——這也是台灣需要自主 LLM 的理由之一。
中國人 vs 中國人的 AI 競爭
「有人開玩笑說，AI 的競爭就是中國人跟中國人競爭。差別只是有些在美國，有些在中國。」
看看最近重要 AI 論文的作者，last name 幾乎都是中文名字。孔祥重直言：中國的 AI 好朋友一定要有，人家有好東西就要跟人家學。
台灣的機會：做 Device、做製造
被問到台灣 AI 發展的機會在哪裡，孔祥重的回答很直接：
「台灣要做 device，要把現有的強項做得更強。」
一大堆 manufacturing、第三代、第四代半導體，都要越做越強。有根基再做比較容易，用 AI 把它做強比較容易。還好這些領域本來就很值錢，不會虧的。
人才是最後的關鍵
演講最後，孔祥重強調：Computing rules, but talent matters most.
有了算力，結果會更好。但最終還是要有人——會訓練模型、會 fine-tune、會改的人。
「要有洪荒之力，把這些人給訓練出來。」
他建議企業主動 hire 年輕人進來訓練，因為以後就是靠這些人做事。System design、problem formulation 這些能力很重要，但現在學習機會不多。公司、mentor、老板應該幫忙創造這些機會。
「有了人，其他事情好辦。」
我的觀察
孔祥重這場演講最有價值的地方，不是技術解說，而是他對「人」的定位。
當整個產業都在追逐更大的模型、更多的算力時，他提醒我們：AI 會讓人變笨、入門級工作會消失、學習機會會減少。這些不是危言聳聽，是正在發生的事。
他給的解方也很實在：學系統設計、學問題拆解、存好你的 prompt、找好朋友互相學習。
最後那句「有了人，其他事情好辦」，或許是整場演講最重要的一句話。