Scaling Laws
Scaling Laws 還沒撞牆，但遊戲規則正在改寫
Sebastian Raschka 與 Nathan Lambert 在 Lex Fridman Podcast 拆解 AI 三大 scaling 路線的最新進展。從 pre-training 的成本 …
當 Scaling 撞牆，這間新 AI 實驗室押注「資料效率」
Google Ventures 投資的新 AI 實驗室 Flapping Airplanes，不追逐更大的模型與更多的算力，而是回頭問一個根本問題：為什麼人類只需要百萬分之一的資料，就能達到類似的智能 …
AI 正在加速開發下一代 AI：Amodei 描述的回饋循環為什麼讓人不安
Anthropic 執行長 Dario Amodei 透露，AI 正在寫 Anthropic 大部分程式碼，並且正在大幅加速下一代 AI 的開發速度。這個回饋循環逐月加速。他引用十年的 Scaling …
2030 不歸點：AI 教父的末日時鐘
OpenAI 執行長 Sam Altman 說，我們可能已經越過了 AI 發展的「事件視界」。AI 教科書作者 Stuart Russell 解釋這句話的意思：就像黑洞一樣，一旦越過那條線，就再也回不 …
Anthropic 只花對手十分之一的錢，為什麼還能贏？
Anthropic 總裁 Daniela Amodei 接受 CNBC 專訪，揭露公司如何以競爭對手十分之一的資源，持續推出領先業界的 AI 模型。她認為 AI 產業的技術進步不會放緩，但商業落地速度 …
Neolab 爭議：沒有百億美元，AI 新創還能怎麼贏？
當 OpenAI 和 Anthropic 燒掉數百億美元訓練模型，規模較小的 AI 研究實驗室還有機會嗎？創投 Sarah Guo 分析 Neolab 這種新型態 AI 公司的生存邏輯：專注特定方向、 …
Scaling Law 的下一章：讓 AI 自己做實驗
Pre-training 的 Scaling Law 正在飽和，下一個突破在哪？Lila Sciences 技術長 Andy Beam 認為答案是讓 AI 自己做實驗。他們正在打造結合 GPU 叢集與 …
那年被誤診的男孩，現在要讓 AI 自己做實驗
Andy Beam 小學六年級時得了百日咳，小兒科醫師卻診斷為鼻竇炎。這次誤診讓他看見醫療的認知盲點，最終成為哈佛教授、醫療 AI 先驅。2024 年他離開學界，加入 Lila Sciences 擔任 …
Ilya Sutskever：我們正從 Scaling 時代，進入研究時代
OpenAI 共同創辦人 Ilya Sutskever 在離開後首次深度訪談中指出，AI 產業正經歷典範轉移：2020-2025 年的 Scaling 時代正在結束，我們回到了需要真正研究突破的階段。 …
Scaling Laws 沒死，但遊戲規則變了——Gemini 3 研究負責人的第一手觀察
針對「Scaling Laws 已死」的討論，Gemini 3 預訓練負責人 Sebastian Bourgeaud 提出不同觀點：規模擴張仍然有效且可預測，但架構創新和數據創新的影響可能更大。真正的 …
「我們走得比我預期的還要前面」——Gemini 3 預訓練負責人談 AI 真實進展
Google DeepMind 的 Gemini 3 預訓練負責人 Sebastian Bourgeaud 坦言，AI 的進展比他預期的更快。他認為真正衡量模型進步的指標不是 benchmark，而是 …
Reasoning 如何拯救 AI：一場你不知道的 18 個月危機
2024 年 Nvidia Blackwell 晶片延遲，導致 AI 算力升級陷入 18 個月空白期。如果不是 OpenAI 的 o1 等 Reasoning 模型及時出現，開創後訓練規模定律與推論時 …