Scaling Laws 論文的十位作者後來分裂成兩個陣營:一邊跟著 Dario Amodei 創辦 Anthropic,帶走了對規模的理解和對安全的執著;另一邊留在 OpenAI 繼續推動商業化。第 …
2020 年 1 月,OpenAI 的 Jared Kaplan 等人發表了 Scaling Laws 論文,用冪律方程式證明語言模型的表現與參數量、資料量、計算量之間存在可預測的數學關係。這篇沒有提 …