Transformer
從穿戴裝置到病歷 token 化：AI 正在學會預測你的健康未來
2026 臨床 AI 報告揭示一個新趨勢：研究者開始把醫療紀錄當作語言來處理，用 Transformer 架構預測疾病軌跡、預警住院惡化、評估生物年齡。穿戴裝置數據加上常規血液檢查，已經能預測胰島素抗 …
當頂尖 AI 研究者開始讓 AI 幫他 debug
Google DeepMind 的 Yi Tay 坦言，他現在跑程式出錯時，連 bug 都不看就直接丟給 AI 修。這位曾經不太用 AI 工具的研究者，為什麼改變了？這對我們理解 AI 的未來有什麼啟 …
前 OpenAI 研究員：AGI 還缺兩塊拼圖，2026-2029 年可能達成
Jerry Tworek 主導了 OpenAI 的推理模型開發，親眼見證 Q-Star 第一次展現能力的時刻。他認為目前的模型離 AGI 還有距離，關鍵缺口是架構創新和持續學習。他也分享了對研究文化的 …
AI 教父與 Google 首席科學家首度同台：從臥室裡的 AlexNet 到 Gemini 的誕生
Geoffrey Hinton 與 Jeff Dean 在 NeurIPS 2024 的對談，揭露了現代 AI 發展史上許多不為人知的故事——AlexNet 在學生臥室裡訓練、64 歲的 Hinton …
「我發明了 Transformer，現在我要取代它」：Llion Jones 為何離開 Transformer 研究
Transformer 共同發明人 Llion Jones 宣布大幅減少 Transformer 研究，轉向探索性研究。他認為 AI 領域陷入「局部最小值」，現有架構雖然夠好，卻阻礙了真正的突破。
Scaling Law 只是現象描述：智谱 CEO 張鵬的 AGI 哲學與技術判斷
智谱 CEO 張鵬在上市前夕的深度訪談中，分享了對 Scaling Law、Transformer 架構、認知智能本質的獨到見解。他認為暴力堆算力並非通往 AGI 的唯一路徑，真正的智能需要具備舉一反 …
AI 的「密碼本」越大越聰明：一位 KAIST 教授的記憶體比喻
KAIST 金正鎬教授用「密碼本」比喻解釋 AI 如何運作：Transformer 模型的 Encoder 把人類語言轉成密碼，Decoder 再解密成答案。這本密碼本越大，AI 就越聰明。而儲存這本 …
Sergey Brin 坦承：Google 發明了 Transformer，卻沒當回事
在史丹佛工程學院百年校慶活動上，Google 共同創辦人 Sergey Brin 罕見地公開承認，Google 在 AI 發展上犯了關鍵錯誤：八年前發表 Transformer 論文時沒有認真對待，讓 …
Jeff Dean 的 35 年 AI 旅程——從大學論文到 Gemini
Google 首席科學家 Jeff Dean 在史丹佛演講，回顧 35 年 AI 歷程：1990 年大學時以為 32 核就能改變世界，結果需要百萬倍運算力。從 Google Brain 的創立、TPU …
伊利亞・波洛蘇欣 Illia Polosukhin
一句話認識他 Illia Polosukhin 是 Transformer 論文的共同作者，離開 Google 後創立了區塊鏈平台 NEAR Protocol，現在他要用 Web3 技術讓 AI 不被 …
妮琪・帕瑪 Niki Parmar
一句話認識她 Niki Parmar 是 Transformer 論文唯一的女性作者，從印度自學程式設計開始，到先後創立兩家 AI 公司，現在在 Anthropic 開發 Claude。 為什麼重要？ …
盧卡什・凱撒 Łukasz Kaiser
一句話認識他 Łukasz Kaiser 是 Transformer 八位作者中唯一沒有創業的人——他選擇留在研究前線，現在在 OpenAI 開發 GPT-4 和 o1/o3 推理模型。 為什麼重要？ …
艾丹・戈梅茲 Aidan Gomez
一句話認識他 Aidan Gomez 在 20 歲時以 Google 實習生身份共同發明了 Transformer，現在他領導的 Cohere 估值 55 億美元，是企業 AI 領域最重要的公司之一。 …
諾姆・沙齊爾 Noam Shazeer
一句話認識他 Noam Shazeer 是 Google 的傳奇工程師，不僅共同發明了 Transformer，還因為不滿 Google 太保守而離職創業，最後被 Google 以 27 億美元「請回 …
里昂・瓊斯 Llion Jones
一句話認識他 Llion Jones 是 Transformer 的發明者之一，但他現在公開表示「受夠了 Transformer」，創立 Sakana AI 尋找下一個 AI 架構突破。 為什麼重要？ …
阿希什・瓦斯瓦尼 Ashish Vaswani
一句話認識他 Ashish Vaswani 是「Attention Is All You Need」論文的第一作者——這篇論文提出的 Transformer 架構，是 …
雅各布・烏茲科雷特 Jakob Uszkoreit
一句話認識他 Jakob Uszkoreit 是 Transformer 的發明者之一，現在他要用同樣的 AI 思維設計 RNA 藥物——讓藥物像軟體一樣可以被編程。 為什麼重要？ 在 …