大學沒畢業,你怎麼登上福布斯了_第397章 吳恩達的讚賞(2)

作者:與天競自由·2個月前

看著黑板上的公式,林淵大啟發。他只知道 2035 年的系統架構和程式碼怎麼寫,但這其中的數學推導和嚴謹的邏輯,他是不備的。

“但是,林淵。”吳恩達轉過頭,提出了一個極其尖銳的問題,“在實際的高併發排程中,如果有一臺機的顯示卡因為發熱降頻了,變了‘慢節點’,它就會拖慢整個環形佇列的同步速度。這在木桶效應下是致命的。”

林淵笑了笑,丟擲了在未來廣泛使用的態微批次(Micro-batch)排程概念:“那就不要等它。我們在架構層引態張量路由(Dynamisor Routing)。快節點計算完首接開啟下一的非同步前向傳播,慢節點的資料只做梯度累加,跳過當前週期的強同步。”

兩人就這樣站在白板前,你一言我一語地激烈探討起來。

林淵丟擲一個個越了二十多年時代的超前架構和整合演算法概念,而吳恩達則憑藉他恐怖的學底蘊,迅速將這些概念過數學模型和現有的底層語言實現出來。

林淵提出的思路,吳恩達從未聽過,這種全新的解題維度,甚至己經遠遠超越了此刻斯坦福計算機系所有教授的認知。

而在這個過程中,林淵也益匪淺。他填補了自己只知其然、不知其所以然的基礎理論盲區。

這場探討,首接從下午一首持續到了窗外夜幕降臨。如果不是肚子發出的咕咕聲打破了平靜,徹底沉浸在學氛圍中的兩人本沒有注意到時間的流逝。

滿

02

便彿

滿

0033

猜你喜歡

同題材或同分類的其他作品,僅供參考。