他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁

他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁

文章圖片

他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁

文章圖片

他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁

文章圖片

他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁
機器之心報道
機器之心編輯部
如果你正有放棄的念頭 , 你一定要讀讀這篇從未被公開分享過的故事 , 關于 PyTorch 創造者、Meta 前副總裁 Soumith Chintala 的故事 。

原文地址:https://www.linkedin.com/feed/update/urn:li:activity:7394574468834091008/
你或許沒聽說過蘇米特?欽塔拉 (Soumith Chintala) 這個名字 , 但如果你比較了解人工智能領域 , 肯定知道 PyTorch 。 對于 AI 來說 , 它就像寫文章用 Word , P 圖用 Photoshop 一樣 , 是最流行的開發工具 。 Soumith 就是 PyTorch 的創造者 。
有趣的是 , 這位大神并不像 AI 領域多見的那樣出身名校 , 從小就奧數拿牌 —— 恰恰相反 , 他的「特長」是數學不好 , 當年還因此而進不了名校 。
近日 , 一篇關于 Soumith 的長文在技術圈悄然流傳 , 作者是風險投資公司 Menlo Ventures 合伙人 Deedy Das 。 文章沒有講 Soumith 光鮮頭銜與成就 , 而是把重點對準了他一路走來的坎坷、掙扎與不被看好的那些年 。

接下來我們看看文章內容:
【他「二本」出身,數學很差:最終成了PyTorch之父、Meta副總裁】Soumith 來自印度一所公立學校 , 他的成績算不錯 , 但數學不好這件事一直像影子一樣伴隨著他 。 在大學入學考試中 , 他沒能進入印度的一流大學 , 而是去了被認為是二線院校的韋洛爾理工學院(VIT) 。
在大學期間 , 他努力補足自己的短板 。 等到準備出國深造時 , 最終在 GRE 中拿下了 1420 的高分 , 這在當時已經是非常亮眼的成績 。
然而現實卻毫不留情 , 他向 12 所美國大學遞交了碩士申請 , 卻全部被拒 。
后來 , Soumith 形容那段時間的自己 , 只有一句話能概括:管他呢(fuckit.jpg) 。 于是 , 他還是咬牙踏上了旅途 , 拿著一張 J-1 簽證去了美國的卡內基梅隆大學(CMU) , 沒有明確計劃 , 也沒有穩妥的未來 , 只想著:先去再說 。
到了美國之后 , 他依舊沒有放棄對未來的期待 。 盡管上一輪申請全軍覆沒 , 但他仍決定再試一次 , 他再次申請碩士 , 這一次把申請范圍擴大到 15 所學校 , 幾乎把所有可能的機會都抓在手里 。
然而結果并不好 , 15 所學校中 , 除了南加州大學 , 其余全部拒絕了他;直到后來 , 紐約大學才在 2010 年給了他一份候補名額 。

也正是在紐約大學 , 他遇到了 Yann LeCun, 當時 LeCun 不出名 , 還沒拿到圖靈獎 。 誰都沒想到 , 這次相遇會成為他人生軌跡上最關鍵的轉折點之一 。 也是在這里 , 他開始接觸開源 。
畢業后 , 他幾乎把能投的公司都投了 , 卻依然被一一拒絕 , 其中包括 DeepMind 。 他唯一拿到的工作機會 , 是在亞馬遜做一名測試工程師 。
后來 , 在他彷徨迷茫的時候 , 博士導師伸出了援手 , 幫他進入了一家名叫 MuseAmi 的小型創業公司 。

離開那家公司后 , 他再次向 DeepMind 投出簡歷 , 滿懷希望地等待回復 , 卻又一次被拒之門外 。
期間 , 因為簽證的問題 , 他面臨著比職業挫折更棘手的現實困境 。 J-1 的限制隨時可能讓他前功盡棄 。 他只能一遍遍地補交資料、寫情況說明 。 好在最終 , 經過漫長的等待與反復溝通 , 他總算拿到了豁免 , 得以留在美國繼續走下去 。
那時的他 , 信心跌到谷底 。
可即便如此 , 他還是咬著牙往前走 。 2011 到 2012 年間 , 他憑著那點不愿放棄的倔強 , 硬生生做出了當時手機上最快的 AI 推理引擎之一 。
然而 , 他帶著這份成績再次去敲 DeepMind 的門時 , 得到的依舊是拒絕 。 可沒想到的是 , 正是在這種幾乎要放棄的階段 , 他的人生開始悄悄醞釀轉折 。
他鼓起勇氣 , 給 Yann LeCun 寫了一封郵件 , 向這位曾經給予過指點的前輩匯報自己的近況 。 LeCun 看到他在 Torch 7 開源社區的貢獻后 , 邀請他加入剛成立不久的 Facebook AI Research(FAIR) 。

加入 FAIR 后 , 他卻發現現實一點都不輕松 。 連新人訓練營都差點沒挺過去 , 一個 HBase 的任務硬是把他卡得懷疑人生 。
但很快 , 他抓住了關鍵機會 。 當時 , 連 Facebook 的 L8/L9 資深工程師都無法讓 ImageNet 訓練跑通 , 模型怎么調都不穩定 。 整個團隊被這個問題困住了 。 而他這個剛來的 L4 工程師 , 卻憑著反復推敲代碼、逐項分析參數 , 硬是從細枝末節里找出了數值精度和超參數的深層問題 。 那一刻 , 他終于迎來了人生中的第一次真正意義上的大勝利 。
接下來 , 在 FAIR , 他的表現越來越穩 , 逐漸站穩腳跟 , 后來帶著一個三人小團隊繼續維護 Torch7 , 并最終與團隊一起創造出了 PyTorch 。 當時誰也沒料到 , 這個項目會在幾年后成為全球研究者和開發者最喜愛的深度學習框架 。
然而 , 事業剛有起色 , 一場內部政策風暴差點讓一切終止 。 Meta 管理層想砍掉 PyTorch 。 得到這個消息后 , 他在酒吧里大哭了一場 。
幸運的是 , 一些真正懂技術價值的人站出來力保 PyTorch 。 項目最終被保留下來 , 并在 2017 年順利發布 。 后來 , 他也順利拿到了 EB-1 綠卡 , 真正意義上站穩了腳跟 。
在之后的幾年里 , PyTorch 越走越穩 , 社區越做越大 , 他的事業看似也達到了頂峰 。 但正如他一路走來的選擇一樣 , 他從不把自己框在舒適區里 。
他開始意識到自己的下一段旅程 , 或許不應該再局限于 PyTorch 。 于是 , 在外界看來最風光、最穩定的時候 , 他做出了一個出人意料的決定:離開 Meta , 重新開始 , 做一些小而未知的事 。
通過這段經歷 , 我們不難發現在整整 12 年(2005–2017)的失敗、碰壁和反復掙扎之后 , Soumith 最終成為 Meta 的副總裁 , 成為 AI 領域最具影響力的人之一!
Soumith 的故事 , 是關于韌性與不屈的故事 。 他證明了一件事:無論你現在多么低谷 , 只要不放棄 , 仍然有希望 。
對于上述經歷 , 我們看看 Soumith 自己是如何評價的 。

Soumith 在回復 Deedy Das 的文章中 , 也透露了其他細節 , 并感謝一路幫助過他的人:
以上這些都是真的 。 我也很感謝一路上遇到的導師們 。 同時我也明白 , 自己能做出這么多艱難選擇 , 是因為某種程度上有條件承擔這些風險 , 說到底我挺幸運的 。
我在 NYU 的導師是當時還是博士生的 Pierre Sermanet , 他是我認識的最善良的人之一 。
Yann LeCun 在我沒有任何 AI 出路的時候 , 給了我兩次機會 。
我是在 Praveen Garimella 的推動下 , 才去 IIIT 做了最后一年的項目;而在被碩士項目集體拒絕后 , 他又勸我不要放棄 , 讓我哪怕沒有明確計劃也大膽去往 CMU 。 他的建議改變了我的人生 。
還要感謝我的父親和母親 , 他們愿意讓我瘋狂一把 , 甚至愿意在超出家庭經濟能力的情況下支持我 。 我成長于一個再典型不過的中產家庭 , 家里負債不少 , 盡管我父母在 2010 年后最終實現了財務獨立 。 但即便如此 , 他們仍愿意讓我走一條并不穩定、也不劃算的道路 , 這是真正偉大的父母 。
感謝 Deedy Das 花時間把這些細節整理出來 。
我相信 , 每一個站在成功舞臺上的人 , 都有過無數掙扎 。 人生從來不容易 。
最后 , Soumith 還糾正了一個小小的錯誤 , 拒絕他的不止 DeepMind, 加上 Google , 一共是 3 次被拒 。
如果你正處在低谷 , 希望你能從 Soumith 的故事里獲得一點力量 。
不僅對于 AI , 還是很多其他領域來說 , 熱情、自主性、品味和韌性往往比學校的名氣更重要 。

如今 , Soumith 即將離開 Meta , 邁向新的旅程 。 經歷過那么多跌宕與重來 , 他的下一步 , 會帶來什么樣的突破 , 大家可以期待一下 。

    推薦閱讀