我的背景更偏學(xué)術(shù)界，我對(duì)兩邊都有了解，我談一點(diǎn)自己粗淺的看法。我的討論范圍限定在（1）機(jī)器學(xué)習(xí)領(lǐng)域，（2）能力在前10%~50%的正常人，不討論改變世界的大神。

簡(jiǎn)單粗暴的結(jié)論：

（1）高校的研究能力在工業(yè)界很有用，但是高校的成果幾乎（99.9%）在工業(yè)界都沒有用。或許高校的education的作用更大，期望高校做出改變工業(yè)界的學(xué)術(shù)成果不太現(xiàn)實(shí)。

（2）工業(yè)界的研究院其實(shí)屬于學(xué)術(shù)界，本質(zhì)跟高校區(qū)別不大。他們比高校做的東西更有用，但是研究院做的不是核心技術(shù)，只是外圍、邊緣的技術(shù)而已。

先說說高校的科研。 高校絕大多數(shù)的研究都是各種問題的corner case，在公開的數(shù)據(jù)集上跑幾個(gè)實(shí)驗(yàn)，claim自己是SOTA，發(fā)篇論文。但這些東西在工業(yè)界用途非常非常小。我舉幾個(gè)例子。

• 近年來學(xué)術(shù)界搜索、推薦的論文不少，但在工業(yè)界能用的幾乎沒幾個(gè)。學(xué)術(shù)界的做法是“改進(jìn)模型，在MovieLens等數(shù)據(jù)集上做個(gè)實(shí)驗(yàn)，提升幾個(gè)點(diǎn)，發(fā)表論文”。但學(xué)術(shù)界的成果在工業(yè)界幾乎都不work。在工業(yè)界真正能改進(jìn)模型效果的方法大多是標(biāo)注數(shù)據(jù)、處理數(shù)據(jù)、調(diào)特征、修bug。少數(shù)能用的學(xué)術(shù)成果都是Google等公司發(fā)表的。

• 最近幾年聯(lián)邦學(xué)習(xí)很熱門，每個(gè)會(huì)議都有上百篇聯(lián)邦學(xué)習(xí)的投稿。這些文章中90%以上都是在解決corner case，比如XXX設(shè)定下的收斂、XXX設(shè)定下的XXX差分隱私方法、用XXX方法防御XXX假設(shè)下的拜占庭錯(cuò)誤。有腳指頭想想也知道，這些corner case在工業(yè)界是沒有用的。工業(yè)界用的是簡(jiǎn)單、好調(diào)、scalability能上得去的方法，而且要考慮自身系統(tǒng)平臺(tái)的支持。

• 最近一兩年，有N篇基于vision transformer的論文，都是對(duì)vision transformer做一點(diǎn)改進(jìn)，在公開數(shù)據(jù)集上top-1 accuracy提升一點(diǎn)點(diǎn)。在絕大多數(shù)工業(yè)應(yīng)用里面，沒人在乎一點(diǎn)點(diǎn)準(zhǔn)確率的提升。好好處理數(shù)據(jù)、標(biāo)注數(shù)據(jù)、再加點(diǎn)小trick，帶來的提升比模型大得多。說實(shí)話，ResNet之后所有的模型帶來的提升全加起來，還沒JFT一個(gè)數(shù)據(jù)集帶來的提升多。

工業(yè)界里重要的問題非常多，但是沒有足夠的人力去解決，只能挑收益最大的做。而高校烏央烏央的人扎堆擠到一些很小的問題上，研究各種各樣的corner case，比如上面討論的幾個(gè)問題。這就是為什么我打算離開高校。

再說說工業(yè)界的研究院。

• 工業(yè)界研究院有一部分人做純科研，做出了非常牛逼的工作。Google、Deepmind、MSR、NVIDIA等公司的研究院都有非常厲害的成果。Transformer、AlphaGo這些成果確實(shí)改變了世界。其余影響力小一些的論文也起到了PR的作用。

• 工業(yè)界研究院有相當(dāng)多的人在為業(yè)務(wù)、技術(shù)部門服務(wù)?？上У氖茄芯吭鹤龅耐ǔ２皇呛诵募夹g(shù)，而是可有可無的邊緣技術(shù)。研究院的人看不到完整的核心技術(shù)。舉幾個(gè)例子：

• 推薦算法團(tuán)隊(duì)跟研究院合作，希望“試一試”強(qiáng)化學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)這些技術(shù)。重點(diǎn)在“試一試”，也就是說可有可無，不是核心技術(shù)。能帶來零點(diǎn)幾個(gè)點(diǎn)的增長(zhǎng)最好，沒有也無所謂。
• 技術(shù)部門發(fā)現(xiàn)強(qiáng)化學(xué)習(xí)在網(wǎng)約車派單上好用，收益挺大。上線之后，讓研究院做進(jìn)一步的探索，目標(biāo)是用更fancy的技術(shù)取得marginal improvement。

為什么工業(yè)界研究院接觸不到完整的、核心的技術(shù)？核心技術(shù)肯定在業(yè)務(wù)部門手里，重要性次一級(jí)的工具在技術(shù)中臺(tái)手里。由于利益原因，沒人愿意把自己重要的東西交給別人做，除非是自己不愿做、沒精力做、沒能力做。

說一下工業(yè)界的技術(shù)團(tuán)隊(duì)。 工業(yè)界的工作并不美好，有很多臟活累活要干，沒有學(xué)術(shù)界看起來高大上，而且KPI壓力很大。有一部分人在推著技術(shù)走，這種工作的成就感會(huì)比較高。另一部分人被業(yè)務(wù)推著走，比如這個(gè)地方掉點(diǎn)了，那個(gè)地方有個(gè)bad case，要修一下。。。很明顯，前者的技術(shù)含量高，成長(zhǎng)更快，在就業(yè)市場(chǎng)上很搶手；后者的技術(shù)含量低，是高檔人肉電池，容易被換掉。

最后說說人。 學(xué)術(shù)界的人才密度遠(yuǎn)遠(yuǎn)大于工業(yè)界。拿到985學(xué)校的講師（所謂助理教授）職位，比公司SP offer還難。工業(yè)界研究院里各個(gè)都是有不錯(cuò)成果的博士。而工業(yè)界的技術(shù)部門里，人才密度低得多。哪里更容易出頭是顯而易見的。在跳槽的時(shí)候，研究院出身的不那么受歡迎，跟核心技術(shù)團(tuán)隊(duì)的人差距巨大。

個(gè)人觀點(diǎn)：學(xué)術(shù)界就像談戀愛，有不錯(cuò)的motivation和idea你只用鍛造技術(shù)去給一個(gè)solution就完了，最后呈現(xiàn)的方式是publication。你可以更自由，可以天馬行空，可以各種魔改，甚至不需要考慮落地成為一個(gè)paperer守著ppt過一輩子。

工業(yè)界就是結(jié)婚過日子，柴米油鹽，衣食住行，你就不得不考慮商業(yè)化和市場(chǎng)，平衡各方利益，調(diào)動(dòng)各種資源上下游的關(guān)系。有這個(gè)idea的可能很多，但是你可以做出實(shí)打?qū)嵉卯a(chǎn)品，并將其推給用戶，為該領(lǐng)域起到推動(dòng)作用，這就不是簡(jiǎn)單的publication可以呈現(xiàn)的。同樣，沒有愛情的婚姻質(zhì)量不高，沒有重大innovation支撐的產(chǎn)品也不長(zhǎng)久。

總之，paper 不代表一切～卻是一切美好的開始……

多加幾句：從社會(huì)責(zé)任的角度來看，不以結(jié)婚為目的的談戀愛都是耍流氓，婚姻里連流氓都不愿意耍的是搭伙過日子，只是完成國家規(guī)定的結(jié)婚kpi，給娃（產(chǎn)品）上戶口。