最近在脈脈上看到一位網友的職言：
這位網友將算法和開發(fā)做了對比并寫成了五言絕句，主要告訴我們相比于開發(fā)崗而言，互聯(lián)網公司中的算法工程師很少需要通宵，且不需要面對無盡的需求，只需要調好自己的模型，并產生業(yè)務收益即可，這也是為什么大廠里很少能看到女生做開發(fā)，但做算法的女生相對來說卻很多。
做一名算法工程師容易，但要做好卻很難，如果只會調參，其實很難成為真正的”算法人上人“。
因為AI是一門入門簡單，但想深入卻很難的學科，這也是為什么AI高端人才一直非常緊缺的重要原因。在AI領域技術領域，我們可以說機器學習功底決定了一個人的上限也不為過。為什么？機器學習就像物理學中的數(shù)學，如果你對數(shù)學沒有很好地掌握，想深入物理學科是不太可能的。放到AI領域，不管你做NLP方向也好，還是CV方向也好，只要深入下去，都會發(fā)現(xiàn)跟機器學習息息相關。
在工作中，你是否能夠利用1-3天的時間來復現(xiàn)任意頂會的文章？是否能夠按照實際的場景靈活提出新的模型，或者提出對現(xiàn)有模型的改造？實際上這些是核心競爭力，同時是走向高端人才必須要經歷的門檻。雖然很有挑戰(zhàn)，但一旦過了這個門檻你就會發(fā)現(xiàn)你是市場中的TOP5%.
所以我們設計了這樣的一門課程，目的就是一個：讓你有機會成為市場中的TOP5%。我們希望通過這樣的一門課程來增強對機器學習的深入理解，掌握背后的每個細節(jié)，這一點很重要。這門課程主要包含了凸優(yōu)化、圖神經網絡、深度貝葉斯以及強化學習，也是機器學習領域比較主流的四大領域。每個領域都有一定的門檻，但真正經歷過之后大概率會驚訝地發(fā)現(xiàn)自己成長了不少。?
下面對每個部分的內容詳細做了介紹，感興趣的朋友們可以來咨詢更多。?
凸優(yōu)化在人工智能領域有著舉足輕重的地位，對于模型的訓練實際上等同于對模型的優(yōu)化。我們平時使用的sgd, adam, adagrad, l-bfgs這類算法均屬于優(yōu)化范疇。在AI的應用中，當我們構造了目標函數(shù)之后，接下來的工作就是優(yōu)化部分。那為什么凸優(yōu)化這么重要呢？設想一下，如果你想設計一個新的模型，或者在原有的模型基礎做一些創(chuàng)新，那對于新構造的目標函數(shù)，你需要懂得如何去優(yōu)化，以及用什么樣的優(yōu)化算法才能解出更好的局部最優(yōu)解。所以，對于想進階的AI工程師來說，凸優(yōu)化是必備課，必須要掌握的內容。學習目標：了解凸優(yōu)化技術以及應用場景，理解凸優(yōu)化技術的類別、技術范疇、以及能把凸優(yōu)化技術跟生活和工作中的問題聯(lián)系在一起。同時，深入理解線性規(guī)劃技術，以及它在不同場景中的應用，并能夠實現(xiàn)。-?線性規(guī)劃以及Simplex Method學習目標：學習如何識別凸函數(shù)和如果判定凸函數(shù)，這里會涉及到三種不同的方法以及多個案例講解。同時，本周能學到二次規(guī)劃相關的知識，以及能夠用二次規(guī)劃去模擬的實際問題以及求解方式。?- 方法1：Prove by Definition-?方法2：First-order Convexity- 方法3：Second-order Convexity- 二次規(guī)劃問題以及凸函數(shù)證明學習目標：學習如何識別凸函數(shù)和如果判定凸函數(shù)，這里會涉及到三種不同的方法以及多個案例講解。同時，本周能學到二次規(guī)劃相關的知識，以及能夠用二次規(guī)劃去模擬的實際問題以及求解方式。?學習目標：作為一個案例章節(jié)，主要學習優(yōu)化在量化投資中的應用，同時也學習常見的量化投資策略。這一章的學習一方面可以帶來對新的領域的學習，同時也給其他領域的問題提供思路。??- Efficient Frontier, Sharp Ratio學習目標：掌握對偶相關的知識，對偶可以算是優(yōu)化領域最為經典的一套方法論。學完本部分之后，可以對已有的模型做改進，同時能夠靈活做對偶轉換。深入理解對偶領域中的Lower Bound Property，KKT條件，Weak Duality等基本理論。一句話，Duality是優(yōu)化的精華！?- Weak and Strong Duality學習目標：掌握對偶相關的知識，對偶可以算是優(yōu)化領域最為經典的一套方法論。學完本部分之后，可以對已有的模型做改進，同時能夠靈活做對偶轉換。深入理解對偶領域中的Lower Bound Property，KKT條件，Weak Duality等基本理論。一句話，Duality是優(yōu)化的精華！?- Proximal Gradient Descent- Projected Gradient Descent- Stochastic Gradient Descent學習目標：掌握其他主流的優(yōu)化技術，這些都屬于比較進階的內容，需要前面內容的基礎。主要掌握Interior Point Method，ADMM等模型。項目描述：量化投資作為金融領域一大分支，今年來受到了很大的關注。在這個項目中，我們將使用在課程中已學過的優(yōu)化技術來搭建買賣策 略，并在平臺上做回測，最終得到策略的效果。這個項目的主要目的有以下幾種：1. 了解并掌握量化投資領域，雖然跟很多人的工作關系不大，但畢竟是一個新興領域，而且跟 AI 技術的結合比較緊密，強烈建議借此機會學習。2. 掌握并實戰(zhàn)優(yōu)化技術，通過編寫真正的策略會真正明白優(yōu)化技術如何應用在工業(yè)界環(huán)境中。3. 基于給定的優(yōu)化方法，自己試著去改進并創(chuàng)造新的優(yōu)化方法，讓回測效果更好。
圖神經網絡是指神經網絡在圖上應用的模型的統(tǒng)稱，根據采用的技術不同和分類方法的不同，又可以分為下圖中的不同種類，例如從傳播的方式來看，圖神經網絡可以分為圖卷積神經網絡（GCN），圖注意力網絡（GAT，縮寫為了跟GAN區(qū)分），Graph LSTM等等，本質上還是把文本圖像的那一套網絡結構技巧借鑒過來做了新的嘗試。在本次課上，我們著重學習關于圖卷積技術以及其相關知識，例如：圖論基礎，GCN的卷積由來和詳解，GAT等相關邊嵌入模型，以及GCN在各個方向的應用。學習目標：掌握圖神經網絡中涉及到的基礎理論，包括不同空間的描述，傅里葉變化以及CNN相關的技術。- Inner Product， Hilbert Space- Eigenfunction, Eigenvalue學習目標：掌握圖神經網絡中涉及到的基礎理論，包括不同空間的描述，傅里葉變化以及CNN相關的技術。?- Network Community Detection
學習目標：掌握圖卷積相關的基本知識，這是理解圖神經網絡的根本。在本部分，系統(tǒng)性掌握我們目前常使用的GCN模型是如何得出來的，而不是停留在僅僅使用的層面，這里包括ChebNet等我們需要理解的內容。?學習目標：掌握Spatial類型圖神經網絡，本質上跟GCN的構造方式是不一樣的，但變得越來越流行。本節(jié)重點掌握GAT以及Attention如何用在圖神經網絡之中。??- Graph Attention Networks(GAT)學習目標：掌握改進圖神經網絡，以及它背后的思路。這種能力可以帶給你，今后在工作中遇到類似的問題，你也有能力做一些模型上的改進！-?Relative Position與圖神經網絡拓展學習目標：除了GCN，GAT等主流圖神經網絡模型之外，還有一些非常流行的圖模型。本節(jié)主要幫助學員掌握此類模型，包括Deepwalk, Node2Vec等非常有價值的模型。項目描述：鏈路預測(Link Prediction)是通過已知的網絡節(jié)點以及網絡結構等信息預測網絡中尚未產生連邊的兩個節(jié)點之間產生鏈接的可能性。近幾年在線社交網絡發(fā)展非常迅速，鏈路預測可以基于當前的網絡結構去預測哪些尚未結交的用戶“應該是朋友”，并將此結果作為“朋友推薦”發(fā)送給用戶：如果預測足夠準確，顯然有助于提高相關網站在用戶心目中的地位，從而提高用戶對該網站的忠誠度。另外，鏈路預測的思想和方法，還可以用于在已知部分節(jié)點類型的網絡中預測未標簽節(jié)點的類型——這可以用于判斷一篇學術論文的類型或者判斷一個手機用戶是否產生了切換運營商(例如從移動到聯(lián)通)的念頭。涉及到的技術：GCN，GAT，KGCN，相似度計算，圖論貝葉斯深度學習是一項迅速崛起的技術，融合了深度學習和貝葉斯核心技術，使得模型本身可以更好地捕獲數(shù)據中的不確定性，同時也能預測出結果的不確定性，同時貝葉斯模型也比較適合小數(shù)據量的場景。通過本次課程的學習，學員能夠系統(tǒng)性掌握貝葉斯核心技術，包括MCMC，變分法，VAE, 貝葉斯優(yōu)化，主題模型，對抗學習，以及如何應用在不同的場景中，既有助于應用層面上的提升，也有助于科研。
學習目標：掌握貝葉斯基本理論、掌握最大似然與貝葉斯估計之間的區(qū)別，以及跟集成模型之間的關系。了解貝葉斯學習中的兩種近似算法，MCMC與VI以及區(qū)別。同時，掌握如何解決具體的貝葉斯學習問題。?-?案例分析：Probabilistic Programming-?案例分析：Edwin的使用以及實戰(zhàn)學習目標：系統(tǒng)性掌握主題模型的細節(jié)，包括它的背景、生成過程以及推理。通過此學習，同時也可以掌握跟貝葉斯樸素貝葉斯之間的聯(lián)系，以及在生成邏輯中的差異。??-?案例分析：Bayesian-LSTM的文本分析學習目標：掌握各類采樣技術，特別是吉布斯采樣，也是MCMC中最為重要的一項技術。另外，完完整整地掌握LDA的所有詳細的推導細節(jié)。?-??案例分析：不同采樣技術實現(xiàn)與比較學習目標：掌握近似算法中另外一個最核心的技術-變分法。掌握如何設計變分參數(shù)、如何優(yōu)化變分的目標函數(shù)以及最后的模型的預測。這里涉及到KL散度、ELBo、和優(yōu)化等內容。?學習目標：掌握如何通過貝葉斯深度學習模型去量化模型和數(shù)據中的不確定性，主要學習MC Dropout等技術。同時掌握深度生成模型技術以及它們的應用。?-?Reparameterization Trick
學習目標：掌握貝葉斯深度學習在自然語言處理任務中的應用，包括命名實體識別、文本分析等任務。?同時，掌握Adversial Attack相關的技術，以及它跟貝葉斯方法論之間的關系。?-?基于GNN的Adversial Learning項目描述：本項目的目的是如何基于LDA來自動抽取文本中的情感，這個項目涉及到對于LDA模型的改造以及對于新模型的推導，具有一定的挑戰(zhàn)。在本項目中，我們會一步步引導學員去設計模型，并對模型做出吉布斯采樣的全部推導過程以及實現(xiàn)環(huán)節(jié)。通過此項目，學員會親身體會整個貝葉斯模型的設計和訓練過程。涉及到的技術：主題模型，吉布斯采樣，Collapsed吉布斯采樣，無監(jiān)督情感分析
強化學習是機器學習的一個分支，相較于機器學習經典的有監(jiān)督學習、無監(jiān)督學習問題，強化學習最大的特點是在交互中學習（Learning from Interaction）。Agent在與環(huán)境的交互中根據獲得的獎勵或懲罰不斷的學習知識，更加適應環(huán)境。RL學習的范式非常類似于我們人類學習知識的過程，也正因此，RL被視為實現(xiàn)通用AI重要途徑。<br>通過融合深度學習，深度強化學習迅速在圍棋，游戲等場景取得了超越人類的表現(xiàn)。通過本次課程，學員能夠系統(tǒng)的掌握深度學習框架及核心技術，包括 Markov Desision Process, Monte Carlo Control, SARSA, Q learning, Value Approximation, Deep reinforcement Learning ,及強化學習在游戲，自然語言中， 推薦的應用過程，即有助于應用層面上的提升，也給科研提供新的思路與方向。
學習目標：掌握強化學習最基本的知識，包括MDP， Bellman Equation以及動態(tài)規(guī)劃，這些對后續(xù)的學習是必須的。?-?Markov Decision Process(MDP)學習目標：掌握強化學習最基本的知識，包括Model free policy，Monte Carlo Control, Q-Learning等。?-?On-policy Monte Carlo Control-?案例分析：Atari的實現(xiàn)以及講解
學習目標：掌握強化學習核心方法論，能把相應的技術應用在自己的問題當中。主要的技術涉及深度強化學習。?- Deep?reinforcement learning- Advanced?reinforcement learing學習目標：掌握強化學習在online learning的應用，包括各類multi-armed bandit算法，以及在推薦中的應用。?第五周：多智能體的強化學習與稀疏Reward的設計學習目標：掌握強化學習中的多智能體學習和各種Reward設計方法，能夠靈活在自身的問題中應用起來。?- Multi agent Reinforcement Learning學習目標：掌握強化學習在主流場景中的應用，包括自然語言處理、量化投資以及游戲。?項目描述：本項目 (coursework) 旨在實踐并設計強化學習算法來探索，解決解決強化學習問題。其中包括模擬HFO （ Half Field Offence）及 Flappy Bird。通過此項目，期望同學們能充分理解，并可掌握，應用 （但不限于） ：狀態(tài)State, 動作Action, MDP（ 馬爾可夫決策過程）。State value function ，State Action value function 如何進行估計，迭代及預測。深度神經網絡強化學習對Value Approximation進行評估, 并進行Policy優(yōu)化。Exploration 和 Exploitation 的平衡優(yōu)化也將會在本項目的最后進行探索。。涉及到的技術：MDP建模，Q Learning，Monte Carlo control，Value Iteration, Deep Q Learning我們專注人工智能人才培養(yǎng)4年，在AI領域，國內屬于最頭部的人才培養(yǎng)黃埔院校。在AI人才培養(yǎng)上，已跟京東、騰訊等大廠一直建立者良好的戰(zhàn)略合作關系，學員也來自斯坦福、伯克利、清華、北大等世界級名校。姓名：李**
學校專業(yè)：燕山大學 控制工程專業(yè) 2019級碩士畢業(yè)生
原工作單位：軟通動力 算法工程師 年薪20萬
跳槽方向：算法工程師
匹配方案：技術研修+背景提升+求職面試一籃子服務
最終跳槽公司：榮耀 年薪45萬
履約服務時長：7個月
姓名：Jerry Zhao
學校專業(yè)：澳大利亞國立大學 計算機專業(yè) 2018級本科畢業(yè)生
原工作單位：魯班軟件 初級算法工程師 年薪18萬
跳槽方向：ML算法工程師
匹配方案：技術研修+案例項目學習+求職面試一籃子服務
最終跳槽公司：網易 年薪40萬
履約服務時長：4個月
姓名：錢**
學校專業(yè)：中國農業(yè)大學 計算機科學與技術 2018級本科畢業(yè)生
原工作單位：聚美國際 算法工程師 年薪22萬
跳槽方向：算法工程師?
匹配方案：技術研修+導師咨詢+求職面試一籃子服務
最終跳槽公司：亞馬遜電商 年薪47萬
履約服務時長：11個月
姓名：蔡*
學校專業(yè)：中科院自動化所 智能控制與計算智能 2020級博士畢業(yè)生
原工作單位：中國科學院自動化研究所-智能系統(tǒng)與工程研究中心-實習 年薪5萬
跳槽方向：ML算法工程師
匹配方案：背景提升+大廠技術大牛求職方向規(guī)劃+求職面試一籃子服務
最終跳槽公司：比亞迪 年薪38萬
履約服務時長：2個月
李文哲
貪心科技CEO
美國南加州大學博士
曾任獨角獸金科集團首席數(shù)據科學家、美國亞馬遜和高盛的高級工程師
金融行業(yè)開創(chuàng)知識圖譜做大數(shù)據反欺詐的第一人
先后在AAAI、KDD、AISTATS、CHI等國際會議上發(fā)表過15篇以上論文
楊老師
推薦系統(tǒng)，計算機視覺領域專家
香港城市大學博士，加州大學美熹德分校博士后
主要從事機器學習，圖卷積，圖嵌入的研究
先后在ECCV, Trans on Cybernetics, Trans on NSE, INDIN等國際頂會及期刊上發(fā)表過數(shù)篇論文
王老師
畢業(yè)于QS排名TOP20名校
先后任職于亞馬遜，華為，平安科技等AI研發(fā)部門
主要從事機器閱讀理解，信息檢索，文本生成等方向的研究
先后在AAAI, ICLR等發(fā)表數(shù)篇論文，擁有多項國家發(fā)明專利
