新智元報(bào)道

來(lái)源：外媒

編輯：Priscilla Emil

【新智元導(dǎo)讀】近日，MLOps領(lǐng)域的五位專家做客Deeplearning.ai線上討論會(huì)，共同探討MLOps的發(fā)展現(xiàn)狀與意義。

自投入應(yīng)用以來(lái)，越來(lái)越多人發(fā)現(xiàn)MLOps的好處。

一些專家認(rèn)為MLOps是目前可用的最佳解決方案，甚至掀起了一股「MLOps熱」。

在之前，吳恩達(dá)在Deeplearning.ai的線上直播中，談過(guò)自己對(duì)MLOps的看法。

那時(shí)他就認(rèn)為，人們應(yīng)該以數(shù)據(jù)為中心來(lái)開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)，而MLOps就是為項(xiàng)目提供高質(zhì)量的數(shù)據(jù)的重要保障。

近日，Deeplearning.ai邀請(qǐng)了包括吳恩達(dá)、Robert Crowe、Lawrence Moroney、Chip Huyen 和 Rajat Monga五位專家，共同討論MLOps，深入了解生產(chǎn)機(jī)器學(xué)習(xí)最重要的方面以及MLOps的實(shí)際表現(xiàn)。

而在回顧五位專家的交流之前，先看看MLOps是什么？究竟為什么會(huì)有這么大的吸引力？

什么是MLOps？

要了解MLOps，就要先了解它的前身：DevOps。

一個(gè)軟件從無(wú)到有，需要經(jīng)歷規(guī)劃、編碼、構(gòu)建、測(cè)試、發(fā)布、部署和維護(hù)這幾個(gè)階段，一個(gè)程序員就能夠完成這些階段的工作。

但是，當(dāng)整個(gè)軟件產(chǎn)業(yè)開始發(fā)展壯大，軟件的規(guī)模和復(fù)雜程度會(huì)不斷攀升，客戶一個(gè)又一個(gè)的需求，再加上產(chǎn)品生產(chǎn)過(guò)程中出現(xiàn)的種種問(wèn)題，工作量可以說(shuō)是指數(shù)級(jí)上升。

這其中還會(huì)涉及開發(fā)和運(yùn)營(yíng)維護(hù)這兩大板塊。

但DevOps就能夠高效地解決開發(fā)和運(yùn)維的問(wèn)題。

DevOps，即「development + operations」，包括了開發(fā)和運(yùn)維兩個(gè)層面。

但DevOps的含義卻并不像它的名字來(lái)源一樣，將開發(fā)與運(yùn)維簡(jiǎn)單粗暴地合并起來(lái)。

它要求開發(fā)與運(yùn)維兩邊的工程師都能夠做到「換位思考」，相互接觸對(duì)方的流程：開發(fā)人員參與運(yùn)維初期的系統(tǒng)部署、提供優(yōu)化意見；運(yùn)維人員了解系統(tǒng)架構(gòu)和技術(shù)路線，制定合適的運(yùn)維方案。

而MLOps，就是機(jī)器學(xué)習(xí)時(shí)代的DevOps。

也就是說(shuō)，它既含有DevOps溝通開發(fā)運(yùn)維的功能，也具有利用機(jī)器學(xué)習(xí)的能力來(lái)促進(jìn)企業(yè)業(yè)務(wù)增長(zhǎng)的功能。

MLOps的要義之一就是縮短模型開發(fā)部署的迭代周期，憑借更標(biāo)準(zhǔn)化、自動(dòng)化的流程與基礎(chǔ)設(shè)施支持來(lái)提高模型交付的整體效率。

此外，MLOps有望能作為一個(gè)平臺(tái)，方便業(yè)務(wù)、數(shù)據(jù)、算法、運(yùn)維角色之間的溝通。

MLOps作為ML的分支，集合了DevOps和ML的所有優(yōu)點(diǎn)，這也是MLOps受到追捧的原因。

了解過(guò)MLOps后，一起來(lái)回顧一下這五位專家都討論了什么吧！

MLOps的重要性

Chip Huyen在斯坦福大學(xué)教授機(jī)器學(xué)習(xí)，她認(rèn)為，模型訓(xùn)練只是其中一個(gè)小問(wèn)題，更大的問(wèn)題是再培訓(xùn)。

Chip Huyen，計(jì)算機(jī)科學(xué)家

一旦模型公開，就會(huì)發(fā)生數(shù)據(jù)漂移。

那么，如何才能不斷更新和補(bǔ)償這些變化呢？那就是讓模型在現(xiàn)實(shí)世界中呈現(xiàn)不同程度的性能。

而谷歌TensorFlow團(tuán)隊(duì)成員Robert Crowe就表示自己不喜歡這種命名法，不太看重人們炒作MLOps。

Robert Crowe，谷歌TensorFlow團(tuán)隊(duì)成員

他更感興趣的是從模型中制作產(chǎn)品并解決所有問(wèn)題，例如模型漂移、隱私、資源優(yōu)化和生產(chǎn)ML設(shè)置中出現(xiàn)的其他因素。

Crowe解釋說(shuō)，「當(dāng)你在做研究或在學(xué)術(shù)界時(shí)，你不會(huì)遇到這些問(wèn)題。于我而言，MLOps的重點(diǎn)在于，能夠負(fù)責(zé)任地創(chuàng)建和維持產(chǎn)品或服務(wù)?！?/span>

幾年前，ML社區(qū)更強(qiáng)調(diào)構(gòu)建模型、調(diào)整超參數(shù)或選擇正確的架構(gòu)。

如今，該行業(yè)取得了巨大的飛躍，將ML和AI帶給大眾，只有不斷發(fā)展，才能發(fā)現(xiàn)DevOps在ML中的好處。

吳恩達(dá)也承認(rèn)，過(guò)去十年里，深度學(xué)習(xí)取得了長(zhǎng)足的進(jìn)步。

吳恩達(dá)，人工智能領(lǐng)域最權(quán)威的學(xué)者之一

他強(qiáng)調(diào)，MLOps將幫助每個(gè)人完成機(jī)器學(xué)習(xí)項(xiàng)目的整個(gè)生命周期：從界定、收集和管理數(shù)據(jù)，到訓(xùn)練模型、改進(jìn)數(shù)據(jù)，改進(jìn)模型，再到部署監(jiān)控和管理數(shù)據(jù)驅(qū)動(dòng)模型維護(hù)的概念。

「我認(rèn)為MLOps是一門振奮人心的新興學(xué)科，它可以解決機(jī)器學(xué)習(xí)項(xiàng)目的整個(gè)生命周期。MLOps和機(jī)器學(xué)習(xí)生產(chǎn)是最前沿的?！?/span>

前谷歌員工Rajat Monga則強(qiáng)調(diào)，數(shù)據(jù)并不是靜態(tài)的。

前谷歌員工Rajat Monga

由于模型代表數(shù)據(jù)，模型確實(shí)必須隨著數(shù)據(jù)而變化。無(wú)論是市場(chǎng)還是其他領(lǐng)域，我們周圍的世界都在發(fā)生變化，產(chǎn)生大量的數(shù)據(jù)。

一直以來(lái)，軟件會(huì)使用目標(biāo)函數(shù)進(jìn)行硬編碼?？紤]到數(shù)據(jù)的動(dòng)態(tài)特性，Monga認(rèn)為，它正被預(yù)測(cè)模型取代。

「未來(lái)一兩年內(nèi)不會(huì)有太多新的分支，但另一方面，在依賴客戶數(shù)據(jù)或類似事物的企業(yè)中，事情瞬息萬(wàn)變，你就會(huì)想要這些模型能夠隨時(shí)更新?！?/span>

MLOps的實(shí)際表現(xiàn)

一年多來(lái)，谷歌一直在積極參與圍繞MLOps的對(duì)話。

但是，應(yīng)用于像谷歌這樣的公司的原則，也可以應(yīng)用于其它地方嗎？

Moroney表示，谷歌的ML團(tuán)隊(duì)關(guān)注擴(kuò)展問(wèn)題，并嘗試回答以下問(wèn)題：如何確保我們能夠?qū)Ｗ⒂跀?shù)十億用戶，而不是數(shù)千名用戶，以及擴(kuò)展過(guò)程中必須具備的服務(wù)基礎(chǔ)設(shè)施是什么？

而接下來(lái)的挑戰(zhàn)是構(gòu)建一個(gè)適當(dāng)?shù)谋O(jiān)控基礎(chǔ)設(shè)施，確保這些模型能夠以所需的參數(shù)、所需的速度運(yùn)行。

「有這么多人、這么多部分才能讓所有這些工作在一起。我們希望確保靈活性，而我們通常也以這種方式設(shè)計(jì)來(lái)基礎(chǔ)設(shè)施?！?/span>

對(duì)于初創(chuàng)公司，Monga建議人們不要像大規(guī)模運(yùn)營(yíng)的公司那樣，從頭開始構(gòu)建單個(gè)元素。

小型組織試圖通過(guò)機(jī)器學(xué)習(xí)解決的大多數(shù)問(wèn)題，許多工具都能夠解決。

Chip Huyen表示，現(xiàn)在的MLOps工具實(shí)際上在很大程度上取決于公司規(guī)模、用例和成熟度。

被問(wèn)及MLOps工具的現(xiàn)狀，吳恩達(dá)表示，在提供代碼時(shí)，性能會(huì)提高。以這種方式設(shè)計(jì)數(shù)據(jù)，不同工具之間的能力存在很大差距。

然而，Crowe認(rèn)為，擁有數(shù)學(xué)或統(tǒng)計(jì)背景的人對(duì)機(jī)器學(xué)習(xí)有很深刻的理論理解，但他們?cè)趧?chuàng)建生產(chǎn)級(jí)代碼和系統(tǒng)時(shí)仍然面臨困難。

十年前，社區(qū)開始接受深度學(xué)習(xí)，那時(shí)還不知道需要多少萬(wàn)份新穎的發(fā)明、多少研究論文，才能達(dá)到我們現(xiàn)今的發(fā)展地位。

但昔日的不解早已煙消云散。

「人們一開始質(zhì)疑TensorFlow和其它奠定基礎(chǔ)的框架。而如今，我認(rèn)為，在考慮MLOps和以數(shù)據(jù)為中心的人工智能時(shí)，隨時(shí)都有數(shù)以萬(wàn)計(jì)的想法有待發(fā)明?！?/span>

歸根結(jié)底，任何機(jī)器學(xué)習(xí)的企業(yè)都必須關(guān)心客戶對(duì)產(chǎn)品的需求，所有事情都與業(yè)務(wù)有關(guān)。

在構(gòu)建MLOps團(tuán)隊(duì)時(shí)，吳恩達(dá)推薦了一條可靠的原則：

要求團(tuán)隊(duì)進(jìn)行長(zhǎng)期、認(rèn)真的審視，確保在整個(gè)產(chǎn)品生命周期中，始終能產(chǎn)出高質(zhì)量的數(shù)據(jù)。

「職位描述里不會(huì)寫明這一點(diǎn)，許多公司都在聘請(qǐng)那些知道如何構(gòu)建和部署機(jī)器學(xué)習(xí)系統(tǒng)的人。即使在求職面試中，候選人也會(huì)被問(wèn)及機(jī)器學(xué)習(xí)部署問(wèn)題?！?/span>

「即使MLOps一詞沒(méi)有出現(xiàn)在職位描述中，但我認(rèn)為，MLOps仍然是現(xiàn)在人們需要學(xué)習(xí)的一項(xiàng)重要技能。」

參考資料：

https://analyticsindiamag.com/does-mlops-live-upto-the-hype/

-往期精彩-

吳恩達(dá)等為何力挺MLOps？告別數(shù)據(jù)漂移，又成求職敲門磚

新智元報(bào)道

【新智元導(dǎo)讀】近日，MLOps領(lǐng)域的五位專家做客Deeplearning.ai線上討論會(huì)，共同探討MLOps的發(fā)展現(xiàn)狀與意義。

什么是MLOps？

MLOps的重要性

吳恩達(dá)等為何力挺MLOps？告別數(shù)據(jù)漂移，又成求職敲門磚

【新智元導(dǎo)讀】近日，MLOps領(lǐng)域的五位專家做客Deeplearning.ai線上討論會(huì)，共同探討MLOps的發(fā)展現(xiàn)狀與意義。

什么是MLOps？