算力都用不起，還談什么元宇宙，AGI

---

  新智元報道  

編輯：yaxin 好困

【新智元導讀】人工智能技術大爆發(fā)，算力成為當下的最大需求。各地爭建智算中心，但暗礁重重。站在人類歷史這樣更大的時空維度上，我想這一切剛剛開始。

未來十年，是AI算力的「超摩爾時代」。

 

要說2021年科技界最火的概念是什么？那便是「元宇宙」。

 

《黑客帝國》、《頭號玩家》里的世界真的會來臨嗎？未來不是沒有可能！

 

 

要想實現(xiàn)元宇宙，最基礎，最重要的「能源」便是來自算力。

 

因為算力支撐著元宇宙虛擬內(nèi)容的創(chuàng)作與體驗，更加真實的建模與交互需要更強的算力作為前提。

 

再倒回去看2020年，GPT-3模型可謂是當紅流量明星。

 

能寫小說、能與人聊天、還能下象棋...... 曾被冠以最「全能」語言模型的稱號。

 

 

1750億參數(shù)，GPT-3能取得驚人的成就，靠的不僅是算法的提升，還有「算力的加成」。

 

微軟還為其建了一個5億美元的超算中心，裝載了1萬張英偉達GPU，僅訓練就消耗了它355個GPU年的算力!

 

而距離GPT-3問世不到一年，更大更復雜的語言模型，即超過一萬億參數(shù)的語言模型Switch Transformer已問世。

 

眾所周知，AI的三大支柱分別是數(shù)據(jù)、算法、算力。

 

在人工智能發(fā)展的三要素中，無論是數(shù)據(jù)還是算法，都離不開算力的支撐。

 

 

目前，人工智能所需算力每2個月即翻一倍，承載AI新型算力基礎設施的供給水平，將直接影響AI創(chuàng)新迭代及產(chǎn)業(yè)AI應用落地。

 

要說這個夏天AI領域有什么熱點，那一定少不了全國各地爭建的人工智能計算中心。

 

在政策扶持、需求牽引下，智算中心「落地潮」在上海、大連、西安等多地被快速掀起。

但問題與挑戰(zhàn)也隨之而來...

 

問題不簡單

9月11日，國家工業(yè)信息安全發(fā)展研究中心最新發(fā)布了《新一代人工智能算力基礎設施發(fā)展研究報告》。

 

報告指出，國內(nèi)新一代人工智能算力基礎設施的建設依然面臨著頂層制度建設和標準體系不統(tǒng)一的問題。

 

其中最為突出的表現(xiàn)：

 

一是市場對算力的概念混淆，導致建設方向和建設需求錯位；

 

二是行業(yè)定價標準混亂，針對人工智能算力基礎設施建設的價格標準并未統(tǒng)一，各地同等規(guī)模項目的價格相差巨大。

 

再者，在建設思路上，我國大多數(shù)計算中心采取了算力性能發(fā)展優(yōu)先，再拉動應用發(fā)展的策略，忽視上層應用遷移及兼容程度，導致算力系統(tǒng)的初期應用效率偏低，無法完全支撐全面的智能化應用場景需求；

 

此外，軟硬件核心技術受制國外、重復建設、高能耗等問題，也亟待突圍。

 

總之，重點在以下兩方面該如何解決：如何讓建設價格更普惠些？如何讓智算中心更開放兼容？

貴得離譜？算力需普惠

買不起，用不起，算力成為這個時代最昂貴的「奢侈品」。

 

還談什么元宇宙，AGI。

 

一份公開資料顯示，2020年城市A的智能計算中心，每100P Flops (每秒10億億次浮點運算)16位精度的算力建設成本為7500萬元。

 

而2021年城市B同等精度下的100P FLops算力建設成本卻達到了4.6億元，這簡直是天壤之別。

 

再比如，今年8月份某城市智算中心一期項目的招標公告引起業(yè)界廣泛關注。

 

內(nèi)容顯示，該項目預算約為10.89億元，其中項目首期方案設計提供半精度浮點運算峰值總算力不低于300P的人工智能計算能力，折合每100PFLOPS FP16算力價格為3.6億。

 

國家工信安全中心副總工程師黃鵬表示，「現(xiàn)在的價格差距很大，各個地方政府建智算中心的投入差距也很大，之前有一個數(shù)據(jù)，最高的兩個智算中心規(guī)模差不多的情況下價格差了6倍多。」

 

 

「比如說東西部本身就有差異，價格和能耗、成本不是很一樣，人員成本也不是很一樣，但是差了六倍就有點夸張了。」

 

綜合來看，智算中心建設的成本包括：一是基礎設施的廠房建設；二是服務器、芯片等建立智算中心相關的設備和產(chǎn)品；三是后期的運維成本、電費等等。

 

黃鵬表示，「通過初步計算，滿足基本智算中心的建設也得一兩個億起步的投入規(guī)模。」

 

從過往經(jīng)驗來看，商品過于昂貴會導致很難普惠于民，像早期的電腦、手機等。

 

同樣，智算中心建設價格過高讓學術界，產(chǎn)業(yè)界無法真正用的起，反之會影響之后的應用和落地。

 

如果無法做到價格普惠，沒有廣泛的應用做支撐，那么這種AI算力中心很難在商業(yè)上形成正循環(huán)，大量算力會處于閑置狀態(tài)。

 

隨著IT技術日新月異被淘汰，逐步成為破銅爛鐵。

 

因此，AI計算中心建設亟需一劑「普惠算力」良方。

 

 

目前，可以從「降低門檻」和「規(guī)范價格」兩條路徑來打破價格亂象。

 

要推動平臺服務和技術的開源，通過降低應用門檻，讓學術界、產(chǎn)業(yè)界，甚至普通民眾都用上人工智能。

 

比如，報告指出，美國國家科學基金會投入2000萬美元，聯(lián)合三大超算中心及九所高校，構建面向全國的下一代人工智能網(wǎng)絡基礎設，推動平臺服務和技術的開源。

 

市場加強監(jiān)管，出臺相關標準體系。推動算力定價標準建設，合理控制智算中心建設成本，為區(qū)域智算產(chǎn)業(yè)發(fā)展提供重要參考依據(jù)。

 

《新一代人工智能算力基礎設施發(fā)展研究報告》同樣指出，應當推動算力定價標準建設，為區(qū)域智算產(chǎn)業(yè)發(fā)展提供重要依據(jù)。

 

報告顯示，中科院人工智能產(chǎn)學研創(chuàng)新聯(lián)盟為新一代智算平臺給出了算力價格標準方案：在同時具備5P雙精度算力（64位）、25P單精度算力（32位）和100P半精度算力（16位）的情況下，智能計算中心的基礎設施價格約為1億-1.5億。

 

照此一來，智算中心才能實現(xiàn)真正的普惠。

開放兼容釋放「算力狂魔」

高精度算力是一種「通用算力」，可以承擔人工智能訓練、推理、模擬等各種計算任務，功耗和成本較高；而低精度算力是一種「專用算力」，通常僅能用于推理或部分訓練，功耗和成本也相對較低。

 

由于不同應用場景對算力的精度需求各不相同，因此新一代智算中心應該具有多元的算力。

 

比如科學和工程計算對算力精度的要求最高，需要使用64位雙精度。

 

而對AI模型的訓練主要使用32位單精度和16位半精度，推理階段則是16位半精度。

 

當實現(xiàn)了從高精度到低精度算力的全覆蓋，才能真正釋放算力的價值。

 

此外，在開源技術快速發(fā)展的當下，新一代智算中心也需要去兼容主流的開源軟件和架構。

 

在算法方面，商湯在上海的智算中心應用了OpenMMLab人工智能算法開源體系，并開源了超過130種算法和1000種預訓練模型。

 

 

在模型架構方面，中科院的新一代智算中心可以適配TensorFlow、PyTorch、百度飛槳、曠視天元等20多個國內(nèi)外主流的機器學習和深度學習框架，以及Hadoop、Spark等近20個數(shù)據(jù)處理架構。

 

 

《報告》顯示，在多元的算力和架構的共同加持下，預計智算中心在未來可以支持 80%以上的人工智能應用軟件，從而滿足智慧城市、自動駕駛等不同的應用場景。

 

此外，現(xiàn)實中，公共人工智能計算中心的適用范圍可能出現(xiàn)「偏科」問題。

 

智能計算中心的發(fā)展主要涉及到語言、圖像處理類，決策類和自然語言處理三大類，不同的應用場景適配不同的算力中心是發(fā)展的關鍵一步。

 

 

如果構建的人工智能計算中心過于「?！?，僅支持部分應用場景，這將使其發(fā)揮的作用大打折扣。

 

因此，新一代人工智能算力基礎設施建設應當融合不同算力，打造一個綜合型智能計算平臺，從高精度到低精度實現(xiàn)全覆蓋。

  

只有這樣才能真正釋放「算力狂魔」。

 

 

在AI時代，只有把聚合起來的算力，高效流通和分配出去，才能促進千行百業(yè)的生產(chǎn)。

 

這便是新一代人工智能計算中心亟待解決的問題。