<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          國(guó)內(nèi)大模型首批牌照發(fā)放!徹底爆了

          共 2060字,需瀏覽 5分鐘

           ·

          2023-08-31 17:20

          | 首批大模型牌照今日發(fā)放
          8月31日訊,8家企業(yè)通過《生成式人工智能服務(wù)管理暫行辦法》備案,百度、字節(jié)跳動(dòng)、商湯、中科院旗下紫東太初、百川智能、智譜華章等8個(gè)企業(yè)/機(jī)構(gòu)的大模型位列第一批名單,可正式上線面向公眾提供服務(wù),國(guó)內(nèi)大模型將迎來新一波熱潮。
          作為AI愛好者,了體驗(yàn)各類五花八門的大模型在線服務(wù)外,并不能夠真正接觸到模型本身,在新一波的AI浪潮當(dāng)中怎么樣才能深度參與了解大模型的底層原理,動(dòng)手搭建和訓(xùn)練自己的大模型。
          開源社區(qū)為我們提供了一個(gè)絕佳的選項(xiàng),目前全球最強(qiáng)大的開源模型就是Llama2。

          | 初識(shí)Llama2:全球最強(qiáng)開源大模型
          Llama2是當(dāng)前全球范圍內(nèi)最強(qiáng)的開源大模型,在推理、編程、對(duì)話和知識(shí)測(cè)試等許多基準(zhǔn)測(cè)試中效果顯著優(yōu)于MPT、Falcon以及第一代LLaMA等開源大語(yǔ)言模型,也第一次媲美商用GPT-3.5,在一眾開源模型中獨(dú)樹一幟。
          但是Llama2中文預(yù)訓(xùn)練數(shù)據(jù)的比例非常少,僅占0.13%,這也導(dǎo)致了原版Llama2的中文能力較弱。

          | 如何突破Llama2中文能力極限?

          從中文預(yù)訓(xùn)練開始,持續(xù)迭代升級(jí)

          ??大規(guī)模的中文數(shù)據(jù)預(yù)訓(xùn)練

          為了增強(qiáng)Llama2的中文能力,可以采用大規(guī)模的中文數(shù)據(jù)進(jìn)行持續(xù)預(yù)訓(xùn)練,例如:百科、書籍、博客、新聞、公告、小說、代碼、專業(yè)論文等。

          ??更高效的中文詞表
          其次需要對(duì)Llama2模型的詞表進(jìn)行深度優(yōu)化,在保留原始的數(shù)學(xué)和英文字符的基礎(chǔ)上,基于大規(guī)模的中文文本擴(kuò)充中文詞表,增加emoji符號(hào)??,這樣可以提升中文編解碼速度。
          ?自適應(yīng)上下文擴(kuò)展
          Llama2模型默認(rèn)支持4K上下文,可以利用位置插值PI和Neural Tangent Kernel (NTK)方法,經(jīng)過微調(diào)將上下文長(zhǎng)度擴(kuò)增到32K。
          基于以上核心技術(shù),Llama中文社區(qū)一直致力于Llama2中文能力的突破。

          | 與技術(shù)愛好者共同前行
          Llama中文社區(qū)Github突破 4.6K star

          Llama中文社區(qū)在GitHub的技術(shù)分享涵蓋數(shù)據(jù)獲取、模型部署、微調(diào)、推理和評(píng)估等方面。無論您是專業(yè)人士還是技術(shù)愛好者,都可以獲得開源代碼和全方位支持。

          這個(gè)開源共享的理念驅(qū)使著我們不斷邁進(jìn),將創(chuàng)新的火花傳遞給每一個(gè)有志于技術(shù)發(fā)展的人。

          社區(qū)在線體驗(yàn)超過1萬(wàn)名用戶

          要部署大型模型,強(qiáng)大的算力是不可或缺的,而社區(qū)正是為此打造了一個(gè)開放的大模型體驗(yàn)平臺(tái)。平臺(tái)不僅包括原生的Meta Llama2,還有社區(qū)經(jīng)過微調(diào)的中文Llama2,同時(shí)涵蓋了最新的CodeLlama模型。

          社區(qū)的目標(biāo)是讓每個(gè)人都能輕松感受到最前沿的Llama模型,無論是從事技術(shù)研究,還是純粹的好奇探索,都能在這個(gè)平臺(tái)上體驗(yàn)。

          體驗(yàn)鏈接:https://chinese.llama.family

          在社區(qū)大牛們的共同努力下,我們?cè)诙唐趦?nèi)取得了非凡成績(jī)。

          | 中文能力躋身全球前十

          基于Llama2大模型,Llama中文社區(qū)與原子回聲攜手合作,共同鑄就了原子大模型Atom-13B。

          在權(quán)威的大模型評(píng)測(cè)榜單C-Eval的考驗(yàn)中,Atom-13B以出色的表現(xiàn)脫穎而出,榮登前十名(截至8月21日評(píng)測(cè)提交時(shí)間),成為中文大模型的佼佼者,距離GPT-4中文能力評(píng)分僅有微小差距,相差4分。


          | 作為一個(gè)AI技術(shù)愛好者

          想學(xué)習(xí)全球前十的大模型如何訓(xùn)練?

          想學(xué)習(xí)大模型基礎(chǔ)理論?

          想結(jié)合自身需求訓(xùn)練行業(yè)大模型?

          想同社區(qū)技術(shù)大佬一起成長(zhǎng)?

          社區(qū)領(lǐng)航計(jì)劃為有志成為大模型大牛的同學(xué),提供了豐富的課程,從大模型理論體系到實(shí)戰(zhàn)操作,無論是大模型小白還是研究專家,都能從中獲得最大的收獲。

          領(lǐng)航計(jì)劃第一期已圓滿結(jié)束,收獲了社區(qū)同學(xué)的熱烈好評(píng):

          部分優(yōu)秀同學(xué)證書展示:

          更多詳情見:https://llama.family/course

          應(yīng)社區(qū)同學(xué)的熱烈要求,我們現(xiàn)開啟領(lǐng)航計(jì)劃第二期報(bào)名:

          領(lǐng)航計(jì)劃第二期開啟報(bào)名

          每位同學(xué)不僅能學(xué)習(xí)課程,還能享受如下 ”7TOP“ 領(lǐng)航權(quán)益:

          掃描下方二維碼立即報(bào)名

          在Llama中文社區(qū),我們攜手共進(jìn),引領(lǐng)人工智能的未來,在領(lǐng)航計(jì)劃與頂級(jí)大牛一同開啟你的大模型之旅!??

          加入Llama中文社區(qū)

          讓我們共同促進(jìn)中文大模型的發(fā)展
          一起邁向AGI!
          以上內(nèi)容包含廣告

          瀏覽 3697
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  激情综合网五月 | 香蕉伊人视频 | 欧美性爱网站在线观看 | 天堂网av毛片 | 日韩无码电影一区 |