手把手教你本地運(yùn)行Meta最新大模型:Llama 3.1,驚奇發(fā)現(xiàn)他說自己是ChatGPT?
共 1263字,需瀏覽 3分鐘
·
2024-07-25 11:00
昨晚,Meta發(fā)布了最新最強(qiáng)的開源大模型:Llama 3.1。
該模型共有三個(gè)版本:
? 8B
? 70B
? 405B
對(duì)于這次發(fā)布,Meta已經(jīng)在超過150個(gè)涵蓋廣泛語言范圍的基準(zhǔn)數(shù)據(jù)集上評(píng)估了性能。此外,Meta還進(jìn)行了廣泛的人工評(píng)估,在現(xiàn)實(shí)場(chǎng)景中將Llama 3.1與競(jìng)爭(zhēng)模型進(jìn)行比較。Meta的實(shí)驗(yàn)評(píng)估表明:
405B版本的評(píng)估數(shù)據(jù)與目前最強(qiáng)的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不錯(cuò)的競(jìng)爭(zhēng)力:
此外,8B和70B版本與具有相似參數(shù)規(guī)模的模型相比也有相同甚至更好的表現(xiàn):
使用 ollama 運(yùn)行 Llama3.1
下面就來嘗個(gè)鮮,手把手在本地把Llama3.1的8B版本跑起來。只要跟著下面的步驟做,你不需要有任何技術(shù)背景,也能完成。
1. 安裝 ollama
前往官網(wǎng)下載最新的 Ollama:https://ollama.com/
1. 下載完成之后,打開安裝程序,并完成安裝步驟。
2. 打開終端,執(zhí)行命令:
ollama run llama3.1
等待模型下載完成
3. 完成模型下載,如下圖所示:
已經(jīng)彈出提示:Send a message,可以與AI進(jìn)行互動(dòng)了。
4. 測(cè)試一下,嘗試讓他教我學(xué)習(xí)Java?
彩蛋
最后,常規(guī)操作,問一下你是誰:
啥情況?是ChatGPT?看到這里的小伙伴也試試看,也是一樣的結(jié)果嗎?有朋友知道為什么嗎?知道的評(píng)論區(qū)求解。
我們創(chuàng)建了一個(gè)高質(zhì)量的技術(shù)交流群,與優(yōu)秀的人在一起,自己也會(huì)優(yōu)秀起來,趕緊點(diǎn)擊加群,享受一起成長(zhǎng)的快樂。
推薦閱讀
用十條優(yōu)化措施,將Redis費(fèi)用降本46萬/月
