中國人民大學(xué)《大語言模型》書籍中文版開放下載！還配套代碼工具庫~
共 1812字，需瀏覽 4分鐘
·
2024-04-29 11:00
大語言模型綜述文章《A Survey of Large Language Models》團(tuán)隊(duì)終于出書啦！而且是中文版——《大語言模型》！這本書整理呈現(xiàn)了大模型技術(shù)框架和路線圖，是一本非常好的入門書籍。?????? 此外，官方不僅發(fā)布了電子版 PDF 下載鏈接，還提供了配套資源。點(diǎn)贊 ??圖書下載 → [大語言模型]
??關(guān)注公眾號(hào)，后臺(tái)回復(fù)：大語言模型
以下是書籍大綱，如果有你感興趣的內(nèi)容，可以直接下載和閱讀啦！
第一部分 背景與基礎(chǔ)知識(shí) 第一章 引言 - 1.1 語言模型的發(fā)展歷程 - 1.2 大語言模型的能力特點(diǎn) - 1.3 大語言模型關(guān)鍵技術(shù)概覽 - 1.4 大語言模型對科技發(fā)展的影響 - 1.5 本書的內(nèi)容組織 第二章 基礎(chǔ)介紹 - 2.1 大語言模型的構(gòu)建過程 - 2.2 擴(kuò)展法則 - 2.3 涌現(xiàn)能力 - 2.4 GPT 系列模型的技術(shù)演變 第三章 大語言模型資源 - 3.1 公開可用的模型檢查點(diǎn)或 API - 3.2 常用的預(yù)訓(xùn)練數(shù)據(jù)集 - 3.3 常用微調(diào)數(shù)據(jù)集 - 3.4 代碼庫資源 第二部分 預(yù)訓(xùn)練 第四章 數(shù)據(jù)準(zhǔn)備 - 4.1 數(shù)據(jù)來源 - 4.2 數(shù)據(jù)預(yù)處理 - 4.3 詞元化 (分詞) - 4.4 數(shù)據(jù)調(diào)度 第五章 模型架構(gòu) - 5.1 Transformer 模型 - 5.2 詳細(xì)配置 - 5.3 主流架構(gòu) - 5.4 長上下文模型 - 5.5 新型模型架構(gòu) 第六章 模型預(yù)訓(xùn)練 - 6.1 預(yù)訓(xùn)練任務(wù) - 6.2 優(yōu)化參數(shù)設(shè)置 - 6.3 可擴(kuò)展的訓(xùn)練技術(shù) - 6.4 模型參數(shù)量計(jì)算與效率分析 - 6.5 預(yù)訓(xùn)練代碼實(shí)踐 第三部分 微調(diào)與對齊 第七章 指令微調(diào) - 7.1 指令數(shù)據(jù)的構(gòu)建 - 7.2 指令微調(diào)的訓(xùn)練策略 - 7.3 參數(shù)高效的模型微調(diào) - 7.4 代碼實(shí)踐與分析 第八章 人類對齊 - 8.1 人類對齊的背景與標(biāo)準(zhǔn) - 8.2 基于人類反饋的強(qiáng)化學(xué)習(xí) - 8.3 非強(qiáng)化學(xué)習(xí)的對齊方法 - 8.4 關(guān)于 SFT 和 RLHF 的進(jìn)一步討論 第四部分 大模型使用 第九章 解碼與部署 - 9.1 解碼策略 - 9.2 解碼加速算法 - 9.3 低資源部署策略 - 9.4 其他模型壓縮方法 第十章 提示學(xué)習(xí) - 10.1 基礎(chǔ)提示 - 10.2 上下文學(xué)習(xí) - 10.3 思維鏈提示 第十一章 規(guī)劃與智能體 - 11.1 基于大語言模型的規(guī)劃 - 11.2 基于大語言模型的智能體 第五部分 評測與應(yīng)用 第十二章 評測 - 12.1 評測指標(biāo)與評測方法 - 12.2 基礎(chǔ)能力評測 - 12.3 高級(jí)能力評測 - 12.4 公開綜合評測體系 第十三章 應(yīng)用 - 13.1 大語言模型在研究領(lǐng)域的應(yīng)用 - 13.2 大語言模型在專業(yè)領(lǐng)域的應(yīng)用
圖書下載 → [大語言模型]
??關(guān)注公眾號(hào)，后臺(tái)回復(fù)：大語言模型
如此“爬蟲”？代碼全省了
用 R Bookdown 做本書，上線
吳恩達(dá)最新短課，大模型系列
ChatGPT、大模型、AI資料分享群 本地運(yùn)行 Llama 3，可以中文，但不強(qiáng)
Jekyll + Vercel搭建個(gè)人博客，完整教程