PyText基于 PyTorch 的 NLP 建模框架

PyText 是一個基于 PyTorch 構(gòu)建的深度學(xué)習(xí) NLP 建模框架。PyText 通過為模型組件提供簡單且可擴(kuò)展的接口和抽象，以及使用 PyTorch 的 Caffe2 執(zhí)行引擎導(dǎo)出模型進(jìn)行推理的功能，模糊了實驗與大規(guī)模部署之間的界限。其預(yù)訓(xùn)練模型包括文本分類、序列標(biāo)注等。

PyTorch 是一個統(tǒng)一的框架，縮短了從研究到生產(chǎn)的路徑，而基于 PyTorch 的 PyText 則著眼于滿足 NLP 建模的特定需求。

核心特性：

- 適用于各種 NLP/NLU 任務(wù)的生產(chǎn)就緒模型

• 文本分類

  • Yoon Kim (2014): Convolutional Neural Networks for Sentence Classification

  • Lin et al. (2017): A Structured Self-attentive Sentence Embedding

• 序列標(biāo)注

  • Lample et al. (2016): Neural Architectures for Named Entity Recognition

• 聯(lián)合意圖時隙模型（Joint intent-slot model）

  • Zhang et al. (2016): A Joint Model of Intent Determination and Slot Filling for Spoken Language Understanding

• 上下文意圖-時隙模型（Contextual intent-slot models）

- 支持在 PyTorch 1.0 中基于新 C10d 后端構(gòu)建的分布式訓(xùn)練

- 可擴(kuò)展組件，可輕松創(chuàng)建新模型和任務(wù)

- 參考實現(xiàn)和預(yù)訓(xùn)練模型論文：Gupta et al. (2018): Semantic Parsing for Task Oriented Dialog using Hierarchical Representations

- 支持聯(lián)合訓(xùn)練