Hugging Face Transformers用于 Pytorch/TensorFlow/JAX 的自然語言處理

Transformers 是為 Jax、PyTorch 和 TensorFlow 打造的先進的自然語言處理。Transformers 提供了數(shù)以千計的預(yù)訓(xùn)練模型，支持 100 多種語言的文本分類、信息抽取、問答、摘要、翻譯、文本生成。它的宗旨讓最先進的 NLP 技術(shù)人人易用。

Transformers 提供了便于快速下載和使用的API，讓你可以把預(yù)訓(xùn)練模型用在給定文本、在你的數(shù)據(jù)集上微調(diào)然后通過 model hub 與社區(qū)共享。同時，每個定義的 Python 模塊均完全獨立，方便修改和快速研究實驗。

Transformers 支持三個最熱門的深度學(xué)習(xí)庫： Jax, PyTorch and TensorFlow — 并與之無縫整合。你可以直接使用一個框架訓(xùn)練你的模型然后用另一個加載和推理。

你可以直接在模型頁面上測試大多數(shù) model hub 上的模型。官方也提供了 私有模型托管、模型版本管理以及推理API。

一些例子：

• 用 BERT 做掩碼填詞
• 用 Electra 做命名實體識別
• 用 GPT-2 做文本生成
• 用 RoBERTa 做自然語言推理
• 用 BART 做文本摘要
• 用 DistilBERT 做問答
• 用 T5 做翻譯