下載量過億的 15 個 Python 庫

來自公眾號：數(shù)據(jù)STUDIO

   

    

     

    
    

     
    
    

     
    
    

     

    
    

     今天給大家分享最近一年內(nèi)PyPI上下載量最高的Python包。現(xiàn)在我們來看看這些包的作用，他們之間的關(guān)系，以及為什么如此流行。
    
    
1. Urllib3：8.93億次下載
    
Urllib3 是 Python 的 HTTP 客戶端，它提供了許多 Python 標(biāo)準(zhǔn)庫沒有的功能。
    

     

      

       線程安全
      
     

      

       連接池
      
     

      

       客戶端 SSL/TLS 驗(yàn)證
      
     

      

       使用 multipart 編碼進(jìn)行文件上傳
      
     

      

       用于重傳請求并處理 HTTP 重定向的輔助功能
      
     

      

       支持 gzip 和 deflate 編碼
      
     

      

       支持 HTTP 和 SOCKS 代理
      
    
    
盡管名字叫做 Urllib3，但它并不是 Python 自帶的 urllib2 的后繼版本。如果你想盡可能使用 Python 的核心功能（比如由于某些限制導(dǎo)致不能安裝），那么可以看看 urllib.request。
    
對于最終用戶，我強(qiáng)烈推薦 requests 包（參考列表中的第六項(xiàng)）。Urllib3 之所以排名第一是因?yàn)閹缀?1200 個軟件包都依賴它，許多這些軟件包也都在列表中名列前茅。
    
2. Six：7.32億次下載
    
Six 是 Python 2 和 Python 3 兼容性工具。該項(xiàng)目的目的是讓代碼能夠同時(shí)在 Python 2 和 Python 3 上運(yùn)行。
    
它提供了許多函數(shù)，掩蓋了 Python 2 和 Python 3 之間的語法差異。最容易理解的例子就是six.print_()。在 Python 3 中，輸出時(shí)需要使用 print() 函數(shù)，而 Python 2 中是使用不帶括號的 print。因此，使用 six.print_() 可以同時(shí)支持兩種語言。
    
重點(diǎn)：
    

     

      

       包的名字 six 來自于2 x 3 = 6
      
     

      

       類似的庫還有 future
      
     

      

       如果想將代碼轉(zhuǎn)換成 Python 3（同時(shí)不再支持 Python 2），可以看看 2to3
      
    
    
盡管我理解該包如此流行，但還是希望人們盡快拋棄 Python 2，特別是從2020年1月1日起官方已經(jīng)不再支持 Python 2了。
    
3. botocore, boto3, s3transfer, awscli
    
這幾個項(xiàng)目放在一起說：
    

     

      

       botocore：第3名，6.6億次下載
      
     

      

       s3transfer：第7名，5.84億次下載
      
     

      

       awscli：第17名，3.94億次下載
      
     

      

       boto3：第22名，3.29億次下載
      
    
    
Botocore 是 AWS 的底層接口。botocore 是 boto3（第22名）庫的基礎(chǔ)，后者可以讓你訪問亞馬遜的S3、EC2等服務(wù)。
    
Botocore 也是 AWS-CLI 的基礎(chǔ)，后者是 AWS 的命令行界面。
    
s3transfer（第七名）是用于管理S3傳輸?shù)?Python 庫。該庫仍在開發(fā)中，它的主頁依然不建議使用，或者使用時(shí)至少要固定版本，因?yàn)榧词乖谛“姹咎栔g它的API也可能會發(fā)生變化。
    
boto3、AWS-CLI 和許多其他項(xiàng)目都依賴于 s3transfer。
    
AWS 相關(guān)的庫的排名如此高，正說明了 AWS 的服務(wù)是多么流行。
    
4. Pip：6.27億2次下載
    
我猜許多人都知道并且喜愛 pip（Python的包安裝工具）。使用 pip 從 Python Package Index和其他倉庫（如本地鏡像或包含私有軟件的自定義倉庫等）安裝軟件包不費(fèi)吹灰之力。
    
關(guān)于 pip 的趣事
    

     

      

       Pip 的名字是個遞歸定義：Pip Installs Packages
      
     

      

       Pip 非常容易使用。安裝一個軟件包只需要執(zhí)行 pip install <軟件包名>。刪除只需要執(zhí)行 pip uninstall <軟件包名>。
      
     

      

       Pip 最大的好處就是它可以安裝一系列包，通常會放在 requirements.txt 文件中。該文件還可以指定每個包的詳細(xì)版本號。絕大多數(shù) Python 項(xiàng)目都會包含這個文件。
      
     

      

       與 virtualenv（第57名）結(jié)合使用 pip，可以創(chuàng)建可預(yù)測的、獨(dú)立的環(huán)境，而不會與系統(tǒng)本身的環(huán)境互相影響。
      
    
    
5. python-dateutil：6.17億次下載
    
Python-dateutil 模塊為標(biāo)準(zhǔn)的 datetime 模塊提供了強(qiáng)大的功能擴(kuò)展。普通的 Python datetime 無法做到的事情都可以使用 python-dateutil 完成。
    
用這個庫可以完成許多非常酷的功能。我只舉一個非常有用的例子：從日志文件中模糊解析日期字符串：
    
from dateutil.parser import parse

logline =  INFO 2020-01-01T00:00:01 Happy new year, human.
timestamp = parse(log_line, fuzzy=True)
print(timestamp)
# 2020-01-01 00:00:01

    
6. requests:6.11億次下載
    
Requests 基于下載量第一的庫 urllib3。有了它，發(fā)送請求變得極其簡單。許多人對 requests 的喜愛超過了 urllib3，因此 requets 的最終用戶可能比 urllib3 還要多。后者更底層，通常作為其他項(xiàng)目的依賴出現(xiàn)。
    
下面的例子演示了 requests 有多么容易使用：
    
import requests

r = requests.get( https://api.github.com/user , auth=( user ,  pass ))
r.status_code
# 200
r.headers[ content-type ]
#  application/json; charset=utf8
r.encoding
#  utf-8
r.text
# u {"type":"User"...
r.json()
# {u disk_usage : 368627, u private_gists : 484, ...}

    
7. s3transfer
    
第3、7、17和22名互相關(guān)聯(lián)，所以請參見第3名的介紹。
    
8. Certifi：5.52億次下載
    
近年來，幾乎所有網(wǎng)站都開始使用SSL，這一點(diǎn)可以從地址欄中的鎖圖標(biāo)看出來，該圖標(biāo)的意思是網(wǎng)站是安全的、加密的，可以避免竊聽。加密基于SSL證書，SSL證書由可信的公司或非營利組織負(fù)責(zé)簽發(fā)，如 LetsEncrypt。這些組織會對利用它們的證書對簽發(fā)的證書進(jìn)行數(shù)字簽名。
    
利用這些證書的公開部分，瀏覽器就可以驗(yàn)證網(wǎng)站的簽名，從而證明你訪問的是真正的網(wǎng)站，而且別人沒有在竊聽數(shù)據(jù)。
    
Python 也可以做到同樣的功能，這就需要用到 certifi。它和 Chrome、Firefox 和 Edge 等Web瀏覽器中包含的根證書集合沒有什么區(qū)別。
    
Certifi 是一個根證書集合，這樣 Python 代碼就可以驗(yàn)證SSL證書的可信度。
    
許多項(xiàng)目都信賴并依賴 certifi，可以在這里看到這些項(xiàng)目。這也是為何該項(xiàng)目排名如此高的原因。
    
9. Idna：5.27億次下載
    
根據(jù) PyPI 的頁面，idna提供“對于RFC5891中定義的IDNA協(xié)議（Internationalised Domain Names in Applications）的支持”。
    
我們來看看 idna 是什么意思：
    
IDNA 是處理包含非 ASCII 字符的域名的規(guī)則。但原始的域名不是已經(jīng)支持非 ASCII 字符了嗎？那么問題何在？
    
問題是許多應(yīng)用程序（如Email客戶端和Web瀏覽器等）并不支持非 ASCII 字符。或者更具體地說，Email 和 HTTP 協(xié)議并不支持這些字符。
    
在許多國家這并不是問題，但像中國、俄羅斯、德國、印尼等國家就很不方便。因此，這些國家的一些聰明人聯(lián)合起來提出了 IDNA，也并非完全偶然。
    
IDNA 的核心是兩個函數(shù)：ToASCII 和 ToUnicode。ToASCCI 會將國際化的 Unicode 域名轉(zhuǎn)換成 ASCII 字符串，而 ToUnicode 會做相反的處理。在 IDNA 包中，這兩個函數(shù)叫做 idna.encode() 和 idna.decode()，參見下面的例子：
    
import idna
idna.encode( ドメイン.テスト )
# b xn--eckwd4c7c.xn--zckzah
print(idna.decode( xn--eckwd4c7c.xn--zckzah ))
# ドメイン.テスト

    
10. PyYAML：5.25億次下載
    
YAML 是一種數(shù)據(jù)序列化格式。它的設(shè)計(jì)目標(biāo)是同時(shí)方便人類和機(jī)器閱讀——人類很容易讀懂，計(jì)算機(jī)解析也不難。
    
PyYAML 是 Python 的 YAM 解析器和編碼器，也就是說它可以讀寫 YAML 格式。它可以將任何 Python 對象編碼為 YAML：列表，字典，甚至類實(shí)例都可以。
    
Python 提供了自己的配置管理器，但 YAML 提供的功能遠(yuǎn)勝于 Python 自帶的 ConfigParser（只能使用最基本的.ini文件）。
    
例如，YAML 能存儲任何數(shù)據(jù)類型：boolean，list，float等。ConfigParse 的內(nèi)部一切都保存為字符串。如果你要用 ConfigParser 來加載證書，就需要指明你需要的是整數(shù)：
    
config.getint(“section”, “my_int”)

    
而 pyyaml 能夠自動識別類型，因此只需這樣就能獲得 int：
    
config[“section”][“my_int”]

    
YAML 還允許任意深度的嵌套，盡管并非每個項(xiàng)目都需要，但非常方便。
    
你可以自行決定使用哪一個，但許多項(xiàng)目都使用 YAML 作為配置文件，因此該項(xiàng)目的流行度非常高。
    
11. pyasn1：5.12億次下載
    
像 IDNA 一樣，這個項(xiàng)目的描述的信息量也非常大：
    
ASN.1 類型和 DER/BER/CER 編碼（X.208）的純 Python 實(shí)現(xiàn)。
    
幸運(yùn)的是，我們依然能找到這個幾十年之久的標(biāo)準(zhǔn)的許多資料。ASN.1 是 Abstract Syntax Notation One（抽象語法記法一）的縮寫，是數(shù)據(jù)序列化的鼻祖。它來自于通訊行業(yè)。也許你知道 protocol buffer 或者 Apache Thrift 吧？ASN.1正是它們的1984年版本。ASN.1 描述了一種不同系統(tǒng)之間的跨平臺的接口，可以通過該接口發(fā)送數(shù)據(jù)結(jié)構(gòu)。
    
還記得第8名的 certifi 嗎？ASN.1 用于定義 HTTPS 協(xié)議以及許多其他加密系統(tǒng)中使用的證書的格式。ASN.1 還廣泛用于 SNMP、LDAP、Kerberos、UMTS、LTE 和 VOIP 等協(xié)議中。
    
它是個非常復(fù)雜的標(biāo)準(zhǔn)，人們已經(jīng)發(fā)現(xiàn)某些實(shí)現(xiàn)充滿了脆弱性。
    
你可以看看 Reddit 上的這個關(guān)于 ASN.1 的討論
    
（https://www.reddit.com/r/programming/comments/1hf7ds/useful_old_technologies_asn1/）。
    
除非真正必要，否則我建議不要使用它。但由于許多地方都在使用該協(xié)議，因此許多包都依賴于它。
    
12. docutils：5.08億次下載
    
Docutils 是一個模塊化系統(tǒng)，用于將純文本文檔轉(zhuǎn)換成其他格式，如 HTML、XML 和 LaTeX等。docutils 可以讀取 reStructuredText 格式（一種類似于 MarkDown 的容易閱讀的格式）的純文本文檔。
    
我猜你一定聽說過 PEP 文檔，甚至可能閱讀過。PEP 文檔是什么？
    
PEP 的意思是 Python Enhanced Proposal（Python增強(qiáng)提案）。PEP 是一篇設(shè)計(jì)文檔，用于給 Pytho n社區(qū)提供信息，或者為 Python（或其處理器、環(huán)境）描述一個新特性。PEP 應(yīng)該提供特性的精確的技術(shù)標(biāo)準(zhǔn)，并給出該特性的理由。
    
PEP 文檔就是使用固定的 reStructuredText 模板，然后通過 docutils 轉(zhuǎn)換成漂亮的文檔。
    
Sphinx 的核心也使用了 docutils。Sphinx 用于創(chuàng)建文檔項(xiàng)目。如果說 docutils 是一臺機(jī)器，那么 Sphinx 就是一個工廠。它的最初設(shè)計(jì)目的是構(gòu)建P ython 本身的文檔，但許多其他項(xiàng)目也利用 Sphinx 來創(chuàng)建文檔。
    
你一定讀過 readthedocs.org 上的文檔吧？那里的文檔都是使用 Sphinx 和 docutils 創(chuàng)建的。
    
13. Chardet：5.01億下載
    
你可以使用 chardet 模塊來檢查文件或數(shù)據(jù)流的字符集。在分析大量隨機(jī)的文本時(shí)這個功能非常有用。但也可以用來判斷遠(yuǎn)程下載的數(shù)據(jù)的字符串。
    
在安裝 chardet 后，就可以使用命令行工具 chardetect，使用方法如下：
    
chardetect somefile.txt
somefile.txt: ascii with confidence 1.0

    
也可以在程序中使用該庫，
    
參見文檔（https://chardet.readthedocs.io/en/latest/usage.html）。
    
Requests 和許多其他包都依賴于 chardet。我估計(jì)不會有太多人直接使用 chardet，所以它的流行度肯定是來自于這些依賴。
    
14. RSA：4.92億次下載
    
Rsa是 RSA 的純 Python 實(shí)現(xiàn)。它支持如下功能：
    

     

      

       加密和解密
      
     

      

       簽名和簽名驗(yàn)證
      
     

      

       根據(jù) PKCS#1 version 1.5生成秘鑰
      
    
    
它可以作為 Python 庫使用，也可以在命令行上使用。
    

     

      

       RSA 名稱中的三個字母來自于三個人的姓：Ron Rivest，Adi Shamir，和Leonard Adleman。他們于1977年發(fā)明了該算法。
      
     

      

       RSA 是最早出現(xiàn)的一批公鑰加密系統(tǒng)，廣泛用于安全數(shù)據(jù)傳輸。這種加密系統(tǒng)包括兩個秘鑰：一個是公鑰，一個是私鑰。使用公鑰加密數(shù)據(jù)，然后該數(shù)據(jù)只能用私鑰進(jìn)行解密。
      
     

      

       RSA 算法很慢。通常并不使用 RSA 算法直接加密用戶數(shù)據(jù)，而是用它來加密對稱加密系統(tǒng)中使用的共享秘鑰，因?yàn)閷ΨQ加密系統(tǒng)速度很快，適合用來加密大量數(shù)據(jù)。
      
    
    
下面代碼演示了 RSA 的使用方法：
    
import rsa

# Bob creates a key pair:
(bob_pub, bob_priv) = rsa.newkeys(512)

# Alice ecnrypts a message for Bob
# with his public key
crypto = rsa.encrypt( hello Bob! , bob_pub)

# When Bob gets the message, he
# decrypts it with his private key:
message = rsa.decrypt(crypto, bob_priv)
print(message.decode( utf8 ))
# hello Bob!

    
假設(shè) Bob 擁有私鑰 private，Alice 就能確信只有 Bob 才能閱讀該信息。
    
但 Bob 并不能確信 Alice 是信息的發(fā)送者，因?yàn)槿魏稳硕伎梢垣@得 Bob 的公鑰。為了證明發(fā)送者的確是 Alice，她可以使用自己的私鑰對信息進(jìn)行簽名。Bob 可以使用 Alice 的公鑰對簽名進(jìn)行驗(yàn)證，來確保發(fā)送者的確是 Alice。
    
許多其他包都依賴于 rsa，如 google-auth（第37名），oauthlib（第54名），awscli（第17名）。這個包并不會經(jīng)常被直接使用，因?yàn)橛性S多更快、更原生的方法。
    
15. Jmespath：4.73億次下載
    
在 Python 中使用 JSON 很容易，因?yàn)?JSON 可以完美地映射到 Python 的字典上。我認(rèn)為這是最好的特性之一。
    
說實(shí)話我從來沒聽說過 jmepath 這個包，盡管我使用過很多 JSON。我會使用 json.loads() 然后手動從字典中讀取數(shù)據(jù)，或許還得寫幾個循環(huán)。
    
JMESPath，讀作“James path”，能更容易地在 Python 中使用 JSON。你可以用聲明的方式定義怎樣從 JSON 文檔中讀取數(shù)據(jù)。下面是一些最基本的例子：
    
import jmespath

# Get a specific element
d = {"foo": {"bar": "baz"}}
print(jmespath.search( foo.bar , d))
# baz

# Using a wildcard to get all names
d = {"foo": {"bar": [{"name": "one"}, {"name": "two"}]}}
print(jmespath.search( foo.bar[*].name , d))
# [“one”, “two”]

    
這僅僅是它的冰山一角。更多用法參見它的文檔和 PyPI 主頁。
   

   

    
     

      

     

推薦小碼哥新書！
小碼哥新手《Python + Excel/Word/PPT一本通》正式上市了！書中詳細(xì)介紹了零基礎(chǔ)用Python實(shí)現(xiàn)辦公自動化的各方面知識，提高職場辦公效率，附贈PPT/源代碼/重點(diǎn)教學(xué)視頻講解和作者VIP一對一指導(dǎo)。

內(nèi)容介紹：《Python + Excel/Word/PPT 一本通》內(nèi)容介紹

       

        

         

          

           

            

             

            
           
          
         
        
       
       

        

        

       

掃碼購買


▼點(diǎn)擊閱讀原文，了解本書詳情