Python 下載大文件，哪種方式速度更快
點(diǎn)擊上方“菜學(xué)Python”，選擇“星標(biāo)”公眾號(hào)
超級(jí)無(wú)敵干貨，第一時(shí)間送達(dá)！！！
大家好，我是菜鳥(niǎo)哥。
通常，我們都會(huì)用 requests 庫(kù)去下載，這個(gè)庫(kù)用起來(lái)太方便了。
方法一
使用以下流式代碼，無(wú)論下載文件的大小如何，Python 內(nèi)存占用都不會(huì)增加：
def download_file(url):
local_filename = url.split('/')[-1]
# 注意傳入?yún)?shù) stream=True
with requests.get(url, stream=True) as r:
r.raise_for_status()
with open(local_filename, 'wb') as f:
for chunk in r.iter_content(chunk_size=8192):
f.write(chunk)
return local_filename
如果你有對(duì) chunk 編碼的需求，那就不該傳入 chunk_size 參數(shù)，且應(yīng)該有 if 判斷。
def download_file(url):
local_filename = url.split('/')[-1]
# 注意傳入?yún)?shù) stream=True
with requests.get(url, stream=True) as r:
r.raise_for_status()
with open(local_filename, 'w') as f:
for chunk in r.iter_content():
if chunk:
f.write(chunk.decode("utf-8"))
return local_filename
iter_content[1] 函數(shù)本身也可以解碼，只需要傳入?yún)?shù) decode_unicode = True 即可。
請(qǐng)注意，使用 iter_content 返回的字節(jié)數(shù)并不完全是 chunk_size，它是一個(gè)通常更大的隨機(jī)數(shù)，并且預(yù)計(jì)在每次迭代中都會(huì)有所不同。
方法二
使用 Response.raw[2] 和 shutil.copyfileobj[3]
import requests
import shutil
def download_file(url):
local_filename = url.split('/')[-1]
with requests.get(url, stream=True) as r:
with open(local_filename, 'wb') as f:
shutil.copyfileobj(r.raw, f)
return local_filename
這將文件流式傳輸?shù)酱疟P而不使用過(guò)多的內(nèi)存，并且代碼更簡(jiǎn)單。
注意：根據(jù)文檔，Response.raw 不會(huì)解碼，因此如果需要可以手動(dòng)替換 r.raw.read 方法
response.raw.read = functools.partial(response.raw.read, decode_content=True)
速度
方法二更快。方法一如果 2-3 MB/s 的話，方法二可以達(dá)到近 40 MB/s。
推薦閱讀:
入門: 最全的零基礎(chǔ)學(xué)Python的問(wèn)題 | 零基礎(chǔ)學(xué)了8個(gè)月的Python | 實(shí)戰(zhàn)項(xiàng)目 |學(xué)Python就是這條捷徑
干貨:爬取豆瓣短評(píng)，電影《后來(lái)的我們》 | 38年NBA最佳球員分析 | 從萬(wàn)眾期待到口碑撲街！唐探3令人失望 | 笑看新倚天屠龍記 | 燈謎答題王 ｜用Python做個(gè)海量小姐姐素描圖 ｜碟中諜這么火，我用機(jī)器學(xué)習(xí)做個(gè)迷你推薦系統(tǒng)電影
趣味:彈球游戲 | 九宮格 | 漂亮的花 | 兩百行Python《天天酷跑》游戲!
AI: 會(huì)做詩(shī)的機(jī)器人 | 給圖片上色 | 預(yù)測(cè)收入 | 碟中諜這么火，我用機(jī)器學(xué)習(xí)做個(gè)迷你推薦系統(tǒng)電影
小工具: Pdf轉(zhuǎn)Word，輕松搞定表格和水印！ | 一鍵把html網(wǎng)頁(yè)保存為pdf！| 再見(jiàn)PDF提取收費(fèi)！ | 用90行代碼打造最強(qiáng)PDF轉(zhuǎn)換器，word、PPT、excel、markdown、html一鍵轉(zhuǎn)換 | 制作一款釘釘?shù)蛢r(jià)機(jī)票提示器！ ｜60行代碼做了一個(gè)語(yǔ)音壁紙切換器天天看小姐姐！｜
年度爆款文案
點(diǎn)閱讀原文，看B站我的視頻！
