python爬蟲學(xué)習(xí)教程：智能翻頁批量下載文件
python爬蟲遇到爬取文件內(nèi)容時(shí)，需要一頁頁的翻頁爬取，這樣很是麻煩，其實(shí)可以獲取每個(gè)列表信息下的文件名和文件鏈接，讓文件名和文件鏈接處理為列表，保存后下載，實(shí)現(xiàn)智能翻頁批量下載文件，本文以以京客隆為例，批量下載文件，如財(cái)務(wù)資料，他的每一份報(bào)告都是一份pdf格式的文檔。以此頁面為目標(biāo)，下載他每個(gè)分類的文件python爬蟲實(shí)戰(zhàn)之智能翻頁批量下載文件。
1、引入庫
import requestsimport pandas as pdfrom lxml import etreeimport reimport os
2、解析初始頁面
baseUrl ='http://www.jkl.com.cn/cn/invest.aspx' # 爬取頁面的數(shù)據(jù)heade ={'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko)Chrome/81.0.4044.92 Safari/537.36'}res =requests.get(url=baseUrl,headers=heade).text# print(res.text)html = etree.HTML(res)res =requests.get(url=baseUrl,headers=heade).text # 設(shè)置變量接受 基礎(chǔ)頁的響應(yīng)數(shù)據(jù)# print(res.text)html = etree.HTML(res)
3、獲得投資關(guān)系的分類名稱和url地址
data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投資者列表的名字data_link = html.xpath('//div[@class="infoLis"]//@href') # 全部列表的鏈接name = [data_name.strip() for data_name in data_name] # 通過for循環(huán)去掉空字符link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link] # 拼接字符串# 合并為字典，方便保存文件file = dict(zip(name,link))
4、每個(gè)列表信息，保存一個(gè)文件夾
for name,link in file.items():name=name.replace('/','.')name=name.replace('...','報(bào)表')# 上面的把文件名帶特許字符的 強(qiáng)制轉(zhuǎn)換為我們想要的文本類型path = 'E:/'+ nameif not os.path.exists(path):os.mkdir(path)#建立儲(chǔ)存位置
5、對(duì)列表的每個(gè)項(xiàng)目鏈接進(jìn)行解析，拿到尾頁
res_list = requests.get(url = link, headers = heade).textlist_html = etree.HTML(res_list)# print(html_erJi) 解析每個(gè)分類的鏈接weiYe = list_html.xpath('//a[text()="尾頁"]/@href')# print(html_weiye)# 拿到尾頁信息if weiYe !=[]:# 正則提取尾頁信息get_weiYe =re.search("(\d+)'\)",html_weiye[0])get_yeMa = get_html_weiYe.group(1)else:get_yeMa=1# print(get_html_yeMa) 看看是不是提取成功
6、獲取每個(gè)列表信息下的文件名和文件鏈接
for get_yeMa in range(1,int(get_yeMa)+1): # 翻頁yaMa= {'__EVENTTARGET': 'AspNetPager1','__EVENTARGUMENT': get_yeMa}get_lei_html = requests.get(url = link, headers = heade, params = yaMa).textres3 =etree.HTML(get_lei_html)pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')
7、讓文件名和文件鏈接處理為列表，保存后下載
pdf_names = [pdf_name.strip() for pdf_name in pdf_name]if all(pdf_url):pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]pdf_data=dict(zip(pdf_names,pdf_urls))for pdfName,pdfUrl in pdf_data.items():pdfName =pdfName.replace('/','.')res_pdf= requests.get(url =pdfUrl,headers=heade).contenthouZui = pdfUrl.split('.')[-1]pdf_pash = path + '/' + pdfName + '.'+ houZuiwith open(pdf_pash,'wb') as f:f.write(res_pdf)print(pdfName,'下載成功')
以上就是python爬蟲智能翻頁批量下載文件的步驟，希望可以幫助到大家
*聲明：本文于網(wǎng)絡(luò)整理，版權(quán)歸原作者所有，如來源信息有誤或侵犯權(quán)益，請(qǐng)聯(lián)系我們刪除或授權(quán)
ps：零基礎(chǔ)系統(tǒng)放爬蟲教程可以關(guān)注我公眾號(hào)
評(píng)論
圖片
表情