<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          爬蟲遇到頭疼的驗(yàn)證碼?Python實(shí)戰(zhàn)講解彈窗處理和驗(yàn)證碼識(shí)別

          共 2257字,需瀏覽 5分鐘

           ·

          2020-07-28 16:53

          點(diǎn)擊上方“早起Python”,關(guān)注并“星標(biāo)

          每日接收Python干貨!



          本文含?3321?,9?代碼片段
          建議閱讀?8?分鐘


          前言

          在我們寫爬蟲的過程中,目標(biāo)網(wǎng)站常見的干擾手段就是設(shè)置驗(yàn)證碼等,本就將基于Selenium實(shí)戰(zhàn)講解如何處理彈窗和驗(yàn)證碼,爬取的目標(biāo)網(wǎng)站為某儀器預(yù)約平臺(tái)

          可以看到登錄所需的驗(yàn)證碼構(gòu)成比較簡(jiǎn)單,是彩色的標(biāo)準(zhǔn)數(shù)字配合簡(jiǎn)單的背景干擾

          因此這里的驗(yàn)證碼識(shí)別不需要借助人工智能的手段,可直接利用二值法對(duì)圖片處理后交給谷歌的識(shí)別引擎tesseract-OCR即可獲得圖中的數(shù)字。

          selenium??tesseract?的配置讀者可自行搜索,本文不做介紹)

          Python實(shí)戰(zhàn)

          首先導(dǎo)入所需模塊

          import?re
          #?圖片處理
          from?PIL?import?Image
          #?文字識(shí)別
          import?pytesseract
          #?瀏覽器自動(dòng)化
          from?selenium?import?webdriver
          import?time

          解決彈出框問題


          先嘗試打開示例網(wǎng)站

          url?=?'http://lims.gzzoc.com/client'
          driver?=?webdriver.Chrome()
          driver.get(url)
          time.sleep(30)

          有趣的地方出現(xiàn)了,網(wǎng)站顯示了一個(gè)我們前面沒有看到的彈窗,簡(jiǎn)單說一下彈窗的知識(shí)點(diǎn),初學(xué)者可以將彈出框簡(jiǎn)單分為alert和非alert

          alert式彈出框

          • alert(message)方法用于顯示帶有一條指定消息和一個(gè) OK 按鈕的警告框
          • confirm(message)方法用于顯示一個(gè)帶有指定消息和 OK 及取消按鈕的對(duì)話框
          • prompt(text,defaultText)方法用于顯示可提示用戶進(jìn)行輸入的對(duì)話框

          看一下這個(gè)彈出框的js是怎么寫的:

          看起來(lái)似乎是alert式彈出框,那么直接用driver.switch_to.alert嗎?先不急

          非傳統(tǒng)alert式彈出框的處理

          • 彈出框位于div層,跟平常定位方法一樣
          • 彈出框是嵌套的iframe層,需要切換iframe
          • 彈出框位于嵌套的handle,需要切換窗口

          所以我們對(duì)這個(gè)彈出框進(jìn)行元素審查

          所以問題實(shí)際上很簡(jiǎn)單,直接定位按鈕并點(diǎn)擊即可

          url?=?'http://lims.gzzoc.com/client'

          driver?=?webdriver.Chrome()
          driver.get(url)
          time.sleep(1)
          driver.maximize_window()?#?最大化窗口
          driver.find_element_by_xpath("http://div[@class='jconfirm-buttons']/button").click()

          獲取圖片位置并截圖


          二值法處理驗(yàn)證碼的簡(jiǎn)單思路如下:

          1. 切割截取驗(yàn)證碼所在的圖片
          2. 轉(zhuǎn)為灰度后二值法將有效信息轉(zhuǎn)為黑,背景和干擾轉(zhuǎn)為白色
          3. 處理后的圖片交給文字識(shí)別引擎
          4. 輸入返回的結(jié)果并提交

          切割截取驗(yàn)證碼的圖片進(jìn)一步思考解決策略:首先獲取網(wǎng)頁(yè)上圖片的css屬性,根據(jù)size和location算出圖片的坐標(biāo);然后截屏;最后用這個(gè)坐標(biāo)進(jìn)一步去處理截屏即可(由于驗(yàn)證碼js的特殊性,不能簡(jiǎn)單獲取img的href后下載圖片后讀取識(shí)別,會(huì)導(dǎo)致前后不匹配)

          img?=?driver.find_element_by_xpath('//img[@id="valiCode"]')
          time.sleep(1)
          location?=?img.location
          size?=?img.size
          #?left?=?location['x']
          #?top?=?location['y']
          #?right?=?left?+?size['width']
          #?bottom?=?top?+?size['height']
          left?=?2?*?location['x']
          top?=?2?*?location['y']
          right?=?left?+?2?*?size['width']?-?10
          bottom?=?top?+?2?*?size['height']?-?10
          driver.save_screenshot('valicode.png')
          page_snap_obj?=?Image.open('valicode.png')
          image_obj?=?page_snap_obj.crop((left,?top,?right,?bottom))
          image_obj.show()

          正常情況下直接使用注釋的四行代碼即可,但不同的電腦不同的瀏覽器,縮放倍率存在差異,因此如果截取出的圖存在偏差這需要考慮乘上倍率系數(shù)。最后可以再加減數(shù)值進(jìn)行微調(diào)

          可以看到圖片這成功截取出來(lái)了!

          驗(yàn)證碼圖片的進(jìn)一步處理


          這個(gè)閾值需要具體用Photoshop或者其他工具嘗試,即找到一個(gè)像素閾值能夠?qū)⒒叶葓D片中真實(shí)數(shù)據(jù)和背景干擾分開,本例經(jīng)測(cè)試閾值為205

          img?=?image_obj.convert("L")??#?轉(zhuǎn)灰度圖
          pixdata?=?img.load()
          w,?h?=?img.size
          threshold?=?205
          #?遍歷所有像素,大于閾值的為黑色
          for?y?in?range(h):
          ????for?x?in?range(w):
          ????????if?pixdata[x,?y]?????????????pixdata[x,?y]?=?0
          ????????else:
          ????????????pixdata[x,?y]?=?255

          根據(jù)像素二值結(jié)果重新生成圖片

          data?=?img.getdata()
          w,?h?=?img.size
          black_point?=?0
          for?x?in?range(1,?w?-?1):
          ????for?y?in?range(1,?h?-?1):
          ????????mid_pixel?=?data[w?*?y?+?x]
          ????????if?mid_pixel?50:
          ????????????top_pixel?=?data[w?*?(y?-?1)?+?x]
          ????????????left_pixel?=?data[w?*?y?+?(x?-?1)]
          ????????????down_pixel?=?data[w?*?(y?+?1)?+?x]
          ????????????right_pixel?=?data[w?*?y?+?(x?+?1)]
          ????????????if?top_pixel?10:
          ????????????????black_point?+=?1
          ????????????if?left_pixel?10:
          ????????????????black_point?+=?1
          ????????????if?down_pixel?10:
          ????????????????black_point?+=?1
          ????????????if?right_pixel?10:
          ????????????????black_point?+=?1
          ????????????if?black_point?1:
          ????????????????img.putpixel((x,?y),?255)
          ????????????black_point?=?0
          img.show()

          圖像處理前后對(duì)比如下

          文字識(shí)別


          將處理后的圖片就給谷歌的文字識(shí)別引擎就能完成識(shí)別

          result?=?pytesseract.image_to_string(img)
          #?可能存在異常符號(hào),用正則提取其中的數(shù)字
          regex?=?'\d+'
          result?=?''.join(re.findall(regex,?result))
          print(result)

          識(shí)別結(jié)果如下

          提交賬號(hào)密碼、驗(yàn)證碼等信息


          在處理完驗(yàn)證碼之后,現(xiàn)在我們就可以向網(wǎng)站提交賬號(hào)密碼、驗(yàn)證碼等登陸所需信息

          driver.find_element_by_name('code').send_keys(result)
          driver.find_element_by_name('userName').send_keys('xxx')
          driver.find_element_by_name('password').send_keys('xxx')
          #?最后點(diǎn)擊確定
          driver.find_element_by_xpath("http://div[@class='form-group?login-input'][3]").click()

          需要注意的是,二值法識(shí)別驗(yàn)證碼成功率不是100%,因此需要考慮到驗(yàn)證碼識(shí)別錯(cuò)誤,需要單擊圖片更換驗(yàn)證碼重新識(shí)別,可以將上述代碼拆解成多個(gè)函數(shù)后,用如下循環(huán)框架試錯(cuò)

          while?True:
          ????try:
          ????????...
          ????????break
          ????except:
          ????????driver.find_element_by_id('valiCode').click()

          為了方便理解,代碼的書寫沒有以函數(shù)形式呈現(xiàn),歡迎讀者自行嘗試修改!

          小結(jié)


          成功登錄后就可以獲得個(gè)人的cookies,接下來(lái)可以繼續(xù)用selenium進(jìn)行瀏覽器自動(dòng)化或者把cookies傳給requests,后面就能爬取需要的信息做分析或者實(shí)現(xiàn)一些自動(dòng)化功能,但由于涉及到的爬蟲知識(shí)點(diǎn)比較多,我們會(huì)在后續(xù)的爬蟲專題文章中進(jìn)行分享!



          往期精選(?猛戳可查看

          10行Python代碼竟能實(shí)現(xiàn)這些騷操作


          Python隨機(jī)森林預(yù)測(cè)實(shí)戰(zhàn)



          今日干貨已送達(dá)
          又學(xué)到一招
          點(diǎn)擊下方三連簽收
          ?收到收到

          瀏覽 65
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          評(píng)論
          圖片
          表情
          推薦
          點(diǎn)贊
          評(píng)論
          收藏
          分享

          手機(jī)掃一掃分享

          分享
          舉報(bào)
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  99久高清视频在线观看 | 久久久久国产欧美久久久aaa | 久久毛片视频 | 亚洲高清毛片一区二区 | 天天摸人人操 |