国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

Python常見反爬蟲機制解決方案

瀏覽:18日期:2022-07-23 16:18:55

1、使用代理

適用情況:限制IP地址情況,也可解決由于“頻繁點擊”而需要輸入驗證碼登陸的情況。

這種情況最好的辦法就是維護一個代理IP池,網上有很多免費的代理IP,良莠不齊,可以通過篩選找到能用的。對于“頻繁點擊”的情況,我們還可以通過限制爬蟲訪問網站的頻率來避免被網站禁掉。

proxies = {’http’:’http://XX.XX.XX.XX:XXXX’}Requests: import requests response = requests.get(url=url, proxies=proxies)Urllib2: import urllib2 proxy_support = urllib2.ProxyHandler(proxies) opener = urllib2.build_opener(proxy_support, urllib2.HTTPHandler) urllib2.install_opener(opener) # 安裝opener,此后調用urlopen()時都會使用安裝過的opener對象 response = urllib2.urlopen(url)

2、時間設置

適用情況:限制頻率情況。

Requests,Urllib2都可以使用time庫的sleep()函數:

import timetime.sleep(1)

3、偽裝成瀏覽器,或者反“反盜鏈”

有些網站會檢查你是不是真的瀏覽器訪問,還是機器自動訪問的。這種情況,加上User-Agent,表明你是瀏覽器訪問即可。有時還

會檢查是否帶Referer信息還會檢查你的Referer是否合法,一般再加上Referer。

headers = {’User-Agent’:’XXXXX’} # 偽裝成瀏覽器訪問,適用于拒絕爬蟲的網站headers = {’Referer’:’XXXXX’}headers = {’User-Agent’:’XXXXX’, ’Referer’:’XXXXX’}Requests: response = requests.get(url=url, headers=headers)Urllib2: import urllib, urllib2 req = urllib2.Request(url=url, headers=headers) response = urllib2.urlopen(req)

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 国产欧美日韩在线观看 | 欧美三级黄色 | 秘书高跟黑色丝袜国产91在线 | 亚洲国产人成中文幕一级二级 | 精品视频在线看 | 特级毛片aaa免费版 特级毛片a级毛免费播放 | 欧美va在线播放免费观看 | ffyybb免费福利视频 | 亚洲国产一区二区三区最新 | 日本成人免费在线观看 | 亚洲精品国产专区一区 | 国产日韩一区二区三区在线播放 | 成人软件18免费 | jizjiz日本 | 国内精品伊人久久 | 国产黄三级三·级三级 | 在线国产日韩 | 久热中文字幕在线精品免费 | 久久精品无遮挡一级毛片 | 日本欧美一级aaaaa毛片 | 亚洲好逼| 久久在线精品 | ffyybb免费福利视频 | 色综合久久久久久久 | 国产乱子伦露脸对白在线小说 | 三级高清| 国产精品情侣久久婷婷文字 | 国产丝袜不卡一区二区 | 久久久久久91精品色婷婷 | 日本欧美在线视频 | 亚洲乱码一二三四五六区 | 久久精品国产影库免费看 | 久草免费资源站 | 久草视频在线网 | 女人张开腿 让男人桶视频 女人张开腿等男人桶免费视频 | 久久久久琪琪精品色 | 欧美日韩一区二区综合在线视频 | 亚洲图片在线视频 | 美女三级在线 | 国产女人伦码一区二区三区不卡 | 亚洲精品成人久久久影院 |