文章詳情頁
python爬蟲防封IP的方法應該放到代碼的哪個位置
瀏覽：92日期：2022-09-21 13:56:12
問題描述
想要爬豆瓣電影，但是很容易403，就想代理IP或者修改請求頭，但是看了很多資料，不知道他們那些代碼應該放到整個程序的哪個位置，我用的是美麗湯和request，應該增添什么代碼，增添到什么位置
問題解答
回答1：BeautifulSoup的中文名原來叫美麗湯。。。
吐槽完畢，服務端一般是通過IP報文來檢測請求的IP的地址的，所以單純的修改HTTP請求的內容一般來說是不起作用的，最好的方式是使用 Requests 的代理功能來進行訪問，可以解除 IP 限制的問題。
回答2：請看看Python爬蟲聯想詞視頻和代碼https://zhuanlan.zhihu.com/p/...
跟黃哥學Python爬蟲抓取代理IP和驗證。https://zhuanlan.zhihu.com/p/...跟黃哥學Python爬蟲抓取代理IPhttps://zhuanlan.zhihu.com/p/...
相關文章：
1. angular.js - angular內容過長展開收起效果2. 關于nginx location配置的問題，root到底是什么3. 關于docker下的nginx壓力測試4. angular.js - angularjs的自定義過濾器如何給文字加顏色？5. docker鏡像push報錯6. python - flask表單 如何把提交多行數據在服務端讀取出來？7. python 怎樣用pickle保存類的實例？8. 并發模型 - python將進程池放在裝飾器里為什么不生效也沒報錯9. python的前景到底有大？如果不考慮數據挖掘，機器學習這塊？10. 大家好，請問在python腳本中怎么用virtualenv激活指定的環境？
排行榜
網公網安備