文章詳情頁
python - scrapy 再次請求的問題
瀏覽:108日期:2022-08-17 18:54:48
問題描述
如:item[’url’]=response.xpath(’a/@href’)分析出一個鏈接,然后想從這個鏈接里的網頁再獲取一些元素,放入item[’other’]。應該怎么寫,謝謝。
問題解答
回答1:def parse_page1(self, response): for url in urls:item = MyItem()item[’url’] = urlrequest = scrapy.Request(url,callback=self.parse_page2)# request = scrapy.Request('http://www.example.com/some_page.html',dont_filter=True,callback=self.parse_page2)request.meta[’item’] = itemyield requestdef parse_page2(self, response): item = response.meta[’item’] item[’other’] = response.xpath(’/other’) yield item
最后附上官方文檔https://doc.scrapy.org/en/lat...中文翻譯版http://scrapy-chs.readthedocs...
相關文章:
1. php - MySQL數據庫設計,獲取點贊的人數2. python - 怎么把char*對象轉換成PyObject*對象3. javascript - h5微信中怎么禁止橫屏4. mysql - 這種分級一對多,且分級不平衡的模型該怎么設計表?5. css - 如何選擇字體?6. javascript - 有適合開發手機端Html5網頁小游戲的前端框架嗎?7. MYSQL 根據兩個字段值查詢 但兩個值的位置可能是互換的,這個怎么查?8. mysql - linux連接數據庫報錯9. java - 線上應用,如果數據庫操作失敗的話應該如何處理?10. MySQL中的enum類型有什么優點?
排行榜
