javascript - superagent爬取網(wǎng)站出現(xiàn)重定向問(wèn)題
問(wèn)題描述
用superagent爬網(wǎng)頁(yè),遇到重定向,拿不到重定向后的響應(yīng)體,該如何解決,如何獲取重定向后的網(wǎng)頁(yè)
我想獲取501頁(yè)面的res,但是他跳轉(zhuǎn)到37018頁(yè)面,導(dǎo)致我拿到501頁(yè)面的空res。
測(cè)試了爬取不到的網(wǎng)頁(yè),發(fā)現(xiàn)有2種情況
一開始進(jìn)入網(wǎng)頁(yè)響應(yīng)碼是200,過(guò)一小會(huì)刷新變成304
一進(jìn)入響應(yīng)碼從301重定向到200,過(guò)一小會(huì)刷新變成304
測(cè)試了能爬取到的網(wǎng)頁(yè),發(fā)現(xiàn)有2種情況
一進(jìn)入響應(yīng)碼從301重定向到200,過(guò)一小會(huì)刷新變成304
一開始進(jìn)入網(wǎng)頁(yè)響應(yīng)碼是200,過(guò)一小會(huì)刷新變成304
啊,我擦,那就沒什么區(qū)別啦,小白不知道這跟我爬不到內(nèi)容有沒有關(guān)系,orz
再再補(bǔ)充
問(wèn)題不在重定向,而在于我的正則表達(dá)式匹配問(wèn)題
問(wèn)題解答
回答1:你都不看官方文檔的嗎?
Following redirects
By default up to 5 redirects will be followed, however you may specifythis with the res.redirects(n) method:
request .get(’/some.png’) .redirects(2) .end(callback);
相關(guān)文章:
1. windows誤人子弟啊2. 冒昧問(wèn)一下,我這php代碼哪里出錯(cuò)了???3. MySQL主鍵沖突時(shí)的更新操作和替換操作在功能上有什么差別(如圖)4. python - linux怎么在每天的凌晨2點(diǎn)執(zhí)行一次這個(gè)log.py文件5. 數(shù)據(jù)庫(kù) - Mysql的存儲(chǔ)過(guò)程真的是個(gè)坑!求助下面的存儲(chǔ)過(guò)程哪里錯(cuò)啦,實(shí)在是找不到哪里的問(wèn)題了。6. 實(shí)現(xiàn)bing搜索工具urlAPI提交7. mysql優(yōu)化 - MySQL如何為配置表建立索引?8. 如何用筆記本上的apache做微信開發(fā)的服務(wù)器9. 我在網(wǎng)址中輸入localhost/abc.php顯示的是not found是為什么呢?10. 關(guān)于mysql聯(lián)合查詢一對(duì)多的顯示結(jié)果問(wèn)題
