
是否是我这种情况,可以通过一个简单的方式来鉴别,请仔细看红框部分,即真实爬取的网页的URL后面比起预先定义的URL多了个UUID和vid,那么就表示开启了cookie,使用上述方式关闭即可。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/226483.html原文链接:https://javaforall.net
Scrapy307重定向最近在用 Scrapy 写爬虫 但是爬取有的网站时会出现 307 重定向的错误 使得无法爬取到正确网站 这往往是因为原网站采用了反爬虫机制导致的 在 StackOverFlo 上有人提出了这个问题 scrapy307red 这里的答案指出了 307 是 Cookie 的问题 它的建议是打开 Cookie 并需要自己分析哪些是网站真正需要的用来鉴别是机器访问还是认为访问的数据

是否是我这种情况,可以通过一个简单的方式来鉴别,请仔细看红框部分,即真实爬取的网页的URL后面比起预先定义的URL多了个UUID和vid,那么就表示开启了cookie,使用上述方式关闭即可。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/226483.html原文链接:https://javaforall.net