解决爬虫出现403问题的办法


本文摘自php中文网,作者零到壹度,侵删。

在python写爬虫的时候,html.getcode()会遇到403禁止访问的问题,这是网站对自动化爬虫的禁止。这篇文章主要介绍了Angular2进阶之如何解决爬虫出现403问题的办法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

要解决这个问题,需要用到python的模块urllib2模块

urllib2模块是属于一个进阶的爬虫抓取模块,有非常多的方法

比方说连接url=http://blog.csdn.net/qysh123

对于这个连接就有可能出现403禁止访问的问题

解决这个问题,需要以下几步骤:

1

2

3

4

5

<span style="font-size:18px;">req = urllib2.Request(url) 

req.add_header("User-Agent","Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36"

req.add_header("GET",url) 

req.add_header("Host","blog.csdn.net"

req.add_header("Referer","http://blog.csdn.net/")</span>

其中User-Agent是浏览器特有的属性,通过浏览器查看源代码就可以查看到


然后html=urllib2.urlopen(req)

print html.read()

就可以把网页代码全部下载下来,而没有了403禁止访问的问题。

对于以上问题,可以封装成函数,供以后调用方便使用,具体代码:

阅读剩余部分

相关阅读 >>

django介绍之分页实例

Python列表排序有哪些

Python详解os模块和shutil模块

Python list排序的两种方法及实例

详解Python中for循环的工作原理

Python中==是什么意思

Python launcher 可以卸载吗?

linux和Python先学哪个

Python实现输出1到1000以内的素数

Python爬虫买什么书?

更多相关阅读请进入《Python》频道 >>




打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...