python 爬虫安装什么包


本文摘自php中文网,作者silencement,侵删。

学习Python网络爬虫都需要安装哪些库?

以下是Python爬虫涉及的相关库

请求库,解析库,存储库,工具库

1、请求库:urllib/re/requests

(1) urllib/re是python默认自带的库,可以通过以下命令进行验证:

1259718-20171114142529577-150873282.png

没有报错信息输出,说明环境正常

(2) requests安装

2.1 打开CMD,输入 pip3 install requests

2.2 等待安装后,验证

1259718-20171114143003968-773469108.png

(3) selenium安装(驱动浏览器进行网站访问行为)

3.1 打开CMD,输入 pip3 install selenium

3.2 安装chromedriver

网址:https://npm.taobao.org/

把下载完成后的压缩包解压,把exe放到D:\Python3.6.0\Scripts\

这个路径只要在PATH变量中就可以

3.3 等待安装完成后,验证

1259718-20171114145023156-95785990.png

回车后弹出chrome浏览器界面

3.4 安装其他浏览器

无界面浏览器phantomjs

下载网址:http://phantomjs.org/

下载完成后解压,把整个目录放到D:\Python3.6.0\Scripts\,把bin目录的路径添加到PATH变量

验证:

打开CMD

00af5be17da978c219154aa87b0dc4b.png

2. 解析库:

2.1 lxml (XPATH)

打开CMD输入pip3 install lxml或者从https://pypi.python.org下载,例如,lxml-4.1.1-cp36-cp36m-win_amd64.whl (md5) ,先下载whl文件,命令行执行pip3 install 文件名.whl

2.2 beautifulsoup

打开CMD,需要先安装好lxml

pip3 install beautifulsoup4

b3760bb71f48ad0c2d06ee7af8ac2d3.png

2.3 pyquery(类似jquery语法)

打开CMD,pip3 install pyquery

验证安装结果

bf6425c433aab23945d8a6301e73100.png

3. 存储库

3.1 pymysql(操作MySQL,关系型数据库)

安装:pip3 install pymysql,安装后测试:

1259718-20171114154321577-765078992.jpg

3.2 pymongo(操作MongoDB,key-value)

安装 pip3 install pymongo

验证

b308b672dd60bd5c2e6eaede386252e.png

3.3 redis(分布式爬虫,维护爬取队列) 安装:pip3 install redis

验证:

1259718-20171114161121281-1002847252.png

4.1Django(分布式爬虫维护系统)pip3 install django

4.2jupyter(运行在网页端的记事本,支持markdown,可以在网页上运行代码)安装 pip3 install jupyter

验证:打开CMD,jupyter notebook

之后就可以在网页直接创建记事本,代码块和Markdown块,支持打印

以上就是python 爬虫安装什么包的详细内容,更多文章请关注木庄网络博客!!

相关阅读 >>

Python简单实现控制电脑的方法

Python中判断语句与循环语句的简单小结(附示例)

win10怎么下载Python并安装

Python怎么读excel

Python字符如何转为小写

Python如何使用列表推导式

Python的环境变量怎么设置

django中static_root和static_url及staticfiles_dirs浅析

Python字典可变吗

Python实现输入五个数并求平均值

更多相关阅读请进入《Python》频道 >>




打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...