python数据爬下来保存在哪里


本文摘自php中文网,作者(*-*)浩,侵删。

昨天下班后忽然兴起想写一个爬虫抓抓网页上的东西。花了一个钟简单学习了python的基础语法,然后参照网上的例子自己写了个爬虫。 (推荐学习:Python视频教程)

python数据爬下来保存在本地,一般是文件或数据库中,但是文件形式相比要更加简单,如果只是自己写爬虫玩,可以用文件形式来保存数据。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

36

37

#coding=utf-8

import urllib.request

import re

import os

  

'''

Urllib 模块提供了读取web页面数据的接口,我们可以像读取本地文件一样读取www和ftp上的数据

urlopen 方法用来打开一个url

read方法 用于读取Url上的数据

'''

  

def getHtml(url):

    page = urllib.request.urlopen(url);

    html = page.read();

    return html;

  

def getImg(html):

    imglist = re.findall('img src="(http.*?)"',html)

    return imglist

  

html = getHtml("https://www.zhihu.com/question/34378366").decode("utf-8");

imagesUrl = getImg(html);

  

if os.path.exists("D:/imags") == False:

    os.mkdir("D:/imags");

     

count = 0;

for url in imagesUrl:

    print(url)

    if(url.find('.') != -1):

        name = url[url.find('.',len(url) - 5):];

        bytes = urllib.request.urlopen(url);

        f = open("D:/imags/"+str(count)+name, 'wb');

        f.write(bytes.read());

        f.flush();

        f.close();

        count+=1;

经测试,基本功能还是可以实现的。花的较多的时间就是正则匹配哪里,因为自己对正则表达式也不是非常熟悉。所以还是花了点时间。

注:上面的程序基于 python 3.5。python3 和 python2 还是有些区别的。我刚开始看基础语法的时候就栽了一些坑里。

以上就是python数据爬下来保存在哪里的详细内容,更多文章请关注木庄网络博客!!

相关阅读 >>

cmd中pip不是内部或外部命令怎么解决

Python的idle是什么

Python枚举类定义及作用(实例解析)

浅谈Python中的排序

Python string、 bytes、 bytearray类型详解

如何使用 pylint 来规范 Python 代码风格(来自ibm)_Python

基于Python的wordcloud库的安装方法

Python包和logging日志的相关介绍

Python使用正则表达式过滤或替换html标签方法介绍

怎么删除Python

更多相关阅读请进入《Python》频道 >>




打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...