python使用最有效的方法删除大文件中的某一行的实例


本文摘自php中文网,作者黄舟,侵删。

下面小编就为大家带来一篇python 删除大文件中的某一行(最有效率的方法)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧

用 python 处理一个文本时,想要删除其中中某一行,常规的思路是先把文件读入内存,在内存中修改后再写入源文件。

但如果要处理一个很大的文本,比如GB级别的文本时,这种方法不仅需要占用很大内存,而且一次性读入内存时耗费时间,还有可能导致内存溢出。

所以,需要用另外一个思路去处理。

我们可以使用 open() 方法把需要修改的文件打开为两个文件,然后逐行读入内存,找到需要删除的行时,用后面的行逐一覆盖。实现方式见以下代码。


1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

with open('file.txt', 'r') as old_file:

  with open('file.txt', 'r+') as new_file:

 

    current_line = 0

 

    # 定位到需要删除的行

    while current_line < (del_line - 1):

      old_file.readline()

      current_line += 1

 

    # 当前光标在被删除行的行首,记录该位置

    seek_point = old_file.tell()

 

    # 设置光标位置

    new_file.seek(seek_point, 0)

 

    # 读需要删除的行,光标移到下一行行首

    old_file.readline()

     

    # 被删除行的下一行读给 next_line

    next_line = old_file.readline()

 

    # 连续覆盖剩余行,后面所有行上移一行

    while next_line:

      new_file.write(next_line)

      next_line = old_file.readline()

 

    # 写完最后一行后截断文件,因为删除操作,文件整体少了一行,原文件最后一行需要去掉

    new_file.truncate()

以上就是python使用最有效的方法删除大文件中的某一行的实例的详细内容,更多文章请关注木庄网络博客!!

相关阅读 >>

Python有什么数据结构

Python2和Python3字符串区别

Python中应用的小案例分享

Python怎么安装opencv

Python3.6.4如何安装到树莓派3代

Python2.7和3.7的区别

地理位置geo处理之mysql函数的详细介绍(附代码)

Python注释是什么

Python迭代器和for循环区别

Python如何创建空列表

更多相关阅读请进入《Python》频道 >>




打赏

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码打赏,您说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦

分享从这里开始,精彩与您同在

评论

管理员已关闭评论功能...