用python解决按行读取内存不够的问题
这篇文章给大家分享的是有关用python解决按行读取内存不够的问题的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。
成都创新互联致力于成都网站建设、成都网站设计,成都网站设计,集团网站建设等服务标准化,推过标准化降低中小企业的建站的成本,并持续提升建站的定制化服务水平进行质量交付,让企业网站从市场竞争中脱颖而出。 选择成都创新互联,就选择了安全、稳定、美观的网站建设服务!
第一种:readline()
file = open("sample.txt") while 1: line = file.readline() if not line: break pass # do somethingfile.close()
一行行得从文件读数据,这样是比较慢的,但是节约内存;
测试读10M的sample.txt文件,每秒大约读32000行;
第二种:fileinput
import fileinput for line in fileinput.input("sample.txt"): pass
写法稍微简单,不过测试以后发现每秒只能读13000行数据,效率上比上一种方法慢了两倍多;
第三种:readlines()
file = open("sample.txt") while 1: lines = file.readlines(100000) if not lines: break for line in lines: pass # do something file.close()
用同样的数据测试,它每秒可以读96900行数据。效率是第一种方法的3倍,第二种方法的7倍。
第四种:文件迭代器
每次只读取和显示一行,读取大文件时如下:
file = open("sample.txt") for line in file: pass # do something file.close()
感谢各位的阅读!关于用python解决按行读取内存不够的问题就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!
本文题目:用python解决按行读取内存不够的问题
网站网址:http://scyanting.com/article/ijgces.html