python读1个g的文件要多久(2023年最新分享)

导读:本篇文章首席CTO笔记来给大家介绍有关python读1个g的文件要多久的相关内容,希望对大家有所帮助,一起来看看吧。

python读取文件问题,基础问题

如果注意了参数细节,应该完全一样。注意编码和换行符。

用for的第二种是使用文件对象的可迭代iterable特性..迭代不需要一次全部读出所有行,可以用于异步操作

python读1个g的文件要多久(2023年最新分享)  第1张

Python对文件的读取问题

Python编程对文件的读取和写入操作还是很方便的,下面对文件操作的一个简单程序(test.py),代码如下:

def processFile(inputFile, outputFile):                         #定义一个函数

    fin = open(inputFile, \'r\')                                  #以读的方式打开文件

    fout = open(outputFile, \'w\')                                #以写得方式打开文件

    for eachLine in fin:                                        #读取文件的每一行

        line = eachLine.strip().decode(\'utf-8\', \'ignore\')       #去除每行的首位空格,并且将文件编码转换成Unicode编码

        outStr = line                                           #我没对读入的文本进行处理,只是直接将其输出到文件

        fout.write(outStr.strip().encode(\'utf-8\') + \'\\n\')       #去除首位的空格,并转回到utf-8编码,然后输出

    fin.close()                                                 #关闭文件

    fout.close()

processFile(\'myinputFile.txt\', \'myoutputFile.txt\')              #调用该函数对文件进行处理

按照上面的程序写完之后,输入:python test.py 就能执行该程序了。

Python 处理大文件并用pickle保存

1、当一个文件太大,例如几个 G,电脑配置限制,无法一次性读入内存,可以分块读入。例如:

2、读取之后使用pickle 模块进行持久化

结语:以上就是首席CTO笔记为大家整理的关于python读1个g的文件要多久的全部内容了,感谢您花时间阅读本站内容,希望对您有所帮助,更多关于python读1个g的文件要多久的相关内容别忘了在本站进行查找喔。

以上内容为新媒号(sinv.com.cn)为大家提供!新媒号,坚持更新大家所需的互联网后端知识。希望您喜欢!

版权申明:新媒号所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,不声明或保证其内容的正确性,如发现本站有涉嫌抄袭侵权/违法违规的内容。请发送邮件至 k2#88.com(替换@) 举报,一经查实,本站将立刻删除。

(0)
上一篇 2023-09-23
下一篇 2023-09-23

相关推荐

发表回复

登录后才能评论