导读:本篇文章首席CTO笔记来给大家介绍有关python读1个g的文件要多久的相关内容,希望对大家有所帮助,一起来看看吧。
python读取文件问题,基础问题
如果注意了参数细节,应该完全一样。注意编码和换行符。
用for的第二种是使用文件对象的可迭代iterable特性..迭代不需要一次全部读出所有行,可以用于异步操作
Python对文件的读取问题
Python编程对文件的读取和写入操作还是很方便的,下面对文件操作的一个简单程序(test.py),代码如下:
def processFile(inputFile, outputFile): #定义一个函数
fin = open(inputFile, \'r\') #以读的方式打开文件
fout = open(outputFile, \'w\') #以写得方式打开文件
for eachLine in fin: #读取文件的每一行
line = eachLine.strip().decode(\'utf-8\', \'ignore\') #去除每行的首位空格,并且将文件编码转换成Unicode编码
outStr = line #我没对读入的文本进行处理,只是直接将其输出到文件
fout.write(outStr.strip().encode(\'utf-8\') + \'\\n\') #去除首位的空格,并转回到utf-8编码,然后输出
fin.close() #关闭文件
fout.close()
processFile(\'myinputFile.txt\', \'myoutputFile.txt\') #调用该函数对文件进行处理
按照上面的程序写完之后,输入:python test.py 就能执行该程序了。
Python 处理大文件并用pickle保存
1、当一个文件太大,例如几个 G,电脑配置限制,无法一次性读入内存,可以分块读入。例如:
2、读取之后使用pickle 模块进行持久化
结语:以上就是首席CTO笔记为大家整理的关于python读1个g的文件要多久的全部内容了,感谢您花时间阅读本站内容,希望对您有所帮助,更多关于python读1个g的文件要多久的相关内容别忘了在本站进行查找喔。
以上内容为新媒号(sinv.com.cn)为大家提供!新媒号,坚持更新大家所需的互联网后端知识。希望您喜欢!
版权申明:新媒号所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,不声明或保证其内容的正确性,如发现本站有涉嫌抄袭侵权/违法违规的内容。请发送邮件至 k2#88.com(替换@) 举报,一经查实,本站将立刻删除。