2022年 11月 6日

Python按行读文件

1. 最基本的读文件方法：

  1. # File: readline-example-1.py
  2.  
  3.  
  4. file = open("sample.txt")
  5.  
  6.  
  7. while 1:
  8.  
  9.     line = file.readline()
  10.  
  11.     if not line:
  12.  
  13.         break
  14.  
  15.     pass # do something

　　一行一行得从文件读数据，显然比较慢；不过很省内存。

　　在我的机器上读10M的sample.txt文件，每秒大约读32000行

2. 用fileinput模块

  1. # File: readline-example-2.py
  2.  
  3.  
  4. import fileinput
  5.  
  6.  
  7. for line in fileinput.input("sample.txt"):
  8.  
  9.     pass

　写法简单一些，不过测试以后发现每秒只能读13000行数据，效率比上一种方法慢了两倍多……

3. 带缓存的文件读取

  1. # File: readline-example-3.py
  2.  
  3.  
  4. file = open("sample.txt")
  5.  
  6.  
  7. while 1:
  8.  
  9.     lines = file.readlines(100000)
  10.  
  11.     if not lines:
  12.  
  13.         break
  14.  
  15.     for line in lines:
  16.  
  17.         pass # do something

这个方法真的更好吗？事实证明，用同样的数据测试，它每秒可以读96900行数据！效率是第一种方法的3倍，第二种方法的7倍！

————————————————————————————————————————————————————————————

　　在Python 2.2以后，我们可以直接对一个file对象使用for循环读每行数据：

  1. # File: readline-example-5.py
  2.  
  3.  
  4. file = open("sample.txt")
  5.  
  6.  
  7. for line in file:
  8.  
  9.     pass # do something

　　而在Python 2.1里，你只能用xreadlines迭代器来实现：

  1. # File: readline-example-4.py
  2.  
  3.  
  4. file = open("sample.txt")
  5.  
  6.  
  7. for line in file.xreadlines():
  8.  
  9.     pass # do something

参考Python按行读文件 – 云+社区 – 腾讯云