Python: 从标准输入读取 gzip

Question

如何逐行读取标准输入中的 gzip 压缩内容？

我在当前目录中有一个包含 UTF-8 内容的 gzip 文件 a.gz。

场景一：

使用 gzip.open(filename) 有效。我可以打印解压缩的行。

with gzip.open('a.gz', 'rt') as f:
    for line in f:
        print(line)

# python3 my_script.py

场景二：

我想从 stdin 读取 gzipped 内容。所以我 cat gzip 文件作为下面脚本的输入。

with gzip.open(sys.stdin, mode='rt') as f:
    for line in f:
        print(line)

# cat a.gz | python3 script.py

但是对于方法 2，我得到以下错误：

Traceback (most recent call last):
  File "script.py", line 71, in <module>
    for line in f:
  File "....../python3.6/gzip.py", line 289, in read1
    return self._buffer.read1(size)
  File "....../python3.6/_compression.py", line 68, in readinto
    data = self.read(len(byte_view))
  File "....../python3.6/gzip.py", line 463, in read
    if not self._read_gzip_header():
  File "....../python3.6/gzip.py", line 406, in _read_gzip_header
    magic = self._fp.read(2)
  File "....../python3.6/gzip.py", line 91, in read
    self.file.read(size-self._length+read)
  File "....../python3.6/codecs.py", line 321, in decode
    (result, consumed) = self._buffer_decode(data, self.errors, final)
UnicodeDecodeError: 'utf-8' codec can't decode byte 0x8b in position 1: invalid start byte

Answer 1

您想打开 sys.stdin.buffer，而不是 sys.stdin，因为后者透明地将字节解码为字符串。这对我有用：

with gzip.open(sys.stdin.buffer, mode='rt') as f:
    for line in f:
        print(line)

Python: 从标准输入读取 gzip

Python: read gzip from stdin

python

stdin

gzip

utf-8

python-3.x

如何逐行读取标准输入中的 gzip 压缩内容？

场景一：

场景二：