从 check_output 中抑制标准输出,而是将其写入日志

Suppress stdout from check_output but write it to a log instead

我有以下代码:

try:
    subprocess.check_output(command.split())
except subprocess.CalledProcessError as e:
    count_failure.increment()
    logger.error(e.__dict__)
    return

check_output() 失败时,我想从标准输出中抑制该消息,而是将其写入我的 logger

现在 stdout 错误消息打乱了我的 tqdm 进度条:

[hobbes3@hobbes3 bin]$ ./mass_index.py
34%|█████████████████████████████████████████▋                                                                                | 13/38 [00:00<00:14,  1.75it/s]
unable to open file: path='/mnt/data/samples/irs_990/foo.xml' error='Permission denied'
100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 38/38 [00:02<00:00,  5.96it/s]

此外,实际消息 Permission denied 并未存储在 e 中。我的 e.__dict__ 只说

{'returncode': 22, 'cmd': ['/opt/splunk/bin/splunk', 'add', 'oneshot', '/mnt/data/samples/irs_990/foo.xml', '-index', 'main', '-sourcetype', 'irs_990'], 'output': b'', 'stderr': None}

那是因为您运行的命令正在向标准错误流发出错误消息。

check_output 仅捕获标准 output,除非您使用额外的参数。所以要么:

subprocess.check_output(command.split(),stderr=subprocess.STDOUT)

所以错误也在输出中,或者 (python 3):

subprocess.check_output(command.split(),stderr=subprocess.DEVNULL)

完全抑制此错误消息。

要获得包含标准错误的正确异常消息,您必须将错误流重定向到特定管道,这样就不会 stderr=None

subprocess.check_output(command.split(),stderr=subprocess.PIPE)

但这可能会导致输出流和错误流之间出现死锁(取决于程序输出到输出或错误的方式,如果未以智能方式读取管道(例如:使用线程),一次写入可能会阻塞,因为当您阅读另一个空的缓冲区时缓冲区已满)。

也许在你的情况下你最好使用 subprocess.Popencommunicate 来很好地处理这种情况(使用线程或下面的任何工作)

p = subprocess.Popen(command.split(),stderr=subprocess.PIPE,stdout=subprocess.PIPE)
output,error = p.communicate()

(并保持相同的异常处理)