在 spark 结构化流中处理来自传入运动流的空批次
handlng empty batches from incoming kinesis stream in spark structured stream
我们正在从 kinesis 读取数据并使用 spark 结构流将其输出到文件。
当 stream.these 中没有数据时,kinesis 实现正在生成空批次空批次正在创建空白文件作为输出?
知道我们如何才能阻止 spark 写出空白文件
分区输出修复了空集问题
我们正在从 kinesis 读取数据并使用 spark 结构流将其输出到文件。 当 stream.these 中没有数据时,kinesis 实现正在生成空批次空批次正在创建空白文件作为输出? 知道我们如何才能阻止 spark 写出空白文件
分区输出修复了空集问题