nifi splitRecord挂起
nifi splitRecord hung
我正在用只有 11 条记录的小文件测试 nifi SplitRecord
但是,SplitRecord 挂了很长时间。我不知道它在做什么。
Processor Hung
SPlitRecord Properties:
more properties
是 Records Per Split 控制
每个拆分的最大、最小或确切记录数?
如果记录总数少于每次拆分的记录数,SplitRecords 的行为是什么?它会等到超时然后将所有暂停记录放入一个拆分中吗?
大约10分钟后或随机数start/stop/terminate/restart
它可能会触发处理器更快地拆分数据。
Records Per Split 控制最大值,代码见“SplitRecord.java”。如果记录少于 RECORDS_PER_SPLIT
值,它会立即将它们全部推出。
但是,它看起来确实正在创建一个 new FlowFile,即使总记录数小于 RECORDS_PER_SPLIT
值,这意味着它正在进行磁盘写入不管是否真的分裂了。
我可能会调查两件事:
- 主机内存-主机有多少内存?多少配置为 NiFi 最大堆? use/free 中有多少总系统内存?当有足够的系统内存用于文件缓存时,NiFi 性能最佳。
- 主机的磁盘,特别是上面有内容存储库的磁盘。容量? IO?它是否与其他服务共享? FlowFile 内容被写入内容存储库,如果磁盘与 OS 或其他繁忙的服务(或其他 NiFi 存储库)共享,它确实会减慢内容修改速度。
注意:您的NiFi版本超过3年,请考虑升级。
我正在用只有 11 条记录的小文件测试 nifi SplitRecord 但是,SplitRecord 挂了很长时间。我不知道它在做什么。 Processor Hung
SPlitRecord Properties: more properties
是 Records Per Split 控制 每个拆分的最大、最小或确切记录数? 如果记录总数少于每次拆分的记录数,SplitRecords 的行为是什么?它会等到超时然后将所有暂停记录放入一个拆分中吗?
大约10分钟后或随机数start/stop/terminate/restart 它可能会触发处理器更快地拆分数据。
Records Per Split 控制最大值,代码见“SplitRecord.java”。如果记录少于 RECORDS_PER_SPLIT
值,它会立即将它们全部推出。
但是,它看起来确实正在创建一个 new FlowFile,即使总记录数小于 RECORDS_PER_SPLIT
值,这意味着它正在进行磁盘写入不管是否真的分裂了。
我可能会调查两件事:
- 主机内存-主机有多少内存?多少配置为 NiFi 最大堆? use/free 中有多少总系统内存?当有足够的系统内存用于文件缓存时,NiFi 性能最佳。
- 主机的磁盘,特别是上面有内容存储库的磁盘。容量? IO?它是否与其他服务共享? FlowFile 内容被写入内容存储库,如果磁盘与 OS 或其他繁忙的服务(或其他 NiFi 存储库)共享,它确实会减慢内容修改速度。
注意:您的NiFi版本超过3年,请考虑升级。