从上次读取的文档读取文件 - JSON 流
Read file from last document read - JSON stream
我正在从服务器接收流,该流呈指数增长。我需要每分钟检查一次新数据,处理这些数据,并在下一分钟询问更多。
数据是JSON个文档。平均每分钟接收约 600-700 份文件。
由于性能问题,我不得不避免读取已处理的文档。
是否可以只读取最后一分钟收到的数据?
您可以使用循环缓冲区并使用侦听器将数据放在那里。
例如,通过将最后 N 个文档或块存储在那里,它主要取决于您的应用程序的代码。
这样旧数据将被丢弃用于设计,您既不必处理流的内部结构,也不必处理设计不当的解决方案。
这是为缓冲区定义正确大小的问题,但在我看来这是一个简单得多的问题。
我正在从服务器接收流,该流呈指数增长。我需要每分钟检查一次新数据,处理这些数据,并在下一分钟询问更多。
数据是JSON个文档。平均每分钟接收约 600-700 份文件。
由于性能问题,我不得不避免读取已处理的文档。
是否可以只读取最后一分钟收到的数据?
您可以使用循环缓冲区并使用侦听器将数据放在那里。 例如,通过将最后 N 个文档或块存储在那里,它主要取决于您的应用程序的代码。
这样旧数据将被丢弃用于设计,您既不必处理流的内部结构,也不必处理设计不当的解决方案。
这是为缓冲区定义正确大小的问题,但在我看来这是一个简单得多的问题。