导入大型 csv 文件 spring

Import large csv files spring

到目前为止我还没有使用过 Spring 批次,我想知道现在是否是打破僵局的时候了。

我有 10k 到 30k 行的大型 csv 文件需要导入到数据库中。我还需要对该数据进行一些处理。就像检查某些字段是否存在于数据库中一样(如果不存在,则应忽略该行)。我从未使用过 Spring Batch,所以我需要花一些时间来了解它,这样我才能使用它。但我也有一个非常严格的截止日期。

但是为了这样的工作真的值得吗?因为它不会像预定工作 那样每天、每周或每月完成。这将根据需要完成。也许几个月一次。

那么 "overkill" 是使用批处理还是用一些缓冲的 reader 逐行迭代就可以了?

如果它是 "just" 10k-20k 行的一次性工作,Spring 批处理完全是多余的,你最好自己写一些更小的东西。