如何将JavaPairDStream写入Redis？

Question

我正在使用 spark 1.5.0 和 java 7.

输入来自具有 type 字段的不同 json 对象形式的 kafka。例如：

{'type': 'alpha', ...}
{'type': 'beta', ...}
...

我正在根据与每种事件类型的计数相对应的输入数据创建 JavaPairDStream<String, Integer>。

我想把这个数据存储到redis。我该怎么做呢？

Answer 1

使用foreachRDD和forEach函数实现如下：

wordCounts.foreachRDD(
    new Function<JavaPairRDD<String, Integer>, Void>() {
        public Void call(JavaPairRDD<String, Integer> rdd) {
            rdd.foreach(
                new VoidFunction<Tuple2<String,Integer>>() {
                    public void call(Tuple2<String,Integer> wordCount) {
                        System.out.println(wordCount._1() + ":" + wordCount._2());
                        JedisPool pool = new JedisPool(new JedisPoolConfig(), "localhost");
                        Jedis jedis = pool.getResource();
                        jedis.select(0);
                        jedis.set(wordCount._1(), wordCount._2().toString());
                    }
                }
            );
            return null;
        }
    }
);

Answer 2

为每个 RDD 创建一个新的连接池是非常低效的。我建议为每个分区创建一个连接：

wordCount.mapPartitions(p->{
 Jedis jd = new Jedis(getJedisConfig());
 while (p->hasNext()) {
   Tuple2<String,Integer> data = p.next();
   String word = data._1();
   Integer cnt = data._2();
   jd.set(word,count); // or any other format of save to Redis
 }
}
)

如何将JavaPairDStream写入Redis？

How to write JavaPairDStream to Redis?

java

redis

apache-spark

spark-streaming