用于 Spark 1.4 和 Cassandra 3.0 的 spark-cassandra-connector

spark-cassandra-connector for Spark 1.4 and Cassandra 3.0

Spark-Cassandra 专家:Apache Spark 1.4 能否在 Datastax 安装中与 Apache Cassandra 3.0 一起使用?我们正在考虑将 DSE 4.8(Spark 1.4 和 Cassandra 2.1)迁移到 DSE 5.0(Spark 1.6 和 Cassandra 3.0)的几种选择。一种选择是将 Cassandra 集群更新到 DSE 5.0,并在 DSE 4.8 上保留 Spark 集群。这意味着我们必须让 Apache Spark 1.4 与 Apache Cassandra 3.0 一起工作。我们使用 https://github.com/datastax/spark-cassandra-connector 版本 1.4 (DSE 4.8) 和 1.6(DSE 5.0)。有人尝试过将 Spark 1.4 (DSE 4.8) 与 Cassandra 3.0 (DSE 5.0) 一起使用吗?

正如我从 Maven Central 中看到的那样,Spark Cassandra Connector 1.4.5 确实使用了 Java 驱动程序的 2.1.7 版本。根据 compatibility matrix in official documentation,驱动程序 2.1.x 无法与 Cassandra 3.0 一起使用...您当然可以测试它,但我怀疑它是否会起作用 - 驱动程序通常是向后兼容的,但不是向前兼容...

我建议迁移到 DSE 5.0,然后足够快地迁移到 5.1,因为 5.0 可能很快就停产了。

P.S。如果您有更多问题,我建议加入 DataStax Academy Slack - 那里有一个关于 spark cassandra 连接器的单独频道。