是否可以使用 Apache Beam / Google Cloud Dataflow 从 Azure EventHub 主题中消费?

Is it possible to consume from an Azure EventHub topic using Apache Beam / Google Cloud Dataflow?

问题

我们想使用 Google Cloud 中的数据流管道从 Azure 中的 EventHub 主题进行消费。

问题

是否知道 KafkaIO 是否允许在 Apache Beam/Google 云数据流作业中直接从 EventHubs 消费? (参见

将 EventHub 数据导入 Pub/Sub 的替代方法也很受欢迎(例如从 Azure 流分析发布到 Pub/Sub)

谢谢!

Azure 事件中心与 Kafka 协议二进制兼容,因此任何 Kafka 客户端或管道都应该能够使用来自事件中心主题的事件。

Azure 事件中心支持 Apache Kafka protocol 1.0 and later, so you should be able to consume events from Event Hubs using KafkaIO (which supports Kafka versions 0.10.1 and newer). Google Cloud has a guide for processing messages from Kafka in Dataflow here