具有默认空值的 Avro logicalType 'date'

Question

我需要将 'null' 默认值添加到我的 Avro 架构中的 logicalType: 'date'。我目前的定义是这样的：

{
 "type": "record",
 "namespace": "my.model.package",
 "name": "Person",
 "version": "1",
 "fields": [
    {"name":"birthday","type": { "type": "int", "logicalType": "date"}}
 ]
}

当我用 org.joda.time.LocalDate 填充 'birthday' 字段时它确实有效，但是当我离开它时 null 我得到以下异常：

org.apache.kafka.common.errors.SerializationException: Error serializing Avro message
Caused by: java.lang.NullPointerException: null of int of my.model.package.Person
at org.apache.avro.generic.GenericDatumWriter.npe(GenericDatumWriter.java:145)
at org.apache.avro.generic.GenericDatumWriter.writeWithoutConversion(GenericDatumWriter.java:139)
at org.apache.avro.generic.GenericDatumWriter.write(GenericDatumWriter.java:75)
at org.apache.avro.generic.GenericDatumWriter.write(GenericDatumWriter.java:62)
at io.confluent.kafka.serializers.AbstractKafkaAvroSerializer.serializeImpl(AbstractKafkaAvroSerializer.java:92)
at io.confluent.kafka.serializers.KafkaAvroSerializer.serialize(KafkaAvroSerializer.java:53)
at org.apache.kafka.clients.producer.KafkaProducer.doSend(KafkaProducer.java:459)
at org.apache.kafka.clients.producer.KafkaProducer.send(KafkaProducer.java:436)
...

我尝试了很多方法来将此 'logicalType' 配置为可为空，但无法使其正常工作。如何将此字段配置为可为空？

Answer 1

Avro 尚不支持逻辑类型的联合。这是一个已知的突出问题：https://issues.apache.org/jira/browse/AVRO-1891

虽然一点也不优雅，但我处理这个问题的方法是使用一个标记值，例如 1900-01-01 来表示 null。

--更新--

从 1.9.0 版开始，这个问题似乎已得到解决

Answer 2

声明为：

{
  "name": "myOptionalDate",
  "type": ["null","int"],
  "logicalType": "date",
  "default" : "null" 
}

这应该有效

Answer 3

这段代码对我有用：

{
    "name" : "birthday",
    "type" : ["null",{
      "type" : "int",
      "logicalType": "date"
    }]
}

具有默认空值的 Avro logicalType 'date'

Avro logicalType 'date' with default null value

java

schema

avro

apache-kafka