Avro schema,序列化框架的金领

Avro schema,序列化框架的金领

Avro schema作为大数据一个项目,它可以算得上精品中的上等品,让学习或者想要学习大数据的人为之倾倒,不断挖掘学习,那么它究竟有着怎样的神秘面纱呢?我们一起来揭开!

为了理解Avro,首先要理解序列化。序列化是在内存里表述数据的一种方式,它是一连串的字节,可以保存数据到磁盘或通过网络发送出去,反序列化允许你把数据读回到内存。

举个实际的例子,我们如何序列化数字108125150?可以指定一些具体类型:(1)当存储为Java int类型时是4 bytes;(2)当存储为Java string类型时是9 bytes.

很多编程语言和库都支持序列化,比如Java里的Serializable或Python的pickle。但是向后兼容和交叉语言支持对我们来讲可能是一项挑战,而Avro就是开发出来应对这些挑战。

一、 什么是Apache Avro

Avro数据文件格式只是Avro项目的一部分,它是高效的数据序列化框架,是由Doug Cutting创立的Apache顶级项目,在Hadoop和它的生态系统得到广泛的支持。最大的特点就是在不牺牲性能的前提下提供兼容性,可在Java、C、C++、C#、Python、PHP和其他语言中读写数据。Avro也支持Remote Procedure Calls(RPC),可以用于构建定制网络协议,而且Flume使用它进行内部通信。

二、 Avro Schemas支持的类型

1)简单类型:

(2) 复杂类型

这里record类型最重要,其他类型主要用来定义record的字段。

三、 基本schema示例

这里我们先引用一段SQL CREATE TABLE语句

然后我们使用Avro schema来表达同样的语句

四、 在Schema里指定默认值

Avro支持在schema里设置默认值,当没有明确指定字段值的时候使用,和SQL相似

五、 Avro SchemasNull

(1)当序列化数据时Avro检查null值

(2)当在schema里明确指定时才可以使用Null值

六、 复杂类型的schema示例

示例:带enum和string array类型的record

七、 注释schema

给schema加注释是一种避免歧义的好的做法

(1)所有的类型都支持加上可选的doc属性

八、 Avro容器格式

Avro定义了一种容器文件格式来存储Avro记录,也称为“Avro数据文件格式”。和Hadoop SequenceFile格式相似,支持交叉语言的数据读写。它也支持块记录的压缩,压缩后数据可分片。另外这种格式是自描述的,每个文件包含一份schema的拷贝,用于写数据,并且所有记录在文件中必须使用相同的schema。

九、 使用Avro工具检查Avro数据文件

Avro数据文件是一种高效存储数据的方式,然而,二进制格式使得debug很不方便。使用avro-tools命令来操作二进制文件,可以读取Avro文件里的schema或数据。

挖掘了一番,你有没有挖掘到宝贝呢?大数据作为当下还在不断完善发展的技术,需要每一位想要从事和已经从事它的人员不断去学习和积累,更需要去交流和分享,共同进步。“大数据cn”是我平时自己在自主学习过程中找到微信服务号,里面介绍的关于大数据的知识以及大数据发展的一些行业知识都很不错,平常大家可以看看。

发布于 2017-01-10