YunKillerE / ProcessorForNIFI

NIFI工具中的processor定制开发,以及简单的使用

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

ProcessorForNIFI

NIFI工具中的processor定制开发,以及简单的使用,包括从RDBMS中抽取数据到hdfs/kafka等,以及从hdfs导出数据到RDBMS/kafka等

NiFi是什么
NiFi Architecture
NiFi模块介绍

2. NIFI基本使用

从RDBMS到HDFS

从HDFS到RDBMS

从FTP到KAFKA

从FTP到HBase

3. NIFI Processor的开发

开发流程介绍

案例1:重写SplitJson,实现数据按行并指定分隔符存储到HDFS

案例2:重写ConvertAvroToJSON,实现数据按行并指定分隔符存储到HDFS,理论上比上面的要高效

案例3:新增Porcessor,实现将AVRO数据转换成按行存储,理论上比上面两个重写的processor效率都要高

4. nifi template example

我用过的案例:https://github.com/jimmy-src/ProcessorForNIFI/tree/master/processor_template hortonworks提供:https://github.com/hortonworks-gallery/nifi-templates

5. 环境

idea

nifi 1.2.0

java 1.8

cdh 5.8.4

About

NIFI工具中的processor定制开发,以及简单的使用

License:Apache License 2.0