duanshuaimin / dlink

Dinky is an out of the box one-stop real-time computing platform dedicated to the construction and practice of Unified Batch & Streaming and Unified Data Lake & Data Warehouse. Based on Apache Flink, Dinky provides the ability to connect many big data frameworks including OLAP and Data Lake.

Home Page:http://www.dlink.top

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Dinky

License Total Lines CN doc EN doc

Stargazers over time

简介

实时即未来,Dlink 为 Apache Flink 而生,让 Flink SQL 纵享丝滑,并致力于实时计算平台建设。

Dinky 基于 Apache Flink 实现 Dlink ,增强 Flink 的应用与体验,探索流式数仓。即站在巨人肩膀上创新与实践,Dinky 在未来批流一体的发展趋势下潜力无限。

最后,Dinky 的发展皆归功于 Apache Flink 等其他优秀的开源项目的指导与成果。

特点

一个基于 Apache Flink 二次开发且 易扩展一站式 开发运维 FlinkSQLSQL 的实时计算平台。致力于解决 实时离线 数据开发、数仓建设流程中大量复杂的 数据口径,使 实时、准实时、离线一体的数据开发平台在数据治理流程中开箱即用

其主要目标如下:

  • 可视化交互式 FlinkSQL 和 SQL 的数据开发平台:自动提示补全、语法高亮、调试执行、语法校验、语句美化、全局变量等
  • 支持全面的多版本的 FlinkSQL 作业提交方式:Local、Standalone、Yarn Session、Yarn Per-Job、Kubernetes Session、Kubernetes Application
  • 支持 Apache Flink 所有的 Connector、UDF、CDC等
  • 支持 FlinkSQL 语法增强:兼容 Apache Flink SQL、表值聚合函数、全局变量、CDC多源合并、执行环境、语句合并、共享会话等
  • 支持易扩展的 SQL 作业提交方式:ClickHouse、Doris、Hive、Mysql、Oracle、Phoenix、PostgreSql、SqlServer 等
  • 支持实时调试预览 Table 和 ChangeLog 数据及图形展示
  • 支持语法逻辑检查、作业执行计划、字段级血缘分析等
  • 支持 Flink 元数据、数据源元数据查询及管理
  • 支持实时任务运维:作业上线下线、作业信息、集群信息、作业快照、异常信息、作业日志、数据地图、即席查询、历史版本、报警记录等
  • 支持作为多版本 FlinkSQL Server 的能力以及 OpenApi
  • 支持易扩展的实时作业报警及报警组:钉钉、微信企业号等
  • 支持完全托管的 SavePoint 启动机制:最近一次、最早一次、指定一次等
  • 支持多种资源管理:集群实例、集群配置、Jar、数据源、报警组、报警实例、文档、用户、系统配置等
  • 更多隐藏功能等待小伙伴们探索

原理

dinky_principle

精彩瞬间

FlinkSQL Studio

flinksqlstudio

实时调试预览

selectpreview

语法和逻辑检查

checksql

JobPlan

jobplan

字段级血缘分析

lineage

BI 展示

charts

元数据查询

metadata

实时任务监控

monitor

实时作业信息

jobinfo

数据地图

datamap

数据源注册

datasource

功能

详见 功能

近期计划

  • 多租户及命名空间

  • 全局血缘与影响分析

  • 统一元数据管理

  • Flink 元数据持久化

  • 多版本 Flink-Client Server

  • 整库千表同步

参与贡献

欢迎您为社区贡献自己的力量,共建共赢,贡献流程请参考: [参与贡献]

如何部署

详见 编译安装

如何升级到最新

执行 sql 目录下的 dlink_history.sql 中的部分升级语句,依据是通过版本号与日期来判断从何处开始执行,请不要直接执行全部 sql。

感谢

站在巨人的肩膀上,Dinky 才得以诞生。对此我们对使用的所有开源软件及其社区表示衷心的感谢!我们也希望自己不仅是开源的受益者,也能成为开源的贡献者,也希望对开源有同样热情和信念的伙伴加入进来,一起为开源献出一份力!致谢列表如下:

Apache Flink

Apache Dolphinscheduler

Ant-Design-Pro

Mybatis Plus

Monaco Editor

SpringBoot

感谢 JetBrains 提供的免费开源 License 赞助。

JetBrains

获得帮助

1.提交 issue

2.进入微信用户社区群(推荐,添加微信号 wenmo_ai 邀请进群)和QQ用户社区群(543709668)交流,申请备注 “ Dinky + 企业名 + 职位”,不写不批

3.关注微信公众号获取相关内容的文章(最新消息获取建议关注):DataLink数据中台

4.关注 bilibili UP 主(是文末呀)获取最新视频教学

5.访问 GithubPages官网 网址,阅读最新文档手册

版权

请参考 LICENSE 文件。

About

Dinky is an out of the box one-stop real-time computing platform dedicated to the construction and practice of Unified Batch & Streaming and Unified Data Lake & Data Warehouse. Based on Apache Flink, Dinky provides the ability to connect many big data frameworks including OLAP and Data Lake.

http://www.dlink.top

License:Apache License 2.0


Languages

Language:Java 69.0%Language:TypeScript 29.3%Language:Less 0.7%Language:JavaScript 0.6%Language:EJS 0.3%Language:Shell 0.2%Language:Dockerfile 0.0%Language:Batchfile 0.0%