实时即未来,Dlink 为 Apache Flink 而生,让 Flink SQL 纵享丝滑,并致力于实时计算平台建设。
Dinky 基于 Apache Flink 实现 Dlink ,增强 Flink 的应用与体验,探索流式数仓。即站在巨人肩膀上创新与实践,Dinky 在未来批流一体的发展趋势下潜力无限。
最后,Dinky 的发展皆归功于 Apache Flink 等其他优秀的开源项目的指导与成果。
一个 开箱即用
、易扩展
,以 Apache Flink
为基础,连接 OLAP
和 数据湖
等众多框架的 一站式
实时计算平台,致力于 流批一体
和 湖仓一体
的建设与实践。
其主要目标如下:
- 可视化交互式 FlinkSQL 和 SQL 的数据开发平台:自动提示补全、语法高亮、调试执行、语法校验、语句美化、全局变量等
- 支持全面的多版本的 FlinkSQL 作业提交方式:Local、Standalone、Yarn Session、Yarn Per-Job、Yarn Application、Kubernetes Session、Kubernetes Application
- 支持 Apache Flink 所有的 Connector、UDF、CDC等
- 支持 FlinkSQL 语法增强:兼容 Apache Flink SQL、表值聚合函数、全局变量、CDC多源合并、执行环境、语句合并、共享会话等
- 支持易扩展的 SQL 作业提交方式:ClickHouse、Doris、Hive、Mysql、Oracle、Phoenix、PostgreSql、SqlServer 等
- 支持 FlinkCDC (Source 合并)整库实时入仓入湖
- 支持实时调试预览 Table 和 ChangeLog 数据及图形展示
- 支持语法逻辑检查、作业执行计划、字段级血缘分析等
- 支持 Flink 元数据、数据源元数据查询及管理
- 支持实时任务运维:作业上线下线、作业信息、集群信息、作业快照、异常信息、作业日志、数据地图、即席查询、历史版本、报警记录等
- 支持作为多版本 FlinkSQL Server 的能力以及 OpenApi
- 支持易扩展的实时作业报警及报警组:钉钉、微信企业号等
- 支持完全托管的 SavePoint 启动机制:最近一次、最早一次、指定一次等
- 支持多种资源管理:集群实例、集群配置、Jar、数据源、报警组、报警实例、文档、用户、系统配置等
- 更多隐藏功能等待小伙伴们探索
FlinkSQL Studio
实时调试预览
语法和逻辑检查
JobPlan
字段级血缘分析
BI 展示
元数据查询
实时任务监控
实时作业信息
数据地图
数据源注册
详见 功能
-
多租户及命名空间
-
全局血缘与影响分析
-
统一元数据管理
-
Flink 元数据持久化
-
多版本 Flink-Client Server
-
整库千表同步
欢迎您为社区贡献自己的力量,共建共赢,贡献流程请参考: [参与贡献]
由于功能较多,所以 bug 及优化点较多,强烈建议你使用或升级到最新版本。 替换最新 Dinky 所有依赖包 ,执行 sql 目录下的 dlink_history.sql 中的部分升级语句,依据是通过版本号与日期来判断从何处开始执行,请不要直接执行全部 sql。
站在巨人的肩膀上,Dinky 才得以诞生。对此我们对使用的所有开源软件及其社区表示衷心的感谢!我们也希望自己不仅是开源的受益者,也能成为开源的贡献者,也希望对开源有同样热情和信念的伙伴加入进来,一起为开源献出一份力!致谢列表如下:
感谢 JetBrains 提供的免费开源 License 赞助。
1.提交 issue
2.进入微信用户社区群(推荐,添加微信号 wenmo_ai 邀请进群)和QQ用户社区群(543709668)交流,申请备注 “ Dinky + 企业名 + 职位”,不写不批
3.关注微信公众号获取相关内容的文章(最新消息获取建议关注):DataLink数据中台
4.关注 bilibili UP 主(是文末呀)获取最新视频教学
5.访问 GithubPages 或 官网 网址,阅读最新文档手册
请参考 LICENSE 文件。