alei76 / EasyScheduler

Easy Scheduler is a distributed workflow task scheduling system, which mainly resolve the problem of "complicated task dependencies but cannot directly monitor the health status of tasks". Easy Scheduler assembles tasks in a DAG manner and can monitor the running status of tasks in real time. Meanwhile, It supports operations such as retry, recovery failure from the specified node, pause and kill tasks.中文描述:Easy Scheduler是一个分布式工作流任务调度系统,主要解决"错综复杂的任务依赖关系,而不能直观监控任务健康状态等问题"。Easy Scheduler以DAG流式的方式将Task组装起来,并可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。EasyScheduler由在工作流调度方面工作多年的多位小伙伴研发而成,致力于成为大数据平台的中流砥柱,使调度变得更加容易,更可以从其中文名“易调度”看出我们的初衷,如果你对目前市面上的调度不够满意,非常欢迎使用易调度,欢迎大家加入进来,提出需求,也欢迎贡献代码

Home Page:https://analysys.github.io/easyscheduler_docs_cn/

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Easy Scheduler

License

Easy Scheduler for Big Data

设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 其主要目标如下:

  • 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态
  • 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等
  • 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作
  • 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
  • 支持工作流全局参数及节点自定义参数设置
  • 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑
  • 支持任务日志在线查看及滚动、在线下载日志等
  • 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化
  • 支持对Master/Worker cpu load,memory,cpu在线查看
  • 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
  • 支持补数
  • 支持多租户
  • 支持国际化
  • 还有更多等待伙伴们探索

与同类调度系统的对比

调度系统对比

系统部分截图

文档

更多文档请参考 easyscheduler中文在线文档

近期研发计划

EasyScheduler的工作计划:研发计划 ,其中 In Develop卡片下是1.1.0版本的功能,TODO卡片是待做事项(包括 feature ideas)

贡献代码

非常欢迎大家来参与贡献代码,提交代码流程请参考: https://github.com/analysys/EasyScheduler/blob/master/CONTRIBUTING.md

感谢

Easy Scheduler使用了很多优秀的开源项目,比如google的guava、guice、grpc,netty,ali的bonecp,quartz,以及apache的众多开源项目等等, 正是由于站在这些开源项目的肩膀上,才有Easy Scheduler的诞生的可能。对此我们对使用的所有开源软件表示非常的感谢!我们也希望自己不仅是开源的受益者,也能成为开源的 贡献者,于是我们决定把易调度贡献出来,并承诺长期维护。也希望对开源有同样热情和信念的伙伴加入进来,一起为开源献出一份力!

帮助

The fastest way to get response from our developers is to submit issues, or add our wechat : 510570367

About

Easy Scheduler is a distributed workflow task scheduling system, which mainly resolve the problem of "complicated task dependencies but cannot directly monitor the health status of tasks". Easy Scheduler assembles tasks in a DAG manner and can monitor the running status of tasks in real time. Meanwhile, It supports operations such as retry, recovery failure from the specified node, pause and kill tasks.中文描述:Easy Scheduler是一个分布式工作流任务调度系统,主要解决"错综复杂的任务依赖关系,而不能直观监控任务健康状态等问题"。Easy Scheduler以DAG流式的方式将Task组装起来,并可实时监控任务的运行状态,同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。EasyScheduler由在工作流调度方面工作多年的多位小伙伴研发而成,致力于成为大数据平台的中流砥柱,使调度变得更加容易,更可以从其中文名“易调度”看出我们的初衷,如果你对目前市面上的调度不够满意,非常欢迎使用易调度,欢迎大家加入进来,提出需求,也欢迎贡献代码

https://analysys.github.io/easyscheduler_docs_cn/

License:Apache License 2.0


Languages

Language:Java 81.6%Language:Vue 12.8%Language:CSS 4.1%Language:TSQL 0.5%Language:Shell 0.4%Language:TypeScript 0.3%Language:Python 0.1%Language:HTML 0.0%Language:FreeMarker 0.0%