

不可错过的新一代分布式任务调度与计算框架
source link: https://github.com/KFCFans/PowerJob
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

PowerJob(原OhMyScheduler)是全新一代分布式调度与计算框架,能让您轻松完成作业的调度与繁杂任务的分布式计算。
简介
主要特性
- 使用简单:提供前端Web界面,允许开发者可视化地完成调度任务的管理(增、删、改、查)、任务运行状态监控和运行日志查看等功能。
- 定时策略完善:支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。
- 执行模式丰富:支持单机、广播、Map、MapReduce四种执行模式,其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力。
- DAG工作流支持:支持在线配置任务依赖关系,可视化得对任务进行编排,同时还支持上下游任务间的数据传递
- 执行器支持广泛:支持Spring Bean、内置/外置Java类、Shell、Python等处理器,应用范围广。
- 运维便捷:支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率。
- 依赖精简:最小仅依赖关系型数据库(MySQL/Oracle/MS SQLServer...),扩展依赖为MongoDB(用于存储庞大的在线日志)。
- 高可用&高性能:调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。
- 故障转移与恢复:任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。
适用场景
- 有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。
- 有需要全部机器一同执行的业务场景:如使用广播执行模式清理集群日志。
- 有需要分布式处理的业务场景:比如需要更新一大批数据,单机执行耗时非常长,可以使用Map/MapReduce处理器完成任务的分发,调动整个集群加速计算。
同类产品对比
QuartZ xxl-job SchedulerX 2.0 PowerJob 定时类型 CRON CRON CRON、固定频率、固定延迟、OpenAPI CRON、固定频率、固定延迟、OpenAPI 任务类型 内置Java 内置Java、GLUE Java、Shell、Python等脚本 内置Java、外置Java(FatJar)、Shell、Python等脚本 内置Java、外置Java(容器)、Shell、Python等脚本 分布式任务 无 静态分片 MapReduce动态分片 MapReduce动态分片 在线任务治理 不支持 支持 支持 支持 日志白屏化 不支持 支持 不支持 支持 调度方式及性能 基于数据库锁,有性能瓶颈 基于数据库锁,有性能瓶颈 不详 无锁化设计,性能强劲无上限 报警监控 无 邮件 短信 邮件,提供接口允许开发者扩展 系统依赖 JDBC支持的关系型数据库(MySQL、Oracle...) MySQL 人民币(公测期间免费,哎,帮打个广告吧) 任意Spring Data Jpa支持的关系型数据库(MySQL、Oracle...) DAG工作流 不支持 不支持 支持 支持文档
PS:感谢文档翻译平台 breword 对本项目英文文档翻译做出的巨大贡献!
参考
Alibaba SchedulerX 2.0
- Akka 框架 :不得不说,akka-remote简化了相当大一部分的网络通讯代码。
- 执行器架构设计 :这篇文章反而不太认同,感觉我个人的设计更符合Yarn的“架构”。
- MapReduce模型 :想法很Cool,大数据处理框架都是处理器向数据移动,但对于传统Java应用来说,数据向处理器移动也未尝不可,这样还能使框架的实现变得简单很多。
- 广播执行 :运行清理日志脚本什么的,也太实用了8~
其他
[email protected]
Recommend
-
58
前言任务调度可以说是所有系统都必须要依赖的一个中间系统,主要负责触发一些需要定时执行的任务。传统的非分布式系统中,只需要在应用内部内置一些定时任务框架,比如 spring 整合 quartz,就可以完成一些定时任务工作。在分布式系统中,这样做的话,就会面临任务...
-
32
Aloha 是一个基于 Scala 实现的分布式的任务调度和管理框架,提供插件式扩展功能,可以用来调度各种类型的任务。Aloha 的典型的应用场景是作为统一的任务管理入口。例如,在数据平台上通...
-
40
-
40
分布式任务调度平台 演示地址:http://122.51.106.217:6579 前言 在企业系统开发过程中难免少不了一些定时任务来进行定时触发执行任务,对于非分布式环境系统中,我们只需要在对应系统中内部集成一些调度库...
-
30
来源:EFbiz blog.csdn.net/guyue35/article/details/84883408 0. 目录 1. 什...
-
27
分布式任务调度平台XXL-JOB简介:XXL-JOB是一个轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。官网文档https://www.xuxueli.com/xxl-job/特性1、简单:支持通过Web页面对任...
-
16
-
21
分布式任务调度系统-PowerJob 最近在调研分布式任务如何选型,最终选择了比较年轻的PowerJob,下面会简单介绍下这个框架的使用以及它的运行流程。 一、选择PowerJob的原因1.1:同类产品对...
-
5
《分布式任务调度平台XXL-JOB》目录1.1 概述XXL-JOB是一个分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。 1.2 社区交...
-
25
延时应用场景 之前的文章分享了分布式任务调度系统负载均衡方案:
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK