后端必备分布式技术之-调度系统Quartz设计原理
yuyutoo 2024-11-01 15:55 5 浏览 0 评论
调度系统作为分布式系统技术中重要的一环,了解其技术原理必不可少,不同系统内部采用的调度系统叫法不一样,但大致功能都类似,而Quartz作为经典的开源企业级调度系统,怎么能不研究一下呢?
为什么要学习quartz源码?
- 调度系统很重要而且很常见,quartz又是业内知名产品,在企业中得到了广泛的应用
- 学习好的系统设计可以提升自己的系统设计能力,后续涉及到任务调度相关功能,做起来更轻松和更稳定
概念
- Job代表一个任务实例。 Job由Jobdetail配置的实例信息生成。
- JobDetail代表一个任务配置详情。
- Trigger代表调度参数的配置,什么时候发起调用,时间策略的调度。
- Scheduler:调度容器,一个Scheduler可以注册多个JobDetail和Trigger。只有JobDetail和Trigger组合到一起,才能被Scheduler调度。
- JobStore:保存和读取JobDetail与Trigger的地方,可以存储在内存或者数据库中。
Demo
来一段代码实际感受下Quartz的使用方式,有助于了解其概念:
1 假如mvn依赖,mysql和HikariCP用于持久化任务配置。
<!-- https://mvnrepository.com/artifact/org.quartz-scheduler/quartz -->
<dependency>
<groupId>org.quartz-scheduler</groupId>
<artifactId>quartz</artifactId>
<version>2.3.0</version>
</dependency>
<dependency>
<groupId>org.quartz-scheduler</groupId>
<artifactId>quartz-jobs</artifactId>
<version>2.2.1</version>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
<version>5.1.35</version>
</dependency>
<!-- https://mvnrepository.com/artifact/com.zaxxer/HikariCP -->
<dependency>
<groupId>com.zaxxer</groupId>
<artifactId>HikariCP</artifactId>
<version>2.2.5</version>
</dependency>
复制代码
2 准备Demo代码
//创建一个简单的Job接口类
public class HelloJob implements Job {
@Override
public void execute(JobExecutionContext jobExecutionContext) throws JobExecutionException {
System.out.println("hello quartz!");
}
}
// 1. 通过工厂的方式创建Scheduler
// 2. JobDetail指定Job为HelloJob
// 3. Trigger执行策略为每个10s重复执行一次调度作业
public class SchedulerTest {
private static SchedulerFactory factory = new StdSchedulerFactory();
public static void main(String[] args) throws SchedulerException {
Scheduler scheduler = factory.getScheduler();
scheduler.start();
// JobDetail
JobDetail job = JobBuilder.newJob(HelloJob.class)
.withIdentity("myJob", "group")
.build();
// Trigger
Trigger trigger = TriggerBuilder.newTrigger()
.withIdentity("myTrigger", "group")
.startNow()
.withSchedule(simpleSchedule()
.withIntervalInSeconds(10)
.repeatForever())
.build();
// 调度
scheduler.scheduleJob(job,trigger);
}
}
复制代码
3 默认情况下JobDetail和Trigger是存储在内存中的,如果想要持久化到数据库中,可以新增quartz.properties,修改配置准备数据库脚本。
- 数据库脚本:数据表脚本:raw.githubusercontent.com/quartznet/q…
- Quartz配置:
# quartz数据库的表前缀
org.quartz.jobStore.tablePrefix = QRTZ_
# 持久化使用的类,JobStoreTX支持事物的提交和回滚
org.quartz.jobStore.class = org.quartz.impl.jdbcjobstore.JobStoreTX
org.quartz.jobStore.driverDelegateClass = org.quartz.impl.jdbcjobstore.StdJDBCDelegate
# 数据源的标记,配置之后quartz会根据值作为前缀获取数据库的配置
# 在StdSchedulerFactory类中搜索 String[] dsNames = cfg.getPropertyGroups(PROP_DATASOURCE_PREFIX); 查看这部分代码
org.quartz.jobStore.dataSource = myDS
# 配置数据库
org.quartz.dataSource.myDS.driver = com.mysql.jdbc.Driver
org.quartz.dataSource.myDS.URL = jdbc:mysql://localhost:3306/quartz-test?characterEncoding=utf-8
org.quartz.dataSource.myDS.user = root
org.quartz.dataSource.myDS.password =
org.quartz.dataSource.myDS.maxConnections = 5
#org.quartz.dataSource.myDS.connectionProvider.class=org.quartz.utils.HikariCpPoolingConnectionProvider
org.quartz.dataSource.myDS.provider=hikaricp
# 其余采用默认的quartz配置
org.quartz.scheduler.instanceName: DefaultQuartzScheduler
org.quartz.scheduler.rmi.export: false
org.quartz.scheduler.rmi.proxy: false
org.quartz.scheduler.wrapJobExecutionInUserTransaction: false
org.quartz.threadPool.class: org.quartz.simpl.SimpleThreadPool
org.quartz.threadPool.threadCount: 10
org.quartz.threadPool.threadPriority: 5
org.quartz.threadPool.threadsInheritContextClassLoaderOfInitializingThread: true
org.quartz.jobStore.misfireThreshold: 60000
复制代码
运行结果:
数据表解释:
原理设计
UML类图
- 两个主要线程:QuartzSchdulerThread与MisfireHandler 调度任务的核心执行逻辑在QuartzSchdulerThread中 MisfireHandler用于解决任务未触发问题。
- JobStore对Job和Trigger的增删改查,JobRunShell将框架与我们自定义的业务Job进行关联起来处理
Quartz主要启动过程
通过时序图,了解Quartz大部分核心类的创建时机。
1 首先创建调度工厂类,一般使用StdSchedulerFactory,通过工厂类创建Scheduler。Scheduler的属性可通过quartz.properties配置
2 以Scheduler的标准实现StdScheduler为例,其为QuartzScheduler的代理类,主要行为通过QuartzScheduler来实现。
3 QuartzScheduler实例化的时候也是在StdSchedulerFactory中,它主要使用两个对象。
- QuartzSchedulerResources 实例化与StdSchedulerFactory中,包含Scheduler创建和运行过程的主要资源,如JobStore和ThreadExecutor。
- QuartzSchedulerThread 负责触发Trigger,通过SchedulerSignaler进行交互
Quartz任务调度过程
我们创建的任务是怎么被调度的?主要在调度线程QuartzSchedulerThread中实现,其大致逻辑
1 先获取线程池中可以使用的线程数量,如果没有可以用的线程会阻塞到有可用的线程。 配置:org.quartz.threadPool.xxx
2 通过JobStore获取接下来30秒钟内要执行的trigger。org.quartz.spi.JobStore#acquireNextTriggers
3 循环与waiting到任务配置的触发时间
4 进行触发,通过JobStore.triggerFired获取TriggerFiredResult
5 针对每个要执行的TriggerFiredResult,创建JobRunShell,并放入线程池执行
- JobRunShell调用初始化方法,创建本次要执行Job和JobExecutionContext。 Job = JobDetail.getJobClass().newInstance(), JobExecutionContext包含了本次Job运行的JobDetail和Trigger等信息。
- 将JobRunnerShell丢到线程池中,从线程池中选一个可用的WorkerThread运行。
- 运行JobRunnerShell的run方法。job.execute(jec); 执行Job实例代码,执行前后可以通过listner做一些监听。
Quartz任务Misfire过程
Quartz调度器正常情况下获取将来一段时间内要触发的任务,然后循环等待到指定时刻进行执行,但是可能在指定的时间点未执行到配置的任务。出现这种情况的原因:
- 系统重启,重启的这段时间中,一些任务被misfire
- trigger被暂停(suspendXXX)的一段时间中,一些任务被misfire
- 线程池资源不足,任务无法被执行
- 有些任务在触发时间时,上次正在执行的任务目前还没有结束。
那么Misfire机制的处理原理是什么呢?
- 假设在0时刻有一个任务需要执行,但是到了当前时刻即图中的80,任务还没有被执行, 如果当前时刻与0时刻要执行的任务大于misfireThreshold,那么0时刻的任务被看做是misfire任务。
- 然后0时刻的任务会被MisfireHandler检测到,再将其next_trigger_time设置为90(设置为当前时刻之后)。
- 由于任务的next_trigger_time设置为了当前时刻之后,调度线程会重新检测到这个任务,然后进行触发。
内部run方法的执行流程:
1 扫描在misfireThreshold到此刻时间范围内没有被执行的Trigger。首先进行计数:countMisfiredTriggersInState(conn, STATE_WAITING, getMisfireTime())
2 如果count大于0的话,获取锁,防止并发访问。然后获取需要被触发的Misfire trigger。
3 根据配置的misfireInstruction更新trigger的next_fire_time。主要方法位于:SimpleTriggerImpl#updateAfterMisfire
4 提交connection
5 如果还有更多的misfire任务,休息最短暂的50ms。 如果没有则sleep时间为misfireThreshold
Trigger状态
在网上看到一个有关Trigger状态流转的图,参考下:
一些问题
预估在使用Quartz中可能会存在的问题:
1 数据表结构固定,必须要按照官方给的表结构来吗?
- 可以自己实现JobStore,参考JobStoreSupport类,自定义表结构
2 Quartz默认使用数据库作为分布式锁,性能太差,如何优化?
- 自定义LockHandler类,使用Redis实现分布式锁
- 使用Trigger批处理方式
- 改变任务执行的顺序
- 减少上下文的切换
参考:tech.ebayinc.com/engineering…
最后
本人才疏学浅,过程如有不当,希望大佬能指出错误,如有想关于其设计原理讨论的,也欢迎来撩。
会持续更新...
相关推荐
- 全局和隐式 using 指令详解(全局命令)
-
1.什么是全局和隐式using?在.NET6及更高版本中,Microsoft引入了...
- 请停止微服务,做好单体的模块化才是王道:Spring Modulith介绍
-
1、介绍模块化单体是一种架构风格,代码是根据模块的概念构成的。对于许多组织而言,模块化单体可能是一个很好的选择。它有助于保持一定程度的独立性,这有助于我们在需要的时候轻松过渡到微服务架构。Spri...
- ASP.NET程序集引用之痛:版本冲突、依赖地狱等解析与实战
-
我是一位多年后端经验的工程师,其中前几年用ASP.NET...
- .NET AOT 详解(.net 6 aot)
-
简介AOT(Ahead-Of-TimeCompilation)是一种将代码直接编译为机器码的技术,与传统的...
- 一款基于Yii2开发的免费商城系统(一款基于yii2开发的免费商城系统是什么)
-
哈喽,我是老鱼,一名致力于在技术道路上的终身学习者、实践者、分享者!...
- asar归档解包(游戏arc文件解包)
-
要学习Electron逆向,首先要有一个Electron开发的程序的发布的包,这里就以其官方的electron-quick-start作为例子来进行一下逆向的过程。...
- 在PyCharm 中免费集成Amazon CodeWhisperer
-
CodeWhisperer是Amazon发布的一款免费的AI编程辅助小工具,可在你的集成开发环境(IDE)中生成实时单行或全函数代码建议,帮助你快速构建软件。简单来说,AmazonCodeWhi...
- 2014年最优秀JavaScript编辑器大盘点
-
1.WebstormWebStorm是一种轻量级的、功能强大的IDE,为Node.js复杂的客户端开发和服务器端开发提供完美的解决方案。WebStorm的智能代码编辑器支持JavaScript,...
- 基于springboot、tio、oauth2.0前端vuede 超轻量级聊天软件分享
-
项目简介:基于JS的超轻量级聊天软件。前端:vue、iview、electron实现的PC桌面版聊天程序,主要适用于私有云项目内部聊天,企业内部管理通讯等功能,主要通讯协议websocket。支持...
- JetBrains Toolbox推出全新产品订阅授权模式
-
捷克知名软件开发公司JetBrains最为人所熟知的产品是Java编程语言开发撰写时所用的集成开发环境IntelliJIDEA,相信很多开发者都有所了解。而近期自2015年11月2日起,JetBr...
- idea最新激活jetbrains-agent.jar包,亲测有效
-
这里分享一个2019.3.3版本的jetbrains-agent.jar,亲测有效,在网上找了很多都不能使用,终于找到一个可以使用的了,这里分享一下具体激活步骤,此方法适用于Jebrains家所有产品...
- CountDownTimer的理解(countdowntomars)
-
CountDownTimer是android开发常用的计时类,按照注释中的说明使用方法如下:kotlin:object:CountDownTimer(30000,1000){...
- 反射为什么性能会很慢?(反射时为什么会越来越长)
-
1.背景前段时间维护一个5、6年前的项目,项目总是在某些功能使用上不尽人意,性能上总是差一些,仔细过了一下代码发现使用了不少封装好的工具类,工具类里面用了好多的反射,反射会影响到执行效率吗?盲猜了一...
- btrace 开源!基于 Systrace 高性能 Trace 工具
-
介绍btrace(又名RheaTrace)是抖音基础技术团队自研的一款高性能AndroidTrace工具,它基于Systrace实现,并针对Systrace不足之处加以改进,核心改进...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- .NET 奇葩问题调试经历之3——使用了grpc通讯类库后,内存一直增长......
- 全局和隐式 using 指令详解(全局命令)
- 请停止微服务,做好单体的模块化才是王道:Spring Modulith介绍
- ASP.NET程序集引用之痛:版本冲突、依赖地狱等解析与实战
- .NET AOT 详解(.net 6 aot)
- 一款基于Yii2开发的免费商城系统(一款基于yii2开发的免费商城系统是什么)
- asar归档解包(游戏arc文件解包)
- 在PyCharm 中免费集成Amazon CodeWhisperer
- 2014年最优秀JavaScript编辑器大盘点
- 基于springboot、tio、oauth2.0前端vuede 超轻量级聊天软件分享
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)