LTS和其他解决方案的比较(官方)
主要根据LTS支持的几种任务(实时任务、定时任务、Cron任务,Repeat任务)和其他一些 开源框架在应用场景上做比较。
实时任务,实时执行
这种场景下,当任务量比较小的时候,单机都可以完成的时候.自己采用线程池或者去 轮训数据库取任务的方式(或者其他方式)就可以解决 · 但如果是任务执行时间比较长 或者任务量比较大,单机不足以满足需求的时候,就需要自己去做分布式的功能,还有 很重要的是,怎么做容错,怎么保证同一个任务只被一个节点执行,怎么解决执行失败 异常的情形等等,你就需要自己去做很多事情,头可能就大了。这时候 LTS 就派上用场 了.因为这些问题 LTS 都帮你解决了,你只需关注你的业务逻辑,而不用为上面的这些 事情而烦恼。当然这时候有人可能会想到如果用 MQ 去解决,利用 MQ 的异步去解耦, 也同时可以实现分布还有容错等。当然有时候是可以的,为什么说是可以的呢,因为 LTS 的架构也和 MQ 的类似, JobClient 相当于 MQ 的 Producer , JobTracker 相当于 MQ 的 Broker , TaskTracker 相当于 MQ 的 Consumer ,经过我这么一说,是不是觉得 貌似是很像哈。但是我又为什么说是有时候是可以的呢,而不是一定是可以的呢,因为 如果你同一个任务(消息)提交 MQ 两次. MQ 队列中有两条同样的任务消息,那么当 你这个任务不能有两个节点同时执行的时候(同时执行一个任务可能出现各种问题) , MQ 就不能满足了,因为他不知道你这两条消息是同一个任务,它会把这两条消息可能 会发给两个不同的节点同时执行(或者同一个节点的不同线程去执行),这时候你就需 要自己去做一些事情去保证同一个任务不能同时被两个线程(或节点)去执行问题,这 时候头又大了,那么 LTS 又派上用场了,以为 LTS 就可以保证这一点。说到任务调度. 很多人一下就想到了 QuartZ ,对于这种实时任务的情况. QuartZ 是不太适合的,它也 不能很好的解决故障转移(譬如执行中的节点突然停掉了, QuartZ 不能将这个执行中的 任务立马分配给其他节点执行,最多设置了 QuartZ 的可恢复性,在停掉的节点重启之后 重新执行该任务.但如果这个节点再也不启动起来了呢?那就只能呵呵了)等问题,这 类场景 QuartZ 就不做比较了。有些人可能问,说了这么多,你倒是举个例子呀。嗯,我 举几个例子: 1 .发短信验证码,这种可以用 MQ 去实现,也可以单机去实现(如果你 量不大的话),当然 LTS 也是可以的.如果你量非常非常大的话,建议还是用性能比较 好的 MQ 代替 2 .实时的给在线用户算数据,触发者是用户自己(自己手动点),但是 算任务的只能同时由一个线程去执行,这是就可以用 LTS 了。
定时任务
某个时间点触发这种场景下,和实时任务相比,只有一个不同,就是要指定一个时间点 去执行,可能是 1 个小时之后,可能是 1 天之后.也可能是 1 天,小时之后。有些人可 能用轮训的业务数据库的方式去解决,轮训业务数据库有什么问题呢.当然你数据量很 小我就不说了。如果你数据量还比较大的情况下,轮训数据库,势必会影响业务查询, 如果有其他业务查询的话。还有就是对于分布式的支持不是很好,还有当表中存在多种 不同执行(延迟)时间的任务,这个轮训频率就比较关键了,太短,影响性能,太长, 影响业务,执行不及时.导致任务执行延迟太久,等等。这时候如果用MQ ,虽然有些 MQ 支持延迟队列 (RabbitMQ , RocketMQ 等).但他们都是指定的一些特定的 Level 级 别延迟,但是不支持任意时间精度.譬如, 1 min , 5 min . 10 min 等等,但如果是 7 分 钟,或者 20 天之后呢。如果 MQ 支持任意时间精度,那么它的性能就只能呵呵了,这 种情况 MQ 就排除了,但是如果 MQ 的这些特定的 Level 刚好满足你的需求,那么选 MQ 也是可以的。再说说 Quartz吧, Quartz 可以支持定时任务.支持某个时间点触发, 也支持集群,它在架构上是分布式的,没有负责几种管理的节点。 Quartz 是通过数据库 行级锁的方式实现多线程之间任务争用的问题。行锁有嘟些特点呢,开销大,加锁慢, 会出现死锁,并发度相比表级锁,页级锁高一点。但是在任务量比较大的时候,并发度 较大的时候,行级锁就显得比较吃力了,而且很容易发生死锁。那么 LTS 是怎么解决并 发性的问题的呢, LTS 采用预加载和乐观锁的方式,批量的将部分要执行的任务预加载 到内存中,所以在取任务的时候只需要两步: 1 .从内存中取到一个任务,当然内存中 保证同一个线程拿到同一个任务是很容易的也是很高效的, 2 .将拿到的这个任务对应 的数据库记录锁住,那么这里采用乐观锁, CAS 的方式去修改记录(如果任务己经被别 的节点拿走了,那么重新执行 1 , 2 步,这种己经被别的节点拿走的情况,主要是在多个 JobTracker 的情形下,单个 JobTracker 不会出现这种情况,但是在多个 JobTracker 下,内存中的预加载数据采用不同步长的方式来减小两个 JobTracker 内存中数据重复的 概率,很好的解决了这个问题,这里稍微提下 》 ,所以这个时候LTS相对于QuartZ 的优 势一下就体现出来了。还有就是上面说的 Quartz 对故障转移做的不是很好。还有就是当 QuartZ 对应的 MySQL 数据库挂了,这时候问题就来了客户端提交的任务提交不成功 了,那么有人会想将这些数据保存在内存中,等 MySOL 重启起来了再重试提交,那么 如果你当前节点也挂了呢,你内存中的数据就会全部丢失了.所以这时候你需要自己额 外的去做一些失败任务本地持久化的工作.不过如果你用LTS的话, LTS 支持Failstore ,任务提交失败了,自动帮你本地持久化,然后待 JobTracker 可用的时候重试,不管你 是 JobTracker 挂了,还是 JobTracker 对应的数据库挂了,都是 ok 的。举个例子吧,在 一个小时之后给某些用户发短信,或者当用户点击退款操作之后,从点击退货的这个时 间点开始, n 天后将这个退款关闭。
周期性任务(Cron,Repeat)
这种场景下,和定时任务相比,不一样的地方,就只有.这个是会重复执行的,相当于 重复执行的定时任务。所以这种场景下的对比,可以继续考照定时任务的对比。 LTS在 这种场景下提供的特性有,提供统一的后台监控和后台管理。当某次定时任务执行失 败,会执行重试操作,并提供执行日志.
LTS和其他解决方案的比较(官方)的更多相关文章
- android 7.0 调用系统相机崩溃的解决方案(非谷歌官方推荐)
解决方案: 1.(推荐)7.0之后你的app就算有权限,给出一个URI之后手机也认为你没有权限. 不用修改原有代码,在Application的oncreate方法中:(或者直接放在调用相机的activ ...
- 手动从0搭建ABP框架-ABP官方完整解决方案和手动搭建简化解决方案实践
本文主要讲解了如何把ABP官方的在线生成解决方案运行起来,并说明了解决方案中项目间的依赖关系.然后手动实践了如何从0搭建了一个简化的解决方案.ABP官方的在线生成解决方案源码下载参考[3],手动搭 ...
- 常见的高可用MySQL解决方案
MySQL数据库作为最基础的数据存储服务之一,在整个系统中有着非常重要的地位,因此要求其具备高可用性是无可厚非的.有很多解决方案能实现不同的SLA(服务水平协定),这些方案可以保证数据库服务器在硬件或 ...
- Ping CAP CTO、Codis作者谈redis分布式解决方案和分布式KV存储
此文根据[QCON高可用架构群]分享内容,由群内[编辑组]志愿整理,转发请注明出处. 苏东旭,Ping CAP CTO,Codis作者 开源项目Codis的co-author黄东旭,之前在豌豆荚从事i ...
- 【G】开源的分布式部署解决方案文档 - Web Deploy
G.系列导航 [G]开源的分布式部署解决方案 - 导航 微软官方部署方式 右键项目->发布 这个大家应该再熟悉不过,在部署前有个预览界面可以看本次更新到底更新哪些文件. 既然它可以预览部署结果, ...
- mysql 官方读写分离方案
mysql 8.0 集群模式下的自动读写分离方案 问题 多主模式下的组复制,看起来挺好,起始问题和限制很多.而且中断一个复制就无法配置了 多主模式下,innodbcluster 等于是无用的,不需要自 ...
- LTE时代的定位技术:OTDOA,LPP,SUPL2.0
LTE时代的定位技术:OTDOA,LPP,SUPL2.0 移动定位技术的发展历程 如今智能手机已经在整个社会普及,数量众多的手机应用成为了人们生活当中不可或缺的一部分.越来越多的手机应用都用到了手机定 ...
- Django 简介和版本介绍
一.简介 官方地址:https://www.djangoproject.com Django 是一个由Python 编写的具有完整架站能力的开源Web框架.使用 Django,只要很少的代码,开发人员 ...
- 微信开发包注意jar版本:
微信java jar的加密key的大小支持 异常java.security.InvalidKeyException:illegal Key Size的解决方案:在官方网站下载JCE无限制权限策略文件( ...
随机推荐
- 试着把.net的GC讲清楚(2)
试着把.net的GC讲清楚(1) 上篇文章说了一些基本概念的东西,然后还有很多东西概念没有头绪,这篇文章我试着解释 GC的回收算法详细步骤? 上篇]文章讲了.net GC的算法是Mark and Co ...
- Java 面向对象三大特征之一: 多态
多态与类型转换 子类重写父类方法 1)位置:子类和父类中有同名的方法 2)方法名相同,返回类型和修饰符相同,参数列表相同 方法体不同 多态的优势和应用场合 多态:同一个引用类型,使用不同的 ...
- [翻译]编写高性能 .NET 代码 第二章:垃圾回收 基本操作
返回目录 基本操作 垃圾回收的算法细节还在不断完善中,性能还会有进一步的提升.下文介绍的内容在不同的.NET版本里会略有不同,但大方向是不会有变动的. 在.net进程里会管理2个类型的内存堆:托管和非 ...
- OKL4虚拟化技术跟踪
这篇博客准备介绍OKL4的研究进展,本文的内容主要根据我个人阅读<OKL4_LongPaper_2010_HW_VM>这篇文章之后的理解,我也根据这篇论文的内容做了一些实验,奈何此论文涉及 ...
- SpringBoot 中常用注解
本篇博文将介绍几种SpringBoot 中常用注解 其中,各注解的作用为: @PathVaribale 获取url中的数据 @RequestParam 获取请求参数的值 @GetMapping 组合注 ...
- B. Pyramid of Glasses
原题链接 B. Pyramid of Glasses Mary has just graduated from one well-known University and is now attendi ...
- 在linux系统中
A .etc下放置配置文件 B./var下放置日志文件 C./root超级用户主目录 D./home 使用者家目录 /bin 二进制执行文件,也就是命令文件 /etc 下存放的是配置文件 /dev ...
- linux分析apache日志获取最多访问的前10个IP
apache日志分析可以获得很多有用的信息,现在来试试最基本的,获取最多访问的前10个IP地址及访问次数. 既然是统计,那么awk是必不可少的,好用而高效. 命令如下: awk '{a[$1] += ...
- scrapy回调函数传递参数
scrapy.Request 的callback传参的两种方式 1.使用 lambda方式传递参数 def parse(self, response): for sel in response.xpa ...
- H3C三层交换机配置IP
1.直接在物理端口上设置IP地址. int f1/0/1 port link-mode route #链路模式采用路由 ip add 192.168.10.1 24 ospf network0type ...