我们先看看 这 2 篇文章:

《秘诀!支付宝支撑双十一4200万次/秒的数据库请求峰值的技术实现》  https://mp.weixin.qq.com/s?__biz=MzI3MzEzMDI1OQ==&mid=2651820306&idx=1&sn=6220b250d8970822e8c63a49fc1c4442&chksm=f0dcc76ec7ab4e782a683c4532304eb75cef2d8f24fa9abcdc692e865a97e7fd0d145ee0452f&mpshare=1&scene=1&srcid=05110uUhHlasVkvsuwF1pZsd&pass_ticket=lfqxD4r1E1dgDxTqGUsQTSjApCKuffPi3swo8QNXfC9dq3nzpLHNpn4f7IJMM42n#rd

《蚂蚁金服CTO程立:金融级分布式交易的技术路径》  https://mp.weixin.qq.com/s?__biz=MzI3MzEzMDI1OQ==&mid=2651820298&idx=1&sn=e01179f16295ac1fddc3c33696845fe4&chksm=f0dcc776c7ab4e604e1d7d3171708a40331e1e0dce100579026df9b4365be1f7af0e37da5e0a&mpshare=1&scene=1&srcid=0509JF8HPfpgyAQL3orPFGXq&pass_ticket=lfqxD4r1E1dgDxTqGUsQTSjApCKuffPi3swo8QNXfC9dq3nzpLHNpn4f7IJMM42n#rd

我之前也写过 2 篇文章 :

《海量 并发 下 的 系统架构 和 数据库 发展之路》  https://www.cnblogs.com/KSongKing/p/9937135.html

《论 大并发 下的 乐观锁定 Redis锁定 和 新时代事务》  https://www.cnblogs.com/KSongKing/p/9934722.html

阿里 的 OceanBase 高速的数据处理 和 应对大并发 的 能力 的 基础 是 内存计算, 即 在 内存 里 对 数据 进行计算, 而不是在计算时 频繁的 读写 外部存储器 。

对于 事务(Transaction),  OceanBase 应该不会把 事物日志 写到 外部存储器(磁盘 固态硬盘), 而是 写入 多个 服务器节点 的 内存,

通过 多节点 来实现 可靠性 。 比如 要超过 2/3 的 节点 正常的 写入了 事务日志 , 才会开始 事务 。

这同样是为了 提升速度,  事务日志 如果写入 外部存储器 的话, 时间上来不及,  对 天量交易 来说 太慢了。

从 内存计算 这一点 来看,  OceanBase 和  12306 搭建 的 Gemfire 集群 是 相似 的 。

有关 12306 架构, 可以参考我之前写的另一篇文章  《漫谈 12306 架构》  https://www.cnblogs.com/KSongKing/p/9550000.html

Gemfire 也是一个 内存数据库, 不过不是 关系数据库, 是一个 Key Value 数据库, 支持 组建集群, 也就是 水平扩展, 这样可以 增加 处理器 和 内存 数量 来 支持 大并发 。

而 OceanBase 和 Gemfire 集群 两者 在 实际中 对 并发 的 处理规模 也是可以 相提并论 的 。

但是, 光凭 内存计算 等 技术 实现的 卓越性能 是否能够 应对 “天量”交易 ?

不能 。

我们 可以作一个 设定,  每秒 1000万次 以上 的 交易量 称为 “天量" 。

下面 我们 以 每秒 1000万次 作为目标 来 分析 如何达到 每秒 1000万次 这样的并发量 。

一个 CPU 核, 能够处理 每秒 1000次 的 事务 就已经不错了 。 即使采用了 内存计算, 能够达到 每秒 1000次, 已经不错了 。

这是一个什么概念呢?   就是    1 毫秒(ms) 处理一个 事务 。 也就是     1 秒 能处理  1000 个 事务 。

所以, 对于 每秒 1000万次 的 事务, 需要    1000万 / 1000  =  1 万 个 CPU 核 ,

如果 以  每台服务器   100 核 来看, 需要 100 台 服务器,

如果 以  每台服务器   50 核 来看, 需要 200 台 服务器 。

大概是 这么一个 体量 。

其次, 需要在 业务层面 进行 很细 的 分库分表 。

因为  事务  会 锁定 表,  这会导致 即使 有 1 万 个 CPU 核 ,  但是对于 A 表 的 操作 同时也只能有  一个 核(线程)能进行 。

这就又回到了 和  单核(单线程) 等价 的 情形 。

大家可能会 提出,  能不能用 行锁定 和 乐观锁定 来 代替 表锁定 ?

这 2 种方式 我在 上面 引用的 我写的 另外一篇文章  《论 大并发 下的 乐观锁定 Redis锁定 和 新时代事务》 里都分析过 。

但 ,   ……

而且 除了锁, 事务 还有另外一个作用, 就是 数据完整性, 即 交易失败 时, 数据 可以恢复原样 。

所以, 总的来说,  传统事务 还是 必需 的 。

所以, 需要在 业务层面 进行 很细 的 分库分表 。

既然 有 1 万 个 核 ,  最好能 分成  1 万 个 表,  这样每个 核 一个 表,  大家互相不会干扰, 可以 跑 的 很开心 。

1 万 个  核  一起 欢快的 奔跑 着,   啦啦啦   ~~~

至于 分几个 库,   那 大家 看着办 好了 。

而实际上,  对于 淘宝 天猫 的 业务 来讲, 还真 可以 分  1 万 个 表 。

对于 淘宝 天猫 这样的 零售业 来讲,  交易 大部分 是 购买 付账 ,  在 交易 里 要做的事 是 判断 库存剩余量, 修改商品状态, 修改库存 。

这样就可以 按照      商户 商品类别    来 分库 分表 。

那么, 既然这样的话,  我们提出一个问题,

能不能不用 OceanBase ,  用 其它 常用的 数据库, 比如  Oracle,  SqlServer,   MySql,   PostgreSql   等 来 实现 和 阿里 类似 的 架构 和 效果 ?

能 。

我们以  Sql Server  为例 ,  Sql Server 发展到现在, 在 利用 多核 和 内存 上 做的很好 。

我们 以  SqlServer 2017  为例, 按照上面计算出来的 体量,  部署 200 台 服务器,  每台 服务器 CPU 50 核, 内存 100 G(相当于 每个 核  2 G 内存), 再加上 固态硬盘 ,

可以达到 接近 或者 类似 阿里 淘宝 天猫 架构 的 效果 。

浅析 阿里 OceanBase 双十一 淘宝天猫 天量交易 承载能力 原理的更多相关文章

  1. [淘宝客技术篇008](无需登录)淘宝天猫优惠券JSON接口1

    今天,小星给大家分享的是一个非常重要,非常有意义的接口:获取淘宝天猫优惠券的JSON接口. 先上个链接: http://uland.taobao.com/cp/coupon_list?pid=mm_2 ...

  2. 简单的抓取淘宝关键字信息、图片的Python爬虫|Python3中级玩家:淘宝天猫商品搜索爬虫自动化工具(第一篇)

    Python3中级玩家:淘宝天猫商品搜索爬虫自动化工具(第一篇) 淘宝改字段,Bugfix,查看https://github.com/hunterhug/taobaoscrapy.git 由于Gith ...

  3. 淘宝天猫关键词SEO优化

    淘宝天猫的网站完全像是一个成熟的搜索引擎,只是从google.bing.baidu改成了淘宝天猫而已,普通搜索引擎有品专,有皇冠,有PC,有无线:淘宝天猫里面有钻展,有直通车,也有PC,无线.搜索引擎 ...

  4. Python网页信息采集:使用PhantomJS采集淘宝天猫商品内容

    1,引言 最近一直在看Scrapy 爬虫框架,并尝试使用Scrapy框架写一个可以实现网页信息采集的简单的小程序.尝试过程中遇到了很多小问题,希望大家多多指教. 本文主要介绍如何使用Scrapy结合P ...

  5. 【淘宝客】根据淘客联盟精选清单(淘宝天猫内部优惠券)随机显示淘宝天猫优惠券dome

    也许大家在生活中经常淘宝看到[淘宝天猫内部优惠券]的网站,或者在微博中经常有博主发券,让大家生活中购物便宜许多,作为一个站长,我们也希望自己的网站也能有这样的一个功能,现在就分享给大家,还是免后台哦. ...

  6. 漫谈单点登录(SSO)(淘宝天猫)

    1. 摘要 ( 注意:请仔细看下摘要,留心此文是否是您的菜,若浪费宝贵时间,深感歉意!!!) SSO这一概念由来已久,网络上对应不同场景的成熟SSO解决方案比比皆是,从简单到复杂,各式各样应有尽有!开 ...

  7. 漫谈单点登录(SSO)(淘宝天猫)(转载)

    1. 摘要 ( 注意:请仔细看下摘要,留心此文是否是您的菜,若浪费宝贵时间,深感歉意!!!) SSO这一概念由来已久,网络上对应不同场景的成熟SSO解决方案比比皆是,从简单到复杂,各式各样应有尽有!开 ...

  8. php单点登录之模拟淘宝天猫同步登录

    说到单点登录大家都很了解,一个站点登录其他域会自动登录. 单点登录SSO(Single Sign On)的方法有很多,比如:p3p.共享session.共享cookice.第三方OAuth认证. 这里 ...

  9. 淘宝天猫网站停止支持IE6、IE7浏览器,你还在用xp吗?

    2016年4月14日,是科比正式告别篮球的最后一场球赛.大家都在忙着各种纪念和怀念着看科比打球的青葱岁月.不过已经完美谢幕.而我们今天要说的是微软的IE6.IE7浏览器.淘宝网和天猫商城正式停止支持I ...

随机推荐

  1. git中误删提交(commit)后,怎么恢复

    “xml文件存储数据”提交被我误操作,即使用reset  --hard删除了,然后又进行了三次提交,发现删除的提交有用,需要找回来, 于是找了好久,找到好方法: 1.进入工程下的.git文件下,git ...

  2. python的编码与转码

    编码问题一直是初学者的难题,搞不明白.甚至一些程序员做了多年的程序,但是编码一直整不清,下面就来认识认识编码吧. ASCII(American Standard Code for Informatio ...

  3. 牛客oi测试赛 二 B 路径数量

    题目描述 给出一个 n * n 的邻接矩阵A. A是一个01矩阵 . A[i][j]=1表示i号点和j号点之间有长度为1的边直接相连. 求出从 1 号点 到 n 号点长度为k的路径的数目. 输入描述: ...

  4. JAVA基本类型和包装类

    JAVA的包装类 Java语言是一个面向对象的语言,但是Java中的基本数据类型却是不面向对象的,这在实际使用时存在很多的不便,为了解决这个不足,在设计类时为每个基本数据类型设计了一个对应的类进行代表 ...

  5. 自定义input[type="radio"]的样式(支持普通浏览器,IE8以上)

    对于表单,input[type="radio"] 的样式总是不那么友好,在不同的浏览器中表现不一. 对单选按钮自定义样式,我们以前一直用的脚本来实现,不过现在可以使用新的伪类 :c ...

  6. final视频

    作业要求[https://edu.cnblogs.com/campus/nenu/2018fall/homework/2476] 视频链接[https://v.youku.com/v_show/id_ ...

  7. input获取焦点无效

    js控制input获得焦点: $("input").focus(); 无效,写在延时函数中问题解决: setTimeout(function(){ $("input&qu ...

  8. Vuex的学习笔记一

    以下的解释,是在知乎看到的,感觉粗俗易懂. 组件之间的作用域独立,而组件之间经常又需要传递数据. A 为父组件,下面有子组件 B 和 C. A 的数据可以通过 props 传递给 B 和 C.A 可以 ...

  9. python flask 小项目

    0 开始之前 网上看了很多教程,都不是很满意,因此自己写一个大型教程,从入门到做出一个比较完整的博客.此次教程不是直接把整个博客直接代码整理出来然后运行一遍就完事,我会从flask的各个模块讲起.所以 ...

  10. Java中的13个原子操作类

    java.util.concurrent.atomic包一共提供了13个类.属于4种类型的原子更新方式,分别是原子更新基本类型,原子更新数组,原子更新引用和原子更新属性.Atomic包里的类基本都是使 ...