DRDS 产品简介 DRDS 是一款基于 MySQL 存储.采用分库分表技术进行水平扩展的分布式 OLTP 数据库服务产品,支持 RDS for MySQL 以及 POLARDB for MySQL,产品目标旨在提升数据存储容量.并发吞吐.复杂计算效率三个方面的扩展性需求. DRDS 核心能力采用标准关系型数据库技术实现,构建与公共云( cloud native ),配合完善的管控运维及产品化能力,使其具备稳定可靠.高度可扩展.持续可运维.类传统单机 MySQL 数据库体验的特点. DRDS 于…
淘宝TDDL研发历史和背景 分布式关系型数据库服务(Distribute Relational Database Service,简称DRDS)是一种水平拆分.可平滑扩缩容.读写分离的在线分布式数据库服务.前身为淘宝TDDL. 淘宝DRDS/TDDL是阿里巴巴自主研发的分布式数据库服务.DRDS脱胎于阿里巴巴开源的Cobar分布式数据库引擎,吸收了Cobar核心的Cobar-Proxy源码,实现了一套独立的类似MySQL-Proxy协议的解析端,能够对传入的SQL进行解析和处理,对应用程序屏蔽各…
发表于2015-07-15 21:47| 10943次阅读| 来源<程序员>杂志| 27 条评论| 作者王晶昱 <程序员>杂志数据库DRDS分布式沈询 摘要:伴随着系统性能.成本及扩展性的新时代需要,以HBase.MongoDB为代表的NoSQL数据库和以阿里DRDS.VoltDB.ScaleBase为代表的分布式NewSQL数据库如雨后春笋般不断涌现出来.本文详细介绍了阿里分布式数据库服务DRDS. 随着互联网时代的到来,计算机要管理的数据量呈指数级别地飞速上涨,而我们却完全无法…
<Windows Azure Platform 系列文章目录> 如果熟悉Windows Azure平台的用户不难发现,对于SQL Server数据库来说,微软提供了两种服务,分别是: -Windows Azure SQL Database(也就是以前的SQL Azure),提供PaaS的关系数据库服务 -Windows Azure SQL Virtual Machine (SQL VM),提供了IaaS的关系型数据库服务 有些读者可能会疑惑,为什么微软要提供以上2种的关系型数据库服务?我们在实…
F1是Google开发的分布式关系型数据库,主要服务于Google的广告系统.Google的广告系统以前使用MySQL,广告系统的用户经常需要使用复杂的query和join操作,这就需要设计shard规则时格外注意,尽量将相关数据shard到同一台MySQL上.扩容时对数据reshard时也需要尽量保证这一点,广告系统扩容比较艰难.在可用性方面老的广告系统做的也不够,尤其是整个数据中心挂掉的情况,部分服务将不可用或者丢数据.对于广告系统来说,短暂的宕机服务不可用将带来重大的损失.为了解决扩容/高…
Azure的两种关系型数据库服务:SQL Azure与SQL Server VM的不同 <Windows Azure Platform 系列文章目录> 如果熟悉Windows Azure平台的用户不难发现,对于SQL Server数据库来说,微软提供了两种服务,分别是: -Windows Azure SQL Database(也就是以前的SQL Azure),提供PaaS的关系数据库服务 -Windows Azure SQL Virtual Machine (SQL VM),提供了IaaS的关…
F1是Google开发的分布式关系型数据库,主要服务于Google的广告系统.Google的广告系统以前使用MySQL,广告系统的用户经常需要使用复杂的query和join操作,这就需要设计shard规则时格外注意,尽量将相关数据shard到同一台MySQL上.扩容时对数据reshard时也需要尽量保证这一点,广告系统扩容比较艰难.在可用性方面老的广告系统做的也不够,尤其是整个数据中心挂掉的情况,部分服务将不可用或者丢数据.对于广告系统来说,短暂的宕机服务不可用将带来重大的损失.为了解决扩容/高…
GreenPlum是一个底层是多台PostgreSQL分表分库的分布式数据库,它有如下特点 支持标准SQL,几乎所有PostgreSQL支持的SQL,greenplum都支持 支持ACID.分布式事务 支持上百台集群(这一点有点不好,hadoop可以万台) 系统架构 Master Host 处理用户请求,生成执行计划,以及在执行计划执行必要的聚合操作(avg)或者排序 内部有一个PostgreSQL数据库,保存所有的元数据,索引信息 监控所有segment的状态信息 Segment host 每…
背景介绍 数据库存储着企业的核心数据,在企业中占据非常重要的位置,一旦出现SQL注入,数据误删的情况,影响的不仅仅是业务,还会泄露用户的个人信息.因此,数据库的数据安全问题十分重要. 当数据库迁移到云端,其安全问题又被进一步放大,云数据库能否高效.便捷地备份数据库,当发生故障或者数据误删时,及时高效地恢复数据,成为企业用户关心的重要问题,影响着他们迁移数据库上云的信心. 近期,阿里云分布式关系型数据库服务 DRDS数据恢复功能重磅发布,针对实例级.数据库级.表级.行级的数据丢失,分别提供备份恢复…
从上一篇文章的反馈来看,大家还是喜欢八卦多过技术细节,那这一篇继续一些题外话,说说我对“去IOE”的看法. 对同一件事情,参与的没参与的人,讨论起来,都会有各自的立场.所以这里先申明一下,以下内容只是我个人的观点,与任何公司及组织及其他个人皆无关:限于个人记忆力,部分细节可能有出入,如有差错,纯属年老失忆. 淘宝当年从单个Java应用到服务化后的垂直分库,再到水平分库,一步一步走过来,每一步皆有其必然性.但从传播性和话题性上来讲,“淘宝技术架构升级”,显然不如“去IOE”这种标签化的短语有力量,…
最近在做阿里云相关的项目,用到阿里的很多接口服务的API,于是想把这段项目做个总结,顺便梳理下阿里云的云计算的相关知识点. DRDS:分布式数据库服务. 1.相关术语 DRDS(Distribute Relational Database Service),分布式关系型数据库服务:分布式数据库服务,基于rds,提供分库分表功能. DrdsInstance(Distribute Relational Database Instance),分布式数据库实例:一个独立占用物理内存的分布式数据库服务进程…
DRDS (阿里云分布式关系型数据库服务,https://www.aliyun.com/product/drds)于 4 月 30 号发布了 5.3 版本,这是一个年度大更新.主要带来了以下特性: 性能提升.在大多数场景下(拆分键上的等值查询.读写分离等),同规格的吞吐量(最大 QPS)可以提升到之前的300%. 原生分布式事务.无需额外付费或者开通,不依赖第三方组件,即可执行分布式事务.提供柔性事务与 XA 两种实现. Outline.在无需改动程序的情况下,即可通过创建 Outline 的形…
DRDS 概述 更新时间:2017-08-04 13:53:50     分布式关系型数据库服务(Distributed Relational Database Service , 简称 DRDS )专注于解决单机关系型数据库扩展性问题,具备轻量(无状态).灵活.稳定.高效等特性,是阿里巴巴集团自主研发的中间件产品.DRDS 兼容 MySQL 协议和语法,支持分库分表.平滑扩容.服务升降配.透明读写分离和分布式事务等特性,具备分布式数据库全生命周期的运维管控能力. DRDS主要应用场景在大规模在…
背景 数据库存储着系统的核心数据,其安全方面的问题在传统环境中已经成为泄漏和被篡改的重要根源.而在云端,数据库所面临的威胁被进一步的放大.因此,对云数据库的操作行为尤其是全量 SQL 执行记录的审计日志,就显得尤为重要,是保障云数据库安全的最基本要求.那么针对云数据库的 SQL 审计,您是否存在如下疑问: SQL 审计对数据库的性能有影响吗? 数据被篡改,但是没启用 SQL 审计,还能追溯篡改者吗? SQL 审计日志除了追溯安全问题外,还能发挥更大的作用吗?能否帮助我们洞察 SQL 的执行状况.…
360 Atlas 较为活跃,Atlas 是由 360 Web平台部基础架构团队开发维护的一个基于 MySQL 协议的数据中间层项目.它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性.360内部使用 Atlas 运行的 MySQL 务,每天承载的读写请求数达几十亿条. 主要功能:        1. 读写分离        2. 从库负载均衡        3. IP过滤        4. SQL语句黑白名单        5. 自动分表 Cobar…
阿里云开源数据库项目最新发布 阿里巴巴集团副总裁.阿里云智能数据库事业部总裁.高级研究员李飞飞(飞刀).阿里云数据库资深技术专家楼方鑫(黄忠)以及阿里云数据库技术专家傅宇(齐木)三位阿里云技术专家为大家介绍了最新的阿里云开源数据库项目. 李飞飞: 数据库在过去这么多年,尤其近几年发展如此迅速的核心原因之一就是开源生态做出了很大贡献.难以想象如果没有开源的MySQL.PG.HBase.MongoDB以及Cassandra等,只有Oracle.DB2.SQL Server等,今天世界会是什么样子?那…
360 Atlas Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目.它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性.360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条. Altas架构: Atlas是一个位于应用程序与MySQL之间,它实现了MySQL的客户端与服务端协议,作为服务端与应用程序通讯,同时作为客户端与MySQL通讯.它对应用程序屏蔽了DB的细节,同…
原文章地址:https://www.csdn.net/article/a/2015-08-28/15827676 跨时代的分布式数据库 – 阿里云DRDS详解 发表于2015-08-28 18:39| 次阅读| 来源CSDN| 0 条评论| 作者csdn 阿里云数据库DRDS 摘要:随着互联网时代的到来,计算机要管理的数据量成指数级别的飞速上涨.而我们完全无法对用户数做出准确的预估,我们的系统所需要支持的用户数很可能在短短的一个月内突然爆发式的增长几千倍,数据也很可能快速的从原来的几百GB飞速上…
https://baijiahao.baidu.com/s?id=1610828839695075926&wfr=spider&for=pc 前言 在数据库的选择上,MySQL成为中国开发者的最爱.相比SQLServer相对保守的数据库特点,中国开发者更喜欢开放性的数据库,同时又考虑到价格问题,那么Oracle不菲的价格也挡住了很大一批开发者.由于开源.价格等因素,在数据库选择上,要么是低价.开源的MySQL,要么就是高大上的Oracle.--云栖社区<2017中国开发者调查报告&g…
此文根据[QCON高可用架构群]分享内容,由群内[编辑组]志愿整理,转发请注明出处. 苏东旭,Ping CAP CTO,Codis作者 开源项目Codis的co-author黄东旭,之前在豌豆荚从事infrastructure相关的工作.现在在创业公司PingCAP. 本次分享的内容主要包括五个大部分: Redis.RedisCluster和Codis; 我们更爱一致性; Codis在生产环境中的使用的经验和坑们; 对于分布式数据库和分布式架构的一些看法; Q & A环节.   大家好,我是开源…
原文: http://mp.weixin.qq.com/s?__biz=MzAwMDU1MTE1OQ==&mid=208733458&idx=1&sn=691bfde670fb2dd649685723f7358fea&scene=1&key=c76941211a49ab58cb17c68ecaeeda0f1c083d9508a0f6629461fff9025fd87de4706bd9c1730e0ddbab70568b34b16a&ascene=0&…
[编者按]TiDB 是国内 PingCAP 团队开发的一个分布式 SQL 数据库.其灵感来自于 Google 的 F1,TiDB 支持包括传统 RDBMS 和 NoSQL 的特性.在国内 ITOM 管理平台 OneAPM 举办的技术公开课中,TiDB 的高级工程师刘奇从 HBase 特性.TiDB 的优势和系统架构等方面进行了详细阐述.以下为演讲整理: HBase 简介 众所周知,在 SQL 方面处于顶级的有两个公司,一个是 Oracle,他们已经积累了大量的经验,另一个是谷歌,谷歌 F1 在2…
Zookeeper典型应用 参考官方文档: http://zookeeper.apache.org/doc/current/recipes.html Out of the Box Applications: Name Service, Configuration, Group Membership Barriers Double Barriers Queues Priority Queues Locks Shared Locks Recoverable Shared Locks Two-phas…
转载一篇关系数据库与Hadoop的关系的文章 1. 用向外扩展代替向上扩展 扩展商用关系型数据库的代价是非常昂贵的.它们的设计更容易向上扩展.要运行一个更大的数据库,就需要买一个更大的机器.事实上,往往会看到服务器厂商在市场上将其昂贵的高端机标称为“数据库级的服务器”.不过有时可能需要处理更大的数据集,却找不到一个足够大的机器.更重要的是,高端的机器对于许多应用并不经济.例如,性能4倍于标准PC的机器,其成本将大大超过将同样的4台PC放在一个集群中.Hadoop的设计就是为了能够在商用PC集群上…
SQL 错误: ORA-01591: 锁被未决分布式事务处理 7.2.428982 持有 01591. 00000 -  "lock held by in-doubt distributed transaction %s" *Cause:    Trying to access resource that is locked by a dead two-phase commit transaction that is in prepared state. *Action:   DBA…
[摘要] 关系型数据库(Relational Database Service,简称RDS)是一种基于云计算平台的即开即用.稳定可靠.弹性伸缩.便捷管理的在线关系型数据库服务.RDS具有完善的性能监控体系和多重安全防护措施,并提供专业的数据库管理平台,让您能够在云中轻松设置.操作和扩展关系型数据库. 本篇博文为关系型数据库云知易系列的入门篇,主要用于指导您创建关系型数据库实例. 1.       登录管理控制台. 2.       选择"数据库 > 关系型数据库". 3.    …
分布式结构化存储系统-HBase访问方式 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. HBase提供了多种访问方式,包括HBase shell,HBase API,数据收集组件(比如Flume,Sqoop等),上层算框架以及Apache Phoenix等,本篇博客将详细介绍这几种方式. 一.HBase Shell HDFS提供了丰富的shell命令让用户更加容易管理HBase集群,你可以通过“$HBASE_HOME/bin/hbase shell”命令进入交互式命令后,并输…
企业数字化转型的不断深入,传统 IT 架构和数据库早已无法适应诸如物联网.新金融.新零售.新制造等行业对于数据高吞吐.灵活扩展等需求,企业对数据库有了更高的要求. 青云QingCloud 本次推出的 PolonDB 分布式数据库,是一款基于 Citus 构建,兼容PostgreSQL生态的分布式关系型数据库, 同时支持在线事务处理 ( OLTP ) 及在线分析处理 ( OLAP ) 场景,适用于海量数据实时分析.海量事务处理等应用场景,是面向未来数据处理的理想选择. Citus 开源数据库作为…
为何需要分布式ID生成器 **本人博客网站 **IT小神 www.itxiaoshen.com **拿我们系统常用Mysql数据库来说,在之前的单体架构基本是单库结构,每个业务表的ID一般从1增,通过 **AUTO_INCREMENT=1设置自增起始值,随着系统(比如互联网电商.外卖)用户数据日渐增长,单库性能无法满足业务系统,在这之后我们会使用基于主从同步的读写分离,但当用户量规模连主从模式都无法应对时,我们会采用分库分表(当然现在还有其他解决方案比如分布式关系型数据库如TiDB)的方案,这样…
为何需要分布式ID生成器 **本人博客网站 **IT小神 www.itxiaoshen.com **拿我们系统常用Mysql数据库来说,在之前的单体架构基本是单库结构,每个业务表的ID一般从1增,通过 **AUTO_INCREMENT=1设置自增起始值,随着系统(比如互联网电商.外卖)用户数据日渐增长,单库性能无法满足业务系统,在这之后我们会使用基于主从同步的读写分离,但当用户量规模连主从模式都无法应对时,我们会采用分库分表(当然现在还有其他解决方案比如分布式关系型数据库如TiDB)的方案,这样…