刚入职一互联网公司,项目正好处于计划上线的时间,由于公司前不久已经购买了rds服务,领导决定尝试一番! 当然,新事物.云事物还是要谨慎的.安排我先把测试环境数据库迁移上去,这里吐槽一下,往rds迁移一个比较大的 数据库是比较恶心的.2种方式: 1.数据迁移功能 结论:看似很好用,效率极慢,是通过访问你的数据库一点点同步数据的.强烈不推荐 2.使用rds配套的管理平台 结论:文件限制一百兆,幸好支持压缩文件.导入233M数据耗时121229,也就是121秒,貌似还可以.但是 其他功能确实比较鸡肋.…

一.背景: 由于阿里云RDS生产库每天都需要备份且拷贝到自建读库,而如果使用阿里云的自动拷贝到只读实例, 费用太高, 故采用自编写同步脚本方法实现. 二.前提: 1). 已开通阿里云RDS, 且开启定期备份功能.(备份功能生成备份文件供下载) 2). 已在备份的目标服务器上安装mysql数据库. 3). 备份目标服务器已安装数据恢复工具Percona XtraBackup,您可以从Percona XtraBackup官网下载安装. MySQL 5.6及之前的版本需要安装 Percona Xtra…

1. 改造原因 (1) 由于历史原因, 本应该是同一个库的表分布在两个数据库中,需要对这两个库进行合并. (2) 已有的数据库性能无法满足业务的增长需要, 查询卡,慢问题突出. (3) 当前自建Mysql数据库在配置优化.性能监控.负载均衡上缺乏成熟的方案和经验, 故借托管到阿里云RDS,有利于数据库的数据安全和服务器稳定. 2. RDS数据库现状分析 (1)RDS基本配置 (2)RDS使用情况 eunke-db007:  当前只用于做RDS性能测试, 不做生产使用, 故可以释放. eunke-…

一.背景介绍 最近几天,接到公司的一个将当前大数据平台数据全部迁移到阿里云ODPS平台上的任务.而申请的这个ODPS平台是属于政务内网的,因考虑到安全问题当前的大数据平台与阿里云ODPS的网络是不通的,所以不能使用数据采集工作流模板. 然而,考虑到原大数据平台数据量并不是很大,可以通过将原大数据平台数据导出到CSV文件,然后再将CSV文件导入到ODPS平台.在这个过程中踩的坑有点多,所以想写篇文档作为记录. 二.大数据平台Hive数据导出到本地 编写export_data.sh脚本如下: #!/…

让我们先回顾下前两篇博客: 程序员如何从0到1搭建自己的技术博客 在个人博客中优雅的使用Gitalk评论插件 通过前两篇博客,我们了解了如何快速的从0到1搭建一个个人博客并使用了Gitalk评论插件,虽然博客现在是有了,但是存在一些缺点,主要有以下几点: 访问不稳定 百度收录不好 百度统计功能无法正常使用 作为一个有追求的程序员,岂能容忍这些缺点,哈哈,于是趁着阿里云Hi购季买了一台阿里云服务器,开启了将个人博客迁移至阿里云服务器的历程,谁知竟然倒腾了两三天,本篇博客就详细总结下在这个过程中遇到…

最近遇到一些开发者朋友,准备将原有的Java Spring的应用配置迁移到 阿里云应用配置管理 ACM 中.迁移过程中,遇到不少有趣的问题.本文将通过一个简单的样例来还原迁移过程中遇到的问题和相关解决思路,以期达到和读者交流的目的. 什么样的配置适合进入配置中心 这是所有准备迁移配置到配置中心的用户遇到的第一个问题.我们将从时效性和安全这两个维度进行分析. 时效性:静态 VS 动态 静态配置是指程序版本一旦发布,基本上不会修改的配置内容,例如: 软件版本号:显然版本号一经确定,产品基本上不需要改…

由于某几个业务表数据量太大,数据由业务写,数据部门读. 写压力不大,读却很容易导致长时间等待问题(读由单独系统进行读),导致连接被占用,从而容易并发稍稍增长导致全库卡死! 于是,就拆库呗. 业务系统拆分就不要做了(微服务化),没那工夫. 直接原系统拆两个数据源出来,对某几个高压力表的写就单独用这个数据源,从而减轻压力. 所以,分库工作就变为了两个步骤: 1. 两个数据源读写业务: 2. 将新数据库写动作同步回读库: 再由于方便性,数据库也是使用阿里的rds数据库,一个变为两个! 代码上做两个数据…

适用场景 本文适用于使用DTS实现相同实例下库名不同的数据库之间的数据迁移.本文以使用DTS将同一RDS实例下的amptest库迁移到jiangliu_amptest库为例来说明如何使用DTS实现相同实例下库名不同的数据库之间的数据迁移. 说明:当源和目标实例类型不为RDS时,配置流程相同. 环境准备 创建RDS账号,不同的数据库类型,要求的迁移账号权限不同,具体权限要求可以参考产品手册-数据迁移中的相关文档. 在同一RDS实例下创建好amptest数据库以及jiangliu_amptest数据…

使用数据传输DTS可以实现两个RDS实例间的数据迁移.对于支持增量迁移的存储引擎,还可以使用DTS在源RDS实例不停服的情况下,将数据迁移到目标RDS实例.目前对于RDS不同存储引擎,只支持同构迁移(例如RDS For MySQL迁移到RDS For MySQL),不支持异构迁移(例如RDS For MySQL迁移到RDS For SQLServer). 本小节简单介绍使用DTS进行两个RDS实例之间的数据迁移的任务配置流程. 迁移权限要求 当使用DTS进行两个RDS实例间的数据迁移时,不同迁移…

MongoDB是一个基于分布式文件存储的数据库.由C++语言编写.旨在为WEB应用提供可扩展的高性能数据存储解决方案. MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的. 它支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型. Mongo最大的特点是它支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引. 1.阿里云Mong…