阿里大数据产品体系是基于阿里云飞天平台上的数据处理服务。主要分为阿里云大数据基础产品阿里云数加平台,其产品架构图如下所示:

一、阿里云大数据基础产品

1、云数据库——RDS(ApsaraDB for RDS的简称)

  • 稳定可靠、可弹性伸缩的在线数据库服务
  • 即开即用,DMS可视化界面
  • 兼容MySQL,SQL server,PG等关系型数据库
  • 提供数据库在线扩容,备份回滚,性能监控及分析等功能
  • 只读实例和临时实例

优势:

  • 双机热备——秒级切换,服务可用性达99.5%
  • 安全防护——防DDOS攻击,SQL注入警告,数据多重备份
  • 简单易用——一键式数据迁移,可视化管理操作

2、分布式关系型数据库——DRDS(Distributed Relational Database Service)

  • 基于RDS的分布式数据存储和检索产品
  • 水平拆分可平滑扩展
  • 解决用户单RDS无法支撑业务的苦难
  • 降低用户使用分布式数据库的难度

优势:

  • 简单易用——兼容MySQL(交互协议、SQL)
  • 稳定可靠——共享阿里组件
  • 分布式——水平拆分,容量达到单节点百倍
  • 可扩展——增减节点对应用几乎无影响,高效数据迁移

3、表格存储——TS(Table Store)

  • 构建在阿里云飞天分布式系统上的NoSQL数据存储服务
  • 海量结构化数据的存储和实时访问
  • 弹性资源预留
  • 实时监控显示

优势:

  • 稳定——自动故障检测和恢复,系统可用性99.9%
  • 安全——用户级别的数据隔离、访问控制和权限管理,数据冗余备份
  • 大规模——单表到百TB级数据存储
  • 高性能——毫秒级别单行读写延迟,十万级别QPS

4、分析型数据库——ADB(Analytic DB)

  • 海量数据实时高并发在线分析云计算平台
  • 自由的计算和查询能力
  • 高可用性和高安全性
  • 全面兼容MySQL协议

优势:

  • 高度的计算自由——通过SQL进行灵活的多维分析、数据透视、数据筛选等
  • 急速的响应时间——毫秒级的千亿级数据透视,毫秒级的大表关联计算
  • 简单的使用方式——标准SQL,支持标准MySQL协议,内置多种云平台数据的输入输出
  • 丰富的特点功能——高性能自动索引,海量数据的急速导出等

5、大数据计算服务——MaxCompute

  • 针对TP/BP级数据、实时性要求不高的分布式处理能力
  • 大数据运算能力
  • 开箱即用
  • 数据安全

优势:

  • 分布式——分布式集群架构,可灵活扩展
  • 安全性——自动存储容错机制,所有计算都在沙箱进行
  • 易用性——全面支持基于SQL的数据处理,提供标准API,高并发高吞吐量的数据上传下载
  • 管理与授权——多用户管理协同分析数据,多种方式对用户权限管理,灵活的数据访问控制决策

6、数据集成(Data Integration)

数据集成是阿里集团对外提供的稳定高效、弹性伸缩的数据同步平台,为阿里云大数据计算引擎提供的离线(批量)数据进出通道。

优势:

  • 多:支持数据源种类多,多样数据通道,齐全的数据传输方式,丰富的数据处理插件;
  • 快:高效的调用方式,强劲的传输速度,强大的吞吐力;
  • 好:健壮的传输通道,智能的错误检测,自动的传输恢复;
  • 省:开箱即用,动态分配,弹性伸展,按需申请,按量付费;

7、对象存储(Object Storage Service,简称OSS)

  • 提供海量、安全、低成本、高可靠的云存储服务;
  • 即开即用,无限大空间的存储集群;
  • 通过API/SDK接口或OSS迁移工具方便将海量数据移入或移除;
  • 存储对象操作具有原子性,强一致性;

优势:

  • 可靠:服务可用性99.99%,数据持久性99.999999999%(9个9),多重备份,规模自动扩展;
  • 安全:用户级别的资源隔离,异地容灾,企业级多层安全防护,多种授权机制;
  • 低成本:多线GBP骨干网络,无带宽限制,上行流量免费;
  • 多种类数据处理能力:图片处理、音视频转码、内容加速分发、鉴黄服务,归档服务等。

二、阿里云数加平台

阿里云数据产品均集成在数加平台,阿里云公共云数加平台的定位:一站式数据平台(集成包括从基础数据分析应用到大数据开发、调度、运维,到机器学习等);提供三层服务(底层计算、数据平台分析工具、应用层服务)行业解决方案。

1、DataWorks(原Data IDE)

数据工场DataWorks(原大数据开发套件Data IDE)是基于MaxCompute作为计算和存储引擎的用于工作流可视化开发和托管调度运维的海量数据离线加工分析平台。

优势:

  • 专业:阿里多年DW/BI经验沉淀,全链路解决方案,高效率低成本;
  • 功能强大:集成式组件服务,多种异构数据源支持,多人协同代码开发,完善的版本管理,分钟、小时级调度、拖拽式数据分析与可视化算法建模;
  • 大数据处理能力:完美融合Max Compute,支持十万级任务的有序运行及管理。

2、Quick BI

提供海量数据实时在线分析服务,支持拖拽式操作,提供了丰富的可视化效果,可以轻松自如地完成数据分析,业务数据探查,报表制作等工作。

优势:

  • 门槛低:拖拽操作,简单易用;
  • 功能强:多样的解决方案,丰富的展现手段;
  • 大数据处理能力:数据分析,数据处理能力强大

3、机器学习PAI

  • 基于MaxCompute、GPU集群,支持MR、MPI、SQL、BSP、SPARK等计算类型;
  • 内置阿里、蚂蚁多年沉淀的分布式算法,支持百亿级数据量训练;
  • WEB界面,通过拖、拉、拽等方式即可完成复杂数据挖掘流程;

优势:

  • 提供从数据预处理到模型评估的一站式平台服务,显著降低大数据算法建模门槛;
  • 支持自定义算法和组件,灵活开放的个性化设置,极大地提高了建模效率;
  • 提供丰富的分布式算法,提高模型精度,助力海量数据中挖掘出业务价值。

【赵渝强老师】阿里云大数据ACP认证之阿里大数据产品体系的更多相关文章

  1. 大数据实时处理-基于Spark的大数据实时处理及应用技术培训

    随着互联网.移动互联网和物联网的发展,我们已经切实地迎来了一个大数据 的时代.大数据是指无法在一定时间内用常规软件工具对其内容进行抓取.管理和处理的数据集合,对大数据的分析已经成为一个非常重要且紧迫的 ...

  2. BL老师的建议,数学不好的,大数据一票否决--后赋从java转大数据

    __________________________ 作者:我是蛋蛋链接:https://www.zhihu.com/question/59593387/answer/167235075来源:知乎著作 ...

  3. MySQL随机获取数据的方法,支持大数据量

    最近做项目,需要做一个从mysql数据库中随机取几条数据出来. 总所周知,order by rand 会死人的..因为本人对大数据量方面的只是了解的很少,无解,去找百度老师..搜索结果千篇一律.特发到 ...

  4. [Hadoop 周边] Hadoop和大数据:60款顶级大数据开源工具(2015-10-27)【转】

    说到处理大数据的工具,普通的开源解决方案(尤其是Apache Hadoop)堪称中流砥柱.弗雷斯特调研公司的分析师Mike Gualtieri最近预测,在接下来几年,“100%的大公司”会采用Hado ...

  5. Hadoop和大数据:60款顶级大数据开源工具

    一.Hadoop相关工具 1. Hadoop Apache的Hadoop项目已几乎与大数据划上了等号.它不断壮大起来,已成为一个完整的生态系统,众多开源工具面向高度扩展的分布式计算. 支持的操作系统: ...

  6. 【转载】Hadoop和大数据:60款顶级大数据开源工具

    一.Hadoop相关工具 1. Hadoop Apache的Hadoop项目已几乎与大数据划上了等号.它不断壮大起来,已成为一个完整的生态系统,众多开源工具面向高度扩展的分布式计算. 支持的操作系统: ...

  7. Druid:一个用于大数据实时处理的开源分布式系统——大数据实时查询和分析的高容错、高性能开源分布式系统

    转自:http://www.36dsj.com/archives/28590 Druid 是一个用于大数据实时查询和分析的高容错.高性能开源分布式系统,旨在快速处理大规模的数据,并能够实现快速查询和分 ...

  8. Data - 【转】数据统计、数据挖掘、大数据、OLAP的区别

    原文链接 数据分析 数据分析是一个大的概念,理论上任何对数据进行计算.处理从而得出一些有意义的结论的过程,都叫数据分析. 从数据本身的复杂程度.以及对数据进行处理的复杂度和深度来看,可以把数据分析分为 ...

  9. C#将dataGridView中显示的数据导出到Excel(大数据量超有用版)

    开发中非常多情况下须要将dataGridView控件中显示的数据结果以Excel或者Word的形式导出来,本例就来实现这个功能. 因为从数据库中查找出某些数据列可能不是必需显示出来,在dataGrid ...

  10. 【MySQL】随机获取数据的方法,支持大数据量

    在mysql中带了随机取数据的函数,在mysql中我们会有rand()函数,很多朋友都会直接使用,如果几百条数据肯定没事,如果几万或百万时你会发现,直接使用是错误的.下面我来介绍随机取数据一些优化方法 ...

随机推荐

  1. 关于mybatisplus与mybatis的自动填充混用问题

    public class MybatisPlusAutoFillHandler implements MetaObjectHandler { //插入时的填充策略 @Override public v ...

  2. python中基于tcp协议与udp的通信

    python中基于tcp协议与udp的通信(数据传输)   一.TCP协议介绍 流式协议(以数据流的形式通信传输) 安全协议(收发信息都需收到确认信息才能完成收发,是一种双向通道的通信) tcp协议在 ...

  3. Jmeter函数助手30-groovy

    groovy函数用于脚本执行. 表达式评估:填入Apache Groovy脚本(不是文件名).本身包含逗号的参数值应根据需要进行转义'\,' 存储结果的变量名(可选) 1.引用变量进行截取字符处理 $ ...

  4. Linux MySQL 服务设置开机自启动

    @ 目录 前言 简介 一.准备工作 二.操作步骤 2.1 启动MySQL服务 2.2 拷贝配置 2.3 赋值权限 2.4 添加为系统服务 2.5 验证 总结 前言 请各大网友尊重本人原创知识分享,谨记 ...

  5. 02 IO口的操作

    目录 前言 一.IO的概念 1.IO接口 2.IO端口 二.CPU和外设进行数据传输的方法 1.程序控制方式 1.1 无条件 1.2 查询方式 2.中断方式 3.DMA方式 一.方法介绍和代码编写 1 ...

  6. 【Mybatis + Spring】 Mybatis - Spring 结合

    环境搭建 EvBuild 软件环境准备 - MySQL 5.0 + - IDEA 2018 + - JDK1.8 + 依赖包相关 - Junit单元测试 - JDBC驱动 - Mybatis 组件 - ...

  7. 【转载】 深入理解TensorFlow中的tf.metrics算子

    原文地址: https://mp.weixin.qq.com/s/8I5Nvw4t2jT1NR9vIYT5XA ============================================ ...

  8. MindSpore社区的小礼物

    前段时间在gitee上给MindSpore提过几个问题,后来一直没有回复,前几天得到了回复又通过网络视频聊了聊自己认为该开源项目还有哪些不足的地方,最后获赠了个小书包,对这个小礼物还是蛮喜欢的,下面给 ...

  9. baselines算法库common/wrapper.py模块分析

    common/wrapper.py模块: import gym class TimeLimit(gym.Wrapper): def __init__(self, env, max_episode_st ...

  10. SpringBoot Session共享,配置不生效问题排查 → 你竟然在代码里下毒!

    开心一刻 快 8 点了,街边卖油条的还没来,我只能给他打电话 大哥在电话中说到:劳资卖了这么多年油条,从来都是自由自在,自从特么认识了你,居然让我有了上班的感觉! Session 共享 SpringB ...