摘要:本文带您了解直方图在不同产品中的实现,以及GaussDB(for Influx)中直方图的使用方法. 本文分享自华为云社区<华为云GaussDB(for Influx)揭秘第九期:最佳实践之数据直方图>,作者: GaussDB 数据库 . 背景 随着5G和IOT的快速发展,面对爆发式增长的时序数据,如何才能挖掘数据中的潜在价值,为客户的业务运行.商业决策提供精确的指导?在统计学中,直方图作为一种经典的分析工具,可以直观地描述数据分布特征,应用场景极其广泛,例如: 在网络监控数据方面,通过…

摘要:GaussDB(for Influx)通过提供hint功能,在单时间线的查询场景下,性能有大幅度的提升,能有效满足客户某些特定场景的查询需求. 本文分享自华为云社区<华为云GaussDB(for Influx)揭秘第十期:最佳实践之hint查询>,作者:高斯Influx官方博客. "怎么感觉查询越来越慢了?"随着业务数据量的不断增大,很多客户都反馈同样的查询语句变得越来越慢.接到客户的反馈后,我们分析了客户的查询执行各个阶段的耗时,发现随着数据量的增加,耗在倒排索引阶…

摘要:芯片.操作系统.数据库是现代信息技术领域的三大核心基础,做数据库,不仅需要技术和投入,对华为这种做通讯起家的企业,更需要的是一种并非玩票性质的态度. GaussDB,不仅蕴含着华为对数学和科学的无限敬畏,也承载着华为对基础软件的坚持和梦想.这是去年,我在<华为“GaussDB”战记>一文中,写下的第一句话. 这种坚持和梦想到了今天,是否还能延续?GaussDB还能战否?却成为了时下业内关注的焦点. 起因是,今年5月初,华为被爆出“要关闭GaussDB数据库和私有云业务”的消息,该消息还援…

摘要:一个统一的现代化的数据基建需要三类架构来实践三种不同的应用场景. 近期,美国知名科技企业风投机构A16Z总结出一套通用的技术架构服务,分为以下三种场景. 一.数据基建架构全景 数据流向显示,左侧的数据源经数据处理(批量.实时流.事件流等)将数据统一汇聚到数据湖或数仓中,通过数据科学或机器学习进行AI分析,通过AD Hoc和实时分析为客户或APP提供敏捷的结果数据.华为云FusionInsight为政企客户提供一站式全场景的云原生数据湖,围绕政企客户在采存算管用等数据全生命周期提供领先的整体…

前言 在日常数据库的使用中,难免会遇到一些内存问题.此次博文主要向大家分享一些华为云数仓GaussDB(DWS)内存的基本框架以及基本视图的使用,以便遇到内存问题后可以有一个基本的判断. 注意,本篇博文基于华为云数仓GaussDB(DWS) 8.0版本,其他版本细节上或许稍有不同. 内存常用视图 1. PV_TOTAL_MEMORY_DETAIL视图 该视图会展示当前数据库节点的内存使用信息,单位为MB. 视图中个字段的含义:nodename:节点名称,memorytype:内存类型,memor…

日前,全球权威咨询与服务机构Forrester发布了<The Forrester WaveTM: Cloud Data Warehouse, Q4 2018>报告.这是Forrester Wave首次发布关于云数仓解决方案(Cloud Data Warehouse,简称CDW)的测评.报告对云数仓的当前产品功能.产品路线和发展策略.市场表现等几个方面进行全面的评估,在产品能力排行榜中,阿里云力压微软排行第7. Forrester测评报告对CDW核心功能的评估主要从解决方案的多样性.数据集成.性…

摘要:在KV数据库领域,"强一致性"不仅是一个技术名词,它更是业务与运维的重要需求. 清明刚过,五一假期就要来了.大好春光,不如去婺源看油菜花吧!小云迅速打开APP刷出余票2张,赶紧下单!唉,怎么又没抢到!转念一想倒也能理解:从勾选乘车人到正式下单,起码要10秒,真若是"见者有份",恐怕这两个座位大家要挤挤共用了!每逢节假日,全国几百万小伙伴同时查票订票,12306是如何保证余票显示准.车票不超卖的? 于是,按捺不住好奇心,笔者进行了一番深入研究.原来,问题背后隐藏…

摘要:近日,华为云数据库业务总裁苏光牛在ACMUG中国MySQL用户组主办的 "华为云专场" 技术沙龙中分享了华为云数据库重磅新品GaussDB的核心能力与竞争优势.那么, GaussDB产品究竟有哪些亮点呢? 11月18日,由ACMUG中国MySQL用户组主办的 "华为云专场" 技术沙龙在北京进行,华为云数据库业务总裁苏光牛及多位技术专家在会上分享了华为云数据库重磅新品GaussDB的核心能力与竞争优势. 本次沙龙中,苏光牛提到:未来云数据库会朝多元化.开放融合.…

2019.9.19日,在华为全联接大会的华为云Summit中,华为云CTO宇昕总提出:"企业的应用与数据集成,始终是数字化转型和智能化升级的关键,华为云企业应用与数据集成平台ROMA,打破时间鸿沟和空间鸿沟,有效地解决企业能力构建与开放的难题."当天的华为云Track中,华为云应用平台服务产品部总经理徐峰发表主题演讲,对此进行深度解读,分享华为云ROMA在四大场景中的实践经验. 从信息化到数字化应用与数据的集成始终是企业难题 过去的时间里,企业信息化仅解决数据如何接入IT系统的问题:而…

导读 华为云发现,与企业数字化关系最紧密的就是办公数字化,所以将WeLink放到华为云上可以作为一个抓手让企业更直观地感受到云端数字化,而且华为云的合作伙伴,也可以与WeLink建立联接,从而进整个企业的数字化转型,提升企业的效益. 日前,华为云在北京隆重发布了智能工作平台WeLink.在现场演示环节中,WeLink简直颠覆了人们对传统办公协同的认知:在WeLink平台上,通过NFC或者现场扫码,手机屏可以同步征用会议白板,手机里所有文件一键“飞”到投影屏;语音通过AI工作助手小微,可以一键预定…

摘要:2020年国际医学图像计算和计算机辅助干预会议(MICCAI 2020),论文接收结果已经公布:华为云医疗AI团队和华中科技大学合作的2篇研究成果入选. 语义/实例分割问题是近年来医学图像计算领域的一个热门研究课题,70%以上的国际竞赛都是围绕着它展开.在临床上,分割方法使能临床辅助决策.术前规划.肿瘤动态监控等任务,具有极高的临床使用价值. 2020年国际医学图像计算和计算机辅助干预会议(MICCAI 2020),论文接收结果已经公布:华为云医疗AI团队和华中科技大学合作的2篇研究成果入…

摘要:华为云发布新一代智能数据湖华为云FusionInsight时再次提到了湖仓一体理念,那我们就来看看湖仓一体的来世今生. 伴随5G.大数据.AI.IoT的飞速发展,数据呈现大规模.多样性的极速增长,为了应对多变的业务诉求,政企客户对数据处理分析的实时性和融合性提出了更高的要求,"湖仓一体"的概念应运而生,它打破数据湖与数仓间的壁垒,使得割裂数据融合统一,减少数据分析中的搬迁,实现统一的数据管理. 早在2020年5月份的华为全球分析师大会上,华为云CTO张宇昕提出了"湖仓一…

背景 湖仓一体(LakeHouse)是一种新的开放式架构,它结合了数据湖和数据仓库的最佳元素,是当下大数据领域的重要发展方向. 华为云早在2020年就开始着手相关技术的预研,并落地在华为云 FusionInsight MRS智能数据湖解决方案中. 目前主流的三大数据湖组件 Apache Hudi.Iceberg.Delta各有优点,业界也在不断探索选择适合自己的方案. 华为湖仓一体架构核心基座是 Apache Hudi,所有入湖数据通过 Apache Hudi 承载, 对外通过 HetuEngi…

摘要:高斯Redis,计数的最佳选择! 一.背景 当我们打开手机刷微博时,就要开始和各种各样的计数器打交道了.我们注册一个帐号后,微博就会给我们记录一组数据:关注数.粉丝数.动态数-:我们刷帖时,关注每天的热搜情况,微博需要为每个热搜记录一组搜索量.在这一串数据后面,是一个个计数器在工作. 计数器可以分为常规计数器和基数计数器,对于常规计数器,只需要对计数器进行简单的增减即可:对于基数计数器,需要对元素进行去重,比如统计搜索量时,需要保证每个用户的多次搜索只统计一次.对于这两种需求,Redis…

摘要:华为云数据库GaussDB(for Cassandra) 是一款基于计算存储分离架构,兼容Cassandra生态的云原生NoSQL数据库:它依靠共享存储池实现了强一致,保证数据的安全可靠. 本文分享自华为云社区<华为云数据库GaussDB(for Cassandra)揭秘第二期:内存异常增长的排查经历>,原文作者:Cassandra官方 . 背景介绍 华为云数据库GaussDB(for Cassandra) 是一款基于计算存储分离架构,兼容Cassandra生态的云原生NoSQL数据库:…

摘要: 开源Redis只支持伪事务,应用场景受限.高斯Redis发布企业级事务特性,支持完备ACID,为交易.库存等上层业务带来全新可能. 本文分享自华为云社区<华为云企业级Redis揭秘第16期:超越开源Redis的ACID"真"事务>,作者: 高斯Redis官方博客 . 日常生活中的shopping.交通.手游都离不开高频的金融消费.虚拟交易.熟悉MySQL的读者,一定知道数据库事务(Transaction)可以搞定这类关键场景,事务不但极大简化了上层业务的编程模型,给…

8月27日,华为云重磅发布了业界首个鲲鹏大数据解决方案--BigData Pro.该方案采用基于公有云的存储与计算分离架构,以可无限弹性扩容的鲲鹏算力作为计算资源,以支持原生多协议的OBS对象存储服务为统一的存储数据湖,提供"存算分离.极致弹性.极致高效"的全新公有云大数据解决方案,大幅提升了大数据集群的资源利用率,大数据成本最高可降低50%. 你想知道BigData Pro为什么这么厉害么?请看世界名画们的主角 当一个神秘大V是一种什么体验?到底是走上人生颠覆还是被问题缠身? &qu…

华为云鲲鹏云容器 见证BigData Pro蝶变之旅大数据之路顺应人类科技的进步而诞生,一直顺风顺水,不到20年时间,已渗透到社会生产和人们生活的方方面面,.然而,伴随着信息量的指数级增长,大数据也开始面临存储资源告急.算力吃紧.数据处理效率无法满足业务增长诉求等一系列问题,导致唱衰之声此起彼伏.而近年来兴起的容器技术,以其轻量化.易迁移.扩容快等优势,结合计算存储分离的分布式架构,可以更好地发挥大数据平台在海量数据集.高并发.实时分析等应用场景下的优势. 翩然入世 互联网.汽车.保险.电力.零…

2019年5月,华为云发布全球首个基于自研ARM架构的分布式缓存鲲鹏Redis,搭载华为LibOS+华为编译器+安全容器引擎三项黑科技,在保证Redis强劲高性能外,还降低客户30%的使用成本,真正实现了好用不贵的普惠型分布式缓存Redis产品. 本文从技术视角解读华为云鲲鹏Redis是如何通过数据中心基础设施.芯片.硬件.软件等全栈创新优化,达成以上效果. 一.为什么ARM架构适合Redis? 众所周知,Redis是一款风靡全球的高性能.高灵活性.数据结构类型丰富的key-value内存数据库…

摘要:介绍隐藏在华为云数据湖探索服务背后的核心计算引擎Spark,玩转DLI,,轻松完成大数据的分析处理. 本文主要给大家介绍隐藏在华为云数据湖探索服务(后文简称DLI)背后的核心计算引擎——Spark. DLI团队在Spark之上做了大量的性能优化与服务化改造,但其本质还是脱离不了Spark的核心概念与思想,因此笔者从以下几点阐述,让读者快速对Spark有一个直观的认识,玩转DLI. Spark的诞生及优势 2009年,Spark诞生于伯克利大学AMPLab,诞生之初是属于伯克利大学的研究性项…

版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/devcloud/article/details/89882971 在华为春季发布盛典上,除了“HUAWEI P30”还有一个词也火了一把,那就是全新黑科技——“华为方舟编译器”! 先花一分钟,戳视频链接简单了解下 方舟编译器虽然是在4月11日首次与大家见面的应用编译技术,但其实华为早在5年前就开始布局,并投入数百专家团队,历经多次尝试,才在…

摘要:采用Redis Labs推出的多线程压测工具memtier_benchmark对比测试下GaussDB(for Redis) 和原生Redis的特性差异. 本文分享自华为云社区<华为云企业级Redis评测第一期:稳定性与扩容表现>,作者:GaussDB 数据库 . GaussDB(for Redis) 是华为云推出的企业级Redis,采用计算存储分离架构,兼容Redis生态的云原生NoSQL数据库,基于共享存储池的多副本强一致机制,支持持久化存储,保证数据的安全可靠.具有高兼容.高性价比…

摘要:当前MySQL所有版本不支持分布式事务的崩溃恢复安全,这严重影响了分布式事务的高可用保障. 华为云数据库内核高级技术专家,拥有十多年MySQL内核研发经验,目前在华为云数据库团队研发华为云数据库(RDS for MySQL和GaussDB(for MySQL))内核特性和服务化特性,修复华为云数据库现网问题:曾在官方MySQL团队研发MySQL内核特性和修复MySQL内核问题九年多,尤其擅长MySQL Replication. 注:本文如没有特殊说明,MySQL指社区版MySQL:binl…

一.背景: 每年终都有一个习惯,就是整理资料进行归档,结果发现手机照片全备份在华为云里,在官网上找了一圈,没找到官方的pc工具用来同步照片. 于是找出上次写的程序,看看能不能爬到数据,然而……果然不好用.因为华为在登录上又增加了一些验证机制,譬如:账号保护机制,貌似还用到canvas. 抓了一下报文,逻辑又变复杂了,貌似部分逻辑还封装在js里,算了,懒得琢磨了,直接用selenium吧. 二.实现思路: 1.用Python + selenium +浏览器 ,人工登录,保存cookie及签名信息.…

华为云容器实例服务,它基于 Kubernetes 打造,对最终用户直接提供 K8S 的 API.正如前面所说,它最大的优点是用户可以围绕 K8S 直接定义运行应用. 这里值得一提是,我们采用了全物理机的方案,对于端到端资源利用率有一个很大的提升.而在 K8S 之上我们通过一层封装实现了超规模资源池.大家知道 K8S 现开源的版本最大只能支持到5000节点,并且这是在 Google 云上的验证结果,而在很多其他的云平台往往达不到.主要是受限于底层网络和存储系统. 所以在华为云,我们的做法是通过一层…

1.KubeCon首登中国,Kubernetes将如何再演进? 11月14日,由CNCF发起的云原生领域全球最大的峰会之一KubeCon+CloudNativeCon首次登陆中国,中国已经成为云原生领域一股强大力量,并且还在不断成长.在一些大公司,容器已经取得了显著的效果.京东从 OpenStack 迁移至 Kubernetes,资源利用率提高 30%:华为迁移至云原生环境后,运营成本削减 20-30%:雅虎日本已经利用Kubernetes自动进行生产部署:中国移动也开始使用容器代替虚拟机在平台…

1.背景 随着华为手机的销量加大,华为云的捆绑服务使用量也越来越广泛,华为云支持自动同步照片.通讯录.记事本等,用着确实也挺方便的,云服务带来方便的同时,也带来了数据管理风险.华为目前只提供一个www.hicloud.com网站来管理数据,不提供windows平台的同步工具,数据管理和同步非常不方便. 2.功能描述 进过几天的摸索,目前的代码实现以下功能:1.自动调用登录网址,并显示验证码,等待手动输入验证码:2.验证码或者密码出错,自动重新调用登录网址,最多3次出错机会:3.自动进入相册文件夹…

1——华为云抢先发布Redis5.0 2——DigitalOcean K8s服务正式上线 3——红帽宣布收购混合云提供商 NooBaa 4——微软发布多项 Azure Kubernetes 服务更新 1 华为云抢先发布Redis5.0 12月17日,华为云在DCS2.0的基础上,快人一步,抢先推出了新的Redis 5.0产品,这是一个崭新的突破.目前国内在缓存领域的发展普遍停留在Redis4.0阶段,华为云率先发布了Redis5.0,全面展现了华为云在业界缓存领域持续创新的实力.华为云分布式缓存…

基因测序,作为“下一个能够改变世界”的技术,已经由实验室研究演变到临床使用,为人类预测罹患多种疾病的可能性,提前预防和治疗疾病提供了一套可靠的方法和手段.而基于基因测序在预防和治疗疾病方面的准确和可靠,基因测序也因此成为了精准医疗的基础.据预测,基因测序市场未来五年复合增长率在35%左右,2022年有望突破300亿美元. 基因测序的难题 然而,虽然基因测序市场火爆异常,但实际上,对于基因测序厂商来说,目前面临着很多的困难和挑战,具体而言,最主要的就是成本高.效率低.门槛高. 成本高 所谓成本高,…

使用给华为云 消息 服务 API 方式发送短信 代码来自华为云,已通过测试 <?php /** * 华为云发送短信示例代码 * 本段代码需要使用自己的配置信息才能正常运行,出配置信息外,不需要改动任何代码内容即可运行 * * @version 0.1 * @author huawei cloud(https://support.huaweicloud.com/devg-msgsms/sms_04_0003.html) * * 2019-03-05 IIS10 + PHP 7.2.5调试通过 */…