一、数据可视化接口介绍

1、设计思路

后把轻度聚合的结果保存到 ClickHouse 中后,提供即时的查询、统计、分析

展现形式:用于数据分析的BI工具【商业智能(Business Intelligence)】、面向非专业人员的数据大屏

本章节使用面向百度的Sugar数据大屏服务

2、需求梳理

(1)显示效果

(2)可视化大屏分析

每个组件都需要一个接口(8个组件)

(3)接口执行过程

DWS 层计算后写入到 ClickHouse,提供一个数据接口用来查询 ClickHouse 中的数据

操作:配置大屏服务、编写数据查询接口供大屏服务使用

二、Sugar数据大屏

1、介绍

是百度云提出的敏捷BI和数据可视化平台

解决报表和大屏的数据 BI 分析和可视化问题

2、使用入口

https://cloud.baidu.com/product/sugar.html

3、大屏创建

创建组织、尝鲜版

选择模板/空白模板

进入编辑窗口

三、总成交金额接口

1、Sugar 组件:数字翻牌器

添加、配置调用路径(API 拉取方式绑定)

查询对应的数据格式

2、接口实现

代码分层结构

Application启动类中添加MapperScan注解

Mapper类中添加@Select,编写SQL语句

Controller层中添加@RequestMapping("/api/sugar")和@RestController注解

测试接口并输出结果

3、内网穿透

(1)作用:实现局域网中的电脑被外网访问

(2)工具:花生壳、Ngrok、网云穿

(3)网云穿步骤

注册、版领取免费隧道

下载电脑客户端,就可以进行访问

4、配置Sugar大屏

【空间设置】中增加$API_HOST

点击刷新图表

四、不同维度商品交易额的统计

1、三方面统计

品牌-水平柱状图

品类-饼状图

商品spu-轮播图

共同特征是可以根据商品统计信息计算出来

2、Sugar 组件:横向柱图、轮播饼图、轮播表格

(1)添加组件

(2)配置数据获取方式并修改排序规则

3、数据接口实现

用不同维度进行分组,金额进行聚合的方式查询商品统计表

创建商品交易额统计实体类

Mapper中添加三个方法,并写出SQL语句

Controller中添加@RequestMapping("/spu"),自定义表头,拼接表体

本地接口测试

4、刷新大屏图表数据

五、分省市的热力图统计

1、Sugar 组件:中国省份色彩

添加并配置组件

设置颜色及省份边界线

查看 路径和访问格式

2、数据接口实现

创建地区交易额统计类

编写Mapper、Service、controller方法

测试并刷新大屏数据

六、流量统计数据

包括:分时流量折线图+新老访客流量对比表格

1、Sugar组件:表格、折线图

七、热词字符云

1、Sugar 组件:字符云

2、数据接口实现

创建关键词词统计实体类

根据类型匹配分数

select keyword,
sum(keyword_stats_2021.ct *
multiIf(
source='SEARCH',10,
source='ORDER',5,
source='CART',2,
source='CLICK',1,0
)) ct
from
keyword_stats
where
toYYYYMMDD(stt)=#{date}
group by
keyword
order by
sum(keyword_stats.ct)
limit #{limit};

八、添加素材

选择文本、边框、查看效果

公开分享

九、总结

会通过 springboot 搭建一个 web 服务

使用注解方式,通过 SQL 语句查询 ClickHouse

现数据大屏可视化配置,了解其中的地图、柱形图、饼图、折线图、 表格、轮播表、字符云等组件的使用预配置

使用内网穿透工具,方便调试本地接口与互联网服务对接

十、花生壳配置

【实时数仓】Day06-数据可视化接口:接口介绍、Sugar大屏、成交金额、不同维度交易额(品牌、品类、商品spu)、分省的热力图 、新老顾客流量统计、字符云的更多相关文章

  1. 基于 Flink 的实时数仓生产实践

    数据仓库的建设是“数据智能”必不可少的一环,也是大规模数据应用中必然面临的挑战.在智能商业中,数据的结果代表了用户反馈.获取数据的及时性尤为重要.快速获取数据反馈能够帮助公司更快地做出决策,更好地进行 ...

  2. 大数据之Hudi + Kylin的准实时数仓实现

    问题导读:1.数据库.数据仓库如何理解?2.数据湖有什么用途?解决什么问题?3.数据仓库的加载链路如何实现?4.Hudi新一代数据湖项目有什么优势? 在近期的 Apache Kylin × Apach ...

  3. 美团点评基于 Flink 的实时数仓建设实践

    https://mp.weixin.qq.com/s?__biz=MjM5NjQ5MTI5OA==&mid=2651749037&idx=1&sn=4a448647b3dae5 ...

  4. flink实时数仓从入门到实战

    第一章.flink实时数仓入门 一.依赖 <!--Licensed to the Apache Software Foundation (ASF) under oneor more contri ...

  5. 实时数仓(二):DWD层-数据处理

    目录 实时数仓(二):DWD层-数据处理 1.数据源 2.用户行为日志 2.1开发环境搭建 1)包结构 2)pom.xml 3)MykafkaUtil.java 4)log4j.properties ...

  6. HBase实战 | 知乎实时数仓架构演进

    https://mp.weixin.qq.com/s/hx-q13QteNvtXRpNsE5Y0A 作者 | 知乎数据工程团队编辑 | VincentAI 前线导读:“数据智能” (Data Inte ...

  7. (转)用Flink取代Spark Streaming!知乎实时数仓架构演进

    转:https://mp.weixin.qq.com/s/e8lsGyl8oVtfg6HhXyIe4A AI 前线导读:“数据智能” (Data Intelligence) 有一个必须且基础的环节,就 ...

  8. 更强大的实时数仓构建能力!分析型数据库PostgreSQL 6.0新特性解读

    阿里云 AnalyticDB for PostgreSQL 为采用MPP架构的分布式集群数据库,完备支持SQL 2003,部分兼容Oracle语法,支持PL/SQL存储过程,触发器,支持标准数据库事务 ...

  9. 基于Flink构建全场景实时数仓

    目录: 一. 实时计算初期 二. 实时数仓建设 三. Lambda架构的实时数仓 四. Kappa架构的实时数仓 五. 流批结合的实时数仓 实时计算初期 虽然实时计算在最近几年才火起来,但是在早期也有 ...

  10. 基于 Kafka 的实时数仓在搜索的实践应用

    一.概述 Apache Kafka 发展至今,已经是一个很成熟的消息队列组件了,也是大数据生态圈中不可或缺的一员.Apache Kafka 社区非常的活跃,通过社区成员不断的贡献代码和迭代项目,使得 ...

随机推荐

  1. 基于Containerd安装部署高可用Kubernetes集群

    转载自:https://blog.weiyigeek.top/2021/7-30-623.html 简述 Kubernetes(后续简称k8s)是 Google(2014年6月) 开源的一个容器编排引 ...

  2. prometheus告警规则模板:MySQL,nginx,node

    rules_up.yml groups: - name: up rules: - alert: mysql expr: up{instance="db1",job="my ...

  3. linux搭建内网邮件服务器

    一.配置发件服务器 1.1 根据现场IP,配置主机名 vi /etc/hosts 192.168.40.133 mail.test.com 将主机名更改为邮件服务器域名mail.test.com 1. ...

  4. 大数据技术之HBase原理与实战归纳分享-中

    @ 目录 底层原理 Master架构 RegionServer架构 Region/Store/StoreFile/Hfile之间的关系 写流程 写缓存刷写 读流程 文件合并 分区 JAVA API编程 ...

  5. DDD-领域驱动(三)-聚合与聚合根

    概念 高内聚 , 高内聚合Aggregate 就好比一个功能,各个模块互相是有依赖关系存在,例如: 低耦合:模块可以任意替换,不会影响系统的工作 例如:比如你今天穿了这套衣服,明天穿了另一套衣服,但你 ...

  6. day45-JDBC和连接池01

    JDBC和连接池01 1.JDBC概述 基本介绍 JDBC为访问不同的数据库提供了同一的接口,为使用者屏蔽了细节问题 Java程序员使用JDBC,可以连接任何提供了jdbc驱动程序的数据库系统,从而完 ...

  7. Map中定义的方法:

    添加.删除.修改操作: Object put(Object key,Object value):将指定key-value添加到(或修改)当前map对象中void putAll(Map m):将m中的所 ...

  8. `<jsp:getProperty>`动作和`<jsp:setProperty>`动作的使用在一个静态页面填写图书的基本信息,页面信息提交给其他页面,并且在其页面显示。要去将表单元素的值赋值给Java

    <jsp:getProperty>动作和<jsp:setProperty>动作的使用 1.<jsp:getProperty>动作 语法格式: <jsp:get ...

  9. 齐博x1 万能fun 调用任意数据表 任意字段就是这么任性调用

    列举了几个常用的查询进行简单封装,虽然系统也有内置的但是很多人不大会就二次封装简化了一下. 这里只封装了一个条件 多个条件的自己再封装或者用标签解决比较好 这里只是说fun可以万能调用 1获取任意表的 ...

  10. Gitea 1.18 功能前瞻(其三):增强文本预览效果、继续扩展软件包注册中心、增强工单实用功能、完善了用户邀请机制和SEO

    今天是 10 月 26 日星期三,Gitea 周期性地发布了 1.18 的第一个 RC0 版本,在此阶段会收集一些功能和使用上的问题,随后还会发布 RC1,新功能的完整性和健壮性会逐步趋近正式版. 继 ...