一、数据可视化接口介绍

1、设计思路

后把轻度聚合的结果保存到 ClickHouse 中后,提供即时的查询、统计、分析

展现形式:用于数据分析的BI工具【商业智能(Business Intelligence)】、面向非专业人员的数据大屏

本章节使用面向百度的Sugar数据大屏服务

2、需求梳理

(1)显示效果

(2)可视化大屏分析

每个组件都需要一个接口(8个组件)

(3)接口执行过程

DWS 层计算后写入到 ClickHouse,提供一个数据接口用来查询 ClickHouse 中的数据

操作:配置大屏服务、编写数据查询接口供大屏服务使用

二、Sugar数据大屏

1、介绍

是百度云提出的敏捷BI和数据可视化平台

解决报表和大屏的数据 BI 分析和可视化问题

2、使用入口

https://cloud.baidu.com/product/sugar.html

3、大屏创建

创建组织、尝鲜版

选择模板/空白模板

进入编辑窗口

三、总成交金额接口

1、Sugar 组件:数字翻牌器

添加、配置调用路径(API 拉取方式绑定)

查询对应的数据格式

2、接口实现

代码分层结构

Application启动类中添加MapperScan注解

Mapper类中添加@Select,编写SQL语句

Controller层中添加@RequestMapping("/api/sugar")和@RestController注解

测试接口并输出结果

3、内网穿透

(1)作用:实现局域网中的电脑被外网访问

(2)工具:花生壳、Ngrok、网云穿

(3)网云穿步骤

注册、版领取免费隧道

下载电脑客户端,就可以进行访问

4、配置Sugar大屏

【空间设置】中增加$API_HOST

点击刷新图表

四、不同维度商品交易额的统计

1、三方面统计

品牌-水平柱状图

品类-饼状图

商品spu-轮播图

共同特征是可以根据商品统计信息计算出来

2、Sugar 组件:横向柱图、轮播饼图、轮播表格

(1)添加组件

(2)配置数据获取方式并修改排序规则

3、数据接口实现

用不同维度进行分组,金额进行聚合的方式查询商品统计表

创建商品交易额统计实体类

Mapper中添加三个方法,并写出SQL语句

Controller中添加@RequestMapping("/spu"),自定义表头,拼接表体

本地接口测试

4、刷新大屏图表数据

五、分省市的热力图统计

1、Sugar 组件:中国省份色彩

添加并配置组件

设置颜色及省份边界线

查看 路径和访问格式

2、数据接口实现

创建地区交易额统计类

编写Mapper、Service、controller方法

测试并刷新大屏数据

六、流量统计数据

包括:分时流量折线图+新老访客流量对比表格

1、Sugar组件:表格、折线图

七、热词字符云

1、Sugar 组件:字符云

2、数据接口实现

创建关键词词统计实体类

根据类型匹配分数

select keyword,
sum(keyword_stats_2021.ct *
multiIf(
source='SEARCH',10,
source='ORDER',5,
source='CART',2,
source='CLICK',1,0
)) ct
from
keyword_stats
where
toYYYYMMDD(stt)=#{date}
group by
keyword
order by
sum(keyword_stats.ct)
limit #{limit};

八、添加素材

选择文本、边框、查看效果

公开分享

九、总结

会通过 springboot 搭建一个 web 服务

使用注解方式,通过 SQL 语句查询 ClickHouse

现数据大屏可视化配置,了解其中的地图、柱形图、饼图、折线图、 表格、轮播表、字符云等组件的使用预配置

使用内网穿透工具,方便调试本地接口与互联网服务对接

十、花生壳配置

【实时数仓】Day06-数据可视化接口:接口介绍、Sugar大屏、成交金额、不同维度交易额(品牌、品类、商品spu)、分省的热力图 、新老顾客流量统计、字符云的更多相关文章

  1. 基于 Flink 的实时数仓生产实践

    数据仓库的建设是“数据智能”必不可少的一环,也是大规模数据应用中必然面临的挑战.在智能商业中,数据的结果代表了用户反馈.获取数据的及时性尤为重要.快速获取数据反馈能够帮助公司更快地做出决策,更好地进行 ...

  2. 大数据之Hudi + Kylin的准实时数仓实现

    问题导读:1.数据库.数据仓库如何理解?2.数据湖有什么用途?解决什么问题?3.数据仓库的加载链路如何实现?4.Hudi新一代数据湖项目有什么优势? 在近期的 Apache Kylin × Apach ...

  3. 美团点评基于 Flink 的实时数仓建设实践

    https://mp.weixin.qq.com/s?__biz=MjM5NjQ5MTI5OA==&mid=2651749037&idx=1&sn=4a448647b3dae5 ...

  4. flink实时数仓从入门到实战

    第一章.flink实时数仓入门 一.依赖 <!--Licensed to the Apache Software Foundation (ASF) under oneor more contri ...

  5. 实时数仓(二):DWD层-数据处理

    目录 实时数仓(二):DWD层-数据处理 1.数据源 2.用户行为日志 2.1开发环境搭建 1)包结构 2)pom.xml 3)MykafkaUtil.java 4)log4j.properties ...

  6. HBase实战 | 知乎实时数仓架构演进

    https://mp.weixin.qq.com/s/hx-q13QteNvtXRpNsE5Y0A 作者 | 知乎数据工程团队编辑 | VincentAI 前线导读:“数据智能” (Data Inte ...

  7. (转)用Flink取代Spark Streaming!知乎实时数仓架构演进

    转:https://mp.weixin.qq.com/s/e8lsGyl8oVtfg6HhXyIe4A AI 前线导读:“数据智能” (Data Intelligence) 有一个必须且基础的环节,就 ...

  8. 更强大的实时数仓构建能力!分析型数据库PostgreSQL 6.0新特性解读

    阿里云 AnalyticDB for PostgreSQL 为采用MPP架构的分布式集群数据库,完备支持SQL 2003,部分兼容Oracle语法,支持PL/SQL存储过程,触发器,支持标准数据库事务 ...

  9. 基于Flink构建全场景实时数仓

    目录: 一. 实时计算初期 二. 实时数仓建设 三. Lambda架构的实时数仓 四. Kappa架构的实时数仓 五. 流批结合的实时数仓 实时计算初期 虽然实时计算在最近几年才火起来,但是在早期也有 ...

  10. 基于 Kafka 的实时数仓在搜索的实践应用

    一.概述 Apache Kafka 发展至今,已经是一个很成熟的消息队列组件了,也是大数据生态圈中不可或缺的一员.Apache Kafka 社区非常的活跃,通过社区成员不断的贡献代码和迭代项目,使得 ...

随机推荐

  1. 【前端必会】webpack的目标代码

    背景 webpack生成什么样的代码呢?同的模块依赖的写法(import.export export default),会导致生成代码的不同,下面介绍普通的import与export 开始 导出PI1 ...

  2. echarts 改变个别省份的边界线颜色

    想要实现地图,首先要引入china.js文件,如果有引入就直接调过本步骤去下方看代码,没有引入可以点击下方链接自行Ctrl c + Ctrl v china.js import "../.. ...

  3. PAT (Basic Level) Practice 1021 个位数统计 分数 15

    给定一个 k 位整数 N=dk−1​10k−1+⋯+d1​101+d0​ (0≤di​≤9, i=0,⋯,k−1, dk−1​>0),请编写程序统计每种不同的个位数字出现的次数.例如:给定 N= ...

  4. @input含义和用法

    @input :一般用于监听事件只要输入的值变化了就会触发input 示例: <div id="div1"> <input type="text&quo ...

  5. P3629 [APIO2010] 巡逻 (树的直径)

    (这道题考察了求直径的两种方法......) 在原图中,每条边要经过两次,增加1条后,形成了一个环,那么环上的边只需要经过一次了(大量画图分析得),再增加一条又会形成一个环,如果这两个环有重叠,重叠部 ...

  6. n维偏序 方法记录

    题解 首先我们要对一个地点能否到达建立认知:一个地点能到达不仅仅是能从它的上一个点或上上个点跳到,而是能从第一个点开始跳一路跳到.就好比说,咱吃了6个包子吃饱了,但咱不能只付第6个包子的钱. 方法一: ...

  7. C++编程范式(函数)

    1 // 2 // main.cpp 3 // test 4 // 5 // Created by Shaojun on 30/5/2020. 6 // Copyright 2020 Shaojun. ...

  8. .NET 采用 SkiaSharp 生成二维码和图形验证码及图片进行指定区域截取方法实现

    在最新版的 .NET 平台中,微软在逐步放弃 System.Drawing.Imaging ,给出的理由如下: System.Drawing命名空间对某些操作系统和应用程序类型有一些限制. 在Wind ...

  9. 通过linux-PAM实现禁止root用户登陆的方法

    前言 在linux系统中,root账户是有全部管理权限的,一旦root账户密码外泄,对于服务器而言将是致命的威胁:出于安全考虑,通常会限制root账户的登陆,改为配置普通用户登陆服务器后su切换到ro ...

  10. python提效小工具-统计xmind用例数量

    问题:做测试的朋友们经常会用到xmind这个工具来梳理测试点或写测试用例,但是xmind8没有自带的统计测试用例,其他版本的xmind有些自带节点数量统计功能,但也也不会累计最终的数量,导致统计测试工 ...