IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Flink SQL 实时大屏(实时查询存量数据-批转流) -> 正文阅读

[大数据]Flink SQL 实时大屏(实时查询存量数据-批转流)

? ? ? ? ? 最近接到一个需求,关于flink实时大屏需求。每半小时展示历史每天当前半小时(每天00:00:00-00:30:00之间) 的数据的最大值最小值中位数上四分位数下四分位数

需求描述

  每半小时计算一次历史当前半点的数据的最大值最小值中位数上四分位数下四分位数。如图大屏展示效果:

?需求描述注意点:

? ? ?1)每半小时计算一次最大值最小值中位数上四分位数下四分位数

 2)? ?计算第一步中的数据结果需要根据当前半小时的所有历史数据去计算。

?   如:当前时间00:30:00分,根据当天00:00:00~00:30:00中的数据和历史每天00:00:00~

00:30:00 的历史存量数据去计算最大值、最小值、中位数、上四分位数、下四分位数 。

?数据例子?

{'startTIme':'00:00:00','endTIme':'00:30:00','min':'1','max':'10','median':'5','upQuartile':'2','Quartile':'7'} 

????????????????  ?

? ?3)? ?第二步中的00:00:00~00:30:00的数据是 -> 每分钟数据量的一个count()值。

?   如: 每分钟的数据量tps,每分钟一个点,00:00:00~00:01:00的数据一个点

数据例子? ? ? ? ? ? ? ? ? ?

? {'startTIme':'00:00:00','endTIme':'00:01:00','tps_count':123}

?思路解析

  一路曲折,需要从我刚开始的思路开始讲解,为什么一些思路被否决和淘汰了,也从中体现了关于FlinkSQL的一些用法,以及它的强大。

? ? ? ? 需求实现必须使用实时流去实现。

思路一:?

  

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-10 13:29:13  更:2021-08-10 13:30:33 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/17 16:17:15-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码