IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> flink-概述 -> 正文阅读

[大数据]flink-概述

operator并行度相同+forward可合并,此时Task是一个operator chain,含main operator

时间/计数 滚动/滑动 注意滚动不重叠,滑动需指定滑动步长 会话窗口(一段时间无数据进入结束窗口)
Event/Ingestion/Window Processing Time,多用event time
watermark: 当event time=x的事件到达,认为event time=x-watermark的事件都到达了,注意不一定是event time
operator state: 如kakfa connector内的位点,keyed state:keyed stream 每一个key的state
重启:不重启/固定延迟/失败率(一段时间内失败次数到达阈值)
allowedLateness 和sideOutput:当watermark到达,触发窗口关闭,关闭后allowedLateness时间范围内还属于此窗口的数据输出到sideOutput

checkpoint流程:具体可见org.apache.flink.streaming.runtime.tasks.SubtaskCheckpointCoordinatorImpl#checkpointState
broadcast barrier
同步:snapshotState和构建future
异步:future内写持久化存储(DefaultOperatorStateBackendSnapshotStrategy)+ ack (表达我这个subTask checkpoint完成)

Task主线程
一般一个subTask只含有一个线程,SourceStreamTask 相对特殊,带有LegacySourceFunctionThread,两线程依靠checkpointLock同步,所有的mail(checkpoint,timer)和event处理都是同步的,注意Flink Source还有一个consumer Thread用于实际拉取消息
一般来说主线程循环处理mail和input(defaultAction- processInput, 处理一个元素),source特殊其processInput为启动LegacySourceFunctionThread(只会运行一次)

flink source(FlinkKafkaConsumer)
每个subTask通过assign分配具体partition
OffsetCommitModes: checkpoint打开,默认enableCommitOnCheckpoint,即checkpoint complete时提交offset
StartupMode 默认group_offsets,即flink任务启动从消费组已有的位点开始消费,我们经常配置latest直接从最新位点消费
snapshotState :内存里放入已经处理完毕的位点 (本质是保留state供重启后使用)
notifyCheckpointComplete:对应checkpoint的处理完毕位点commit

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-10-13 11:30:47  更:2021-10-13 11:31:50 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 1:19:06-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码