了解数据处理过程的基本模式?
数据输入(Source) 数据处理(Transformation) 数据输出(Sink)
大数据处理计算模式
流计算与批计算对比 Flink核心特性 1、统一数据处理组件栈,处理不同类型的数据需求(Batch、Stream、Machine Learning Graph) 2、支持事件时间(Event Time)、接入时间(Ingestion Time) 、处理时间(Processing Time)等概念 3、基于轻量级分布式快照实现的容错 4、支持有状态计算(Support for very large state 等 5、支持高度灵活的窗口(window)操作 6、带反压的连续流模型 7、基于JVM实现独立内存管理(Flink 在JVM 中实现自己的内存管理 8、应用可以超出主内存的大小限制,并且承受更少的垃圾收集开销 9、对象序列化二进制存储,类似于C对内存的管理
Flink 集群架构
JobManager
1、Checkpoint Coordinator 2、JobGraph -> Execution Graph 3、Task 部署与调度 4、RPC 通信(Actor System) 5、Job 接收 (Job Dispatch) 6、集群资源管理 (ResourceManager) 7、TaskManager 注册与管理
TaskManager Client
JobGraph
|