IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 09-flink-1.10.1- flink的编程风格UDF函数 -> 正文阅读

[大数据]09-flink-1.10.1- flink的编程风格UDF函数

1 实现UDF函数

可以更细粒度的对流进行控制

flink暴露了所有udf函数的接口,实现方式是接口或者抽象类比如MapFunction,FilterFunction,ProcessFunction等等。我们很容易在flink的算子里发现所有的算子都有两份重载的函数,①一个可以直接传入一个lamda表达式,②一个可以传入一个函数类,这里的UDF函数说的就是②说说的函数类

package com.study.liucf.unbounded.udf

import com.study.liucf.bean.LiucfSensorReding
import org.apache.flink.api.common.functions.FilterFunction

/**
 * @Author liucf
 * @Date 2021/9/12
 *      过滤以agrKey开头的数据
 */
class LiucfFilterUdfFun(agrKey:String) extends FilterFunction[LiucfSensorReding]{
  override def filter(value: LiucfSensorReding): Boolean = {
    value.id.startsWith(agrKey)
  }
}
package com.study.liucf.unbounded.udf

import com.study.liucf.bean.LiucfSensorReding
import org.apache.flink.api.common.functions.FilterFunction
import org.apache.flink.streaming.api.scala._

/**
 * @Author liucf
 * @Date 2021/9/12
 */
object FilterUDFTest {
  def main(args: Array[String]): Unit = {
    //创建flink执行环境
    val env = StreamExecutionEnvironment.getExecutionEnvironment
    //读取数据
    val inputStream: DataStream[String] = env.readTextFile("src\\main\\resources\\sensor.txt")
    //转换数据类型 string 类型转换成LiucfSensorReding,求最小值
    val ds = inputStream.map(r=>{
      val arr = r.split(",")
      LiucfSensorReding(arr(0),arr(1).toLong,arr(2).toDouble)
    })
        //.filter(d=>d.id.startsWith("sensor_1"))//① lamda表达式方式,输出以sensor_1开始的传感器的温度
        //.filter(_.id.startsWith("sensor_1")) //② 匿名函数的方式,输出以sensor_1开始的传感器的温度
        //.filter(new LiucfFilterUdfFun("sensor_1"))//③ UDF 函数类的方式,输出以sensor_1开始的传感器的温度
        .filter(new FilterFunction[LiucfSensorReding] {//④ 匿名函数类的方式,输出以sensor_1开始的传感器的温度
          override def filter(value: LiucfSensorReding): Boolean = {
            value.id.startsWith("sensor_1")
          }
        })

    ds.print()
    //启动flink执行
    env.execute("liucf FilterUDF test")
  }

}

2 Rich Function

“富函数”是DataStream API提供的一个函数类的接口,所有flink函数类都有Rich Function版本,它与常规函数类的不同在于,可以获取应行时的上下文,并拥有一些生命周期方法,所以可以实现一些更复杂的功能。比如RichMapFunction,RichFlatMapFunction,RichFilterFunction。

Rich Function 有一个生命周期的概念,典型的生命周期方法有

package com.study.liucf.unbounded.udf

import com.study.liucf.bean.LiucfSensorReding
import org.apache.flink.api.common.functions.{FilterFunction, RichFilterFunction}
import org.apache.flink.configuration.Configuration

/**
 * @Author liucf
 * @Date 2021/9/12
 */
/**
 * 普通的函数类
 * @param argKey
 */
class LiucfFilterFunction(argKey:String) extends FilterFunction[LiucfSensorReding]{

  override def filter(value: LiucfSensorReding): Boolean = {
    value.id.startsWith("sensor_1")
  }
}

/**
 * 富有函数类
 * @param argKey
 */
class LiucfRichFilterFunction(argKey:String) extends RichFilterFunction[LiucfSensorReding]{
  override def filter(value: LiucfSensorReding): Boolean = {
    value.id.startsWith("sensor_1")
  }

  //生命周期函数
  override def open(parameters: Configuration): Unit = {
    setRuntimeContext(getRuntimeContext)
    
  }
// 生命周期函数
  override def close(): Unit = {
    
  }
}

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-09-13 09:20:26  更:2021-09-13 09:20:42 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 19:35:13-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码