| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> flink的onYarn模式环境搭建 -> 正文阅读 |
|
[大数据]flink的onYarn模式环境搭建 |
一.onYarn模式把资源管理器交给yarn模式进行管理 1.两种运行模式1)session-cluster模式session:会话,开辟一块新的公共的空间 先启动集群,直接向yarn申请空间,资源(session)保持不变,这个集群会常驻在yarn的集群中,不需要时进行手动停止,job任务可以向这个session提交,所有任务共享这个session,如果资源用完,需要等待之间的任务执行完毕释放资源才可以使用。 例:有100个工人,装修公司有5家,a公司有30人,b公司有10人等,a公司不同任务分配一定数量的工作人员,如果a公司人员分配完后,又新来一个job任务,这个任务只能等待之前的任务结束释放人员后,才能使用。 适合场景:规模小,数据量不大,执行时间短的小任务 2)per-job-cluster模式启动服务不会默认开启任何集群,提交job任务的时候才分配资源,每个job任务都会对应一个小集群,单独申请,与其它job任务无关,job任务执行完毕后自动释放资源。(动态分配) 例:100人去打乒乓球,球只有10个,球不够就增加球,球多了就释放球 适合场景:规模大,数据量较大,执行时间较长的任务 二.flink的jar包问题flink的jar下载路径:Apache Flink: Downloadshttps://flink.apache.org/downloads.html#apache-flink-1144 flink的onYarn模式需要用到hadoop,所以需要添加hadoop的支持 ?1)flink1.8(不包含)版本之前,直接下载flink-xxx-hadoop-xxx.jar? ?2)flink1.8-1.10版本,flink不包含hadoop的内容,下载需要的hadoop版本,放到flink的 lib/ 目录下?3) flink1.10版本后,直接把hadoop casspath设置到环境变量中三.搭配环境变量?? ?步骤? ? ?a. 把hadoop casspath设置到环境变量中
? ? ?b.? 修改配置文件 , flink/conf/下,修改master,worker
? ? ?c. 启动hadoop服务
? ? ? ? ? jps,检验是否启动成功,成功如下显示?? ? ? ? d.? 提交flink任务 ? ? ? ? ? ? 1).session-cluster模式? ? ? ? ? ? ? ? ? ? ?a.提交job任务前先开启session集
? ? ? ? ? ? ? ? ? ?注意:如果这里报错信息如下,则是安全模式没有关闭
? ? ? ? ? ? ? ? ? ? ?关闭安全模式
? ? ? ? ? ? ? ? ? ? ?查看session是否开启,另开一个窗口 ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ?b.查看webUI ->在浏览器中输入 IP地址:8088 -> 进入 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ?c. 提交任务 -> 开启两个端口 -> 一个提交任务,一个开启8888端口
? ? ? ? ? ? ? ? d.查看结果 ? ? ? ? ? ? ? ? ? ?(1)在8888端口输入内容 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?(2)进入webUI,进入方法在b条,查看结果 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ?? ? ? ? ? ? ? ? ? ?e.取消任务
? ? ? ? ? ? ? ? ? ? (1) JobID位置? ?Running Jobs -> 点击任务 -> 复制IP地址 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? f.关闭session
? ? ? ? ? ? ? ? ? ? ?(1) applicationID位置 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??? 1)per-job-cluster模式 ? ? ? ? ? ? ? ?直接提交任务,自动在yarn集群中申请资源 ? ? ? ? ? ? ? ?a.开启8888端口 (提交任务后再端口输入内容)
? ? ? ? ? ? ? ?b.提交任务
? ? ? ? ? ? ? ? c.查看jps ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ? d.查看webUI结果 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ? e.取消任务
? ? ? ? ? ? ? ? ? ?? ? ? ?e.以上都可以出来则环境搭配成功,最后关闭集群
? ? ? ? ? ? ? ? ? ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 20:37:27- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |