| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> SparkStreaming Kafka 集群环境搭建及测试 -> 正文阅读 |
|
[大数据]SparkStreaming Kafka 集群环境搭建及测试 |
搭建该环境需要安装zookeeper和Kafka。 安装、配置zookeeper的集群环境zookeeper我们安装,需要对环境进行一定配置。 下载、安装及配置环境变量安装zookeeper,我们需要将下载的zookeeper安装包解压到我们想要安装的地方。 下载网站: 命令为:
解压后,我们需要添加环境变量 首先,我们需要打开配置文件:
在里面添加:
然后使用source命令使配置快速生效
集群里的每一台机器都需要这样配置。 修改配置文件。我们的zookeeper并不是安装好了就完事了,我们还需要对zookeeper的配置文件进行修改,这样才能为我们所用。 配置zoo.cfg我们打开zookeeper下conf文件下的zoo.cfg文件。 我们需要添加几个配置,并给zookeeper创建数据文件夹和日志文件夹。 首先,我们设置zookeeper的端口为2181。然后配置集群内三台服务器的端口号。 这是配置的具体格式
然后给zookeeper创建数据文件夹和日志文件夹的配置。也是在zoo.cfg下面添加。
我们需要在zookeeper下创建data和log文件夹。
然后我们将上述的配置在其他服务器上也进行相关配置。 配置myid我们需要在zookeeper下面的data文件夹下创建myid文件 这样,我们的zookeeper就配置完毕了 测试zookeeper启动zookeeper
查看启动状态
一定要在三台服务器都开启服务后再使用status命令,否则会报错。 没有报错的话,恭喜你,zookeeper就安装成功了! Kafka的安装与配置下载与安装及配置环境变量http://kafka.apache.org/downloads.html
然后我们需要配置Kafka的环境变量
在里面添加:
然后使用source命令使配置快速生效
集群里的每一台机器都需要这样配置。 修改配置文件我们需要打开Kafka下config文件夹下的server.properties文件
测试Kafka我们需要分别在三台虚拟机上执行
服务器出现这样的页面就表示开启成功。 例如我这里是新打开了一个终端进行测试。 创建topic
如果报错为: 我们可以看到已经创建成功了。 向topic发送数据然后我们对这条topic发送数据
我们这里输入了一个hello kafka 接收topic的数据
我们可以看到之前发送的hello kafka 查看所有topic
查看指定topic的status
|
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/24 6:57:54- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |