| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> Canal+MySQL+Kafka+Zookeeper -> 正文阅读 |
|
[大数据]Canal+MySQL+Kafka+Zookeeper |
目录 (2)conf/example/instance.properties 一、Canal阿里巴巴B2B公司,因为业务的特性,卖家主要集中在国内,买家主要集中在国外,所以衍生出了杭州和美国异地机房的需求,从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务。 canal是用java开发的基于数据库增量日志解析,提供增量数据订阅&消费的中间件。目前,canal主要支持了MySQL的binlog解析,解析完成后才利用canal client 用来处理获得的相关数据。(数据库同步需要阿里的otter中间件,基于canal) mysql的主从复制主要靠二进制文件实现,而canal把自己伪装成slave,假装从master复制数据 在本架构中,canal通过binlog同步拿到变更数据,再发送到Kafka Ⅰ、下载安装下载:Releases · alibaba/canal (github.com) ?进行解压、安装
Ⅱ、配置主要配置文件
?Ⅲ、开启canal
二、MySQLⅠ、 搭建与基础使用Ⅱ、开启二进制日志mysql在这里的主要设置:
三、Kafka+Zookeeper集群Ⅰ、搭建与基础使用Ⅱ、创建topic群集开启(Kafka+Zookeeper)
?四、测试Ⅰ、数据库操作做完以上的操作后,确保canal开启、mysql开启、kafka群集开启 我们进入mysql数据库,做一些增删改操作 例:
Ⅱ、kafka消费
得到二进制日志数据,成功 ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/17 2:30:39- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |