IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> canal同步数据到es(windows) -> 正文阅读

[大数据]canal同步数据到es(windows)

?1、下载canal的各个组件canal-servercanal-adapter下载地址Releases · alibaba/canal · GitHub

?

2、修改mysql配置文件

?canal会模拟MySQL主库和从库的交互协议,从而伪装成MySQL的从库,然后向MySQL主库发送dump协议,MySQL主库收到dump请求会向canal推送binlog,canal通过解析binlog将数据同步到其他存储中去。

修改mysql配置文件 开启binlog日志,并且以ROW方式,开启主从模式 以及logbin的文件位置 如下:

?

?记得重启下mysql ? 查看MySQL配置是否开启

SHOW VARIABLES LIKE 'binlog-format'; -- 结果应该是ROW
SHOW VARIABLES LIKE 'log_bin'; -- 结果应该是 ON
SHOW VARIABLES LIKE '%log%'; -- 所有binlog信息

3、canal-server(canal.deployer-1.1.6)解压修改配置

canal-server的配置在\canal.deployer-1.1.6\conf\example文件下的instance.properties

修改了其中

# username/password
canal.instance.dbUsername=root
canal.instance.dbPassword=123456

bin目录下运行startup.bat

?canal.deployer-1.1.6\logs\example下查看example.log

canal.deployer启动成功?

?4、canal-adapter解压修改配置

canal-adapter的配置文件在canal.adapter-1.1.6\conf文件下的application.yml

?

?注意127.0.0.1:9200前要加http://

?在canal.adapter-1.1.6\conf\es6文件下创建yml文件


name_index索引要提前在es中设置好

?

?bin目录下startup.bat

?启动成功adapter.log

?

全量同步dao?

curl?http://localhost:8081/etl/es6/name.yml?-X POST

新增修改mysql会同步到es,adapter.log会打印出修改日志,

遇到的几个问题

1、如果adapter.log会打印出修改数据库的日志,只能全量同步,不能增量同步。

instance.properties中的canal.instance.filter.regex=.*\\..*试试。

2、llegalArgumentException: Illegal character in scheme name at index 0: 127.0.0.1:9200

3、destination:example[java.io.IOException: Received error packet: errno = 1236, sqlstate = HY000 errmsg = Could not find first log file name in binary log index file

MySQL中show master status;

?

执行

reset master;

flush logs;

?删除canal.deployer-1.1.6\conf\example文件下meta.dat文件后重启

?

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-07-17 16:30:00  更:2022-07-17 16:30:47 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 13:34:07-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码