| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> canal同步数据到es(windows) -> 正文阅读 |
|
[大数据]canal同步数据到es(windows) |
?1、下载canal的各个组件 ? 2、修改mysql配置文件 ?canal会模拟MySQL主库和从库的交互协议,从而伪装成MySQL的从库,然后向MySQL主库发送dump协议,MySQL主库收到dump请求会向canal推送binlog,canal通过解析binlog将数据同步到其他存储中去。 修改mysql配置文件 开启binlog日志,并且以ROW方式,开启主从模式 以及logbin的文件位置 如下: ? ?记得重启下mysql ? 查看MySQL配置是否开启 SHOW VARIABLES LIKE 'binlog-format'; -- 结果应该是ROW
修改了其中
?canal.deployer-1.1.6\logs\example下查看example.log
?4、
? ?注意127.0.0.1:9200前要加http:// ?在canal.adapter-1.1.6\conf\es6文件下创建yml文件 name_index索引要提前在es中设置好 ? ?bin目录下startup.bat ?启动成功adapter.log ? 全量同步dao? curl?http://localhost:8081/etl/es6/name.yml?-X POST 新增修改mysql会同步到es,adapter.log会打印出修改日志, 遇到的几个问题 1、如果adapter.log会打印出修改数据库的日志,只能全量同步,不能增量同步。 将 2、llegalArgumentException: Illegal character in scheme name at index 0: 127.0.0.1:9200 3、destination:example[java.io.IOException: Received error packet: errno = 1236, sqlstate = HY000 errmsg = Could not find first log file name in binary log index file MySQL中show master status; ? 执行 reset master; flush logs; ?删除canal.deployer-1.1.6\conf\example文件下meta.dat文件后重启 ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 13:34:07- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |