IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 数据库中间件之Mycat(一) -> 正文阅读

[大数据]数据库中间件之Mycat(一)

什么是分库分表

  • 简而言之就是数据拆分:将一个表结构分为多个表,或者将一个表数据分片后放入多个表,这些表可以放在同一个数据库里,也可以放到不同的数据库中,甚至可以放到不同的数据库实例中
  • 数据拆分方式:垂直拆分(分库)、 水平拆分(分表)、 垂直 + 水平拆分(分库分表)

如何进行分库分表

  • 分库分表是对数据库拆分的一种解决方案,根据实施切片逻辑的层次不同,我们将分库分表方案大致分为三大类:客户端分片、代理分片和支持事务的分布式数据库

常用数据库中间件

  1. Cobar 属于阿里 B2B 事业群,始于 2008 年,在阿里服役 3 年多,接管 3000 + 个 MySQL 数据库的 schema, 集群日处理在线 SQL 请求 50 亿次以上。由于 Cobar 发起人的离职, Cobar 停止维护
  2. Mycat 是开源社区在阿里 cobar 基础上进行二次开发,解决了 cobar 存在的问题,并且加入了许多新的功能在其中。青出于蓝而胜于蓝。
  3. OneProxy 基于 MySQL 官方的 proxy 思想利用 c 进行开发的, OneProxy 是一款商业收费的中间件。舍弃了一些功能,专注在性能和稳定性上。
  4. kingshard 由小团队用 go 语言开发,还需要发展,需要不断完善。
  5. Vitess 是 Youtube 生产在使用, 架构很复杂。不支持 MySQL 原生协议,使用需要大量改造成本。
  6. Atlas 是 360 团队基于 mysql proxy 改写,功能还需完善,高并发下不稳定。
  7. MaxScale 是 mariadb(MySQL 原作者维护的一个版本) 研发的中间件
  8. MySQLRoute 是 MySQL 官方 Oracle 公司发布的中间件

Mycat解决的问题

  • java与数据库紧耦合,把数据库的分布式从代码中解耦出来
  • 高访问量高并发对数据库的压力
  • 读写请求数据不一致

Mycat原理

  • Mycat 的原理中最重要的一个动词是 “拦截”,它拦截了用户发送过来的 SQL 语句,首先对 SQL 语句做了一些特定的分析:如分片分析路由分析读写分离分析缓存分析等,然后将此 SQL 发往后端的真实数据库,并将返回的结果做适当的处理,最终再返回给用户。
    在这里插入图片描述

Mycat前期环境安装

  • 安装Mycat,去这里按需下载,然后解压即可(我用的是Mycat-server-1.6.7.6-release-20210730131311-win.tar.gz这个版本)
  • 注意安装目录不要有中文
  • 安装MySQL,最后不要用v8.0+,网上说Mycat1.6不支持MySQL8.0,而且mycat是java写的,Java版本最好是Java8,不然可能会有很多坑(最开始我下载的1.6-RELASE那个文件夹下的,最后mycat实在连不上树莓派上的MySQL8.0,就换了上面说的版本才ok了)
  • 我的MySQL在两台主机上,一个是树莓派上的MySQL8.0(系统是Ubuntu20.04),一个是win10的MySQL5.7(系统架构不一样,MySQL版本也不一样,最后配置主从复制竟然成功了😅)
  • 数据库安装完成后,务必测试远程登录,MySQL相关问题参考文末

Mycat配置文件

  • schema.xml: 配置读写主机的ip、端口、数据库用户密码等,定义逻辑库,表、分片节点等内容

    • 注意datahost的balance属性,通过此属性配置读写分离的类型
    • 负载均衡类型,目前的取值有4 种:
      • (1) balance=“0”, 不开启读写分离机制, 所有读操作都发送到当前可用的 writeHost 上。
      • (2) balance=“1”,全部的 readHost 与 stand by writeHost 参与 select 语句的负载均衡,简单的说,当双主双从模式(M1->S1, M2->S2,并且 M1 与 M2 互为主备),正常情况下, M2,S1,S2 都参与 select 语句的负载均衡。
      • (3) balance=“2”,所有读操作都随机的在 writeHost、 readhost 上分发。
      • (4) balance=“3”,所有读请求随机的分发到 readhost 执行, writerHost 不负担读压力
  • rule.xml: 定义分片规则

  • server.xml: 定义用户以及系统相关变量,如端口等

修改Mycat配置

  • 修改配置文件 server.xml,修改用户信息,与 MySQL 区分
<user name="mycat">
<property name="password">123456</property>
<property name="schemas">TESTDB</property>
</user>
  • 修改配置文件 schema.xml,我的配置如下(一主一从配置,数据库是testdb):
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

        <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
        </schema>
        <dataNode name="dn1" dataHost="host1" database="testdb" />
        <dataHost name="host1" maxCon="1000" minCon="10" balance="2"
                          writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                <heartbeat>select user()</heartbeat>
                <!-- can have multi write hosts -->
                <writeHost host="hostM1" url="192.168.101.2:3306" user="root" password="root">
                        <!-- can have multi read hosts -->
                        <readHost host="hostS2" url="192.168.101.4:3306" user="root" password="root" />
                </writeHost>
        </dataHost>
</mycat:schema>

?

启动Mycat

  • cmd进到bin目录,执行:mycat.bat install注册mycat服务到Windows,然后执行mycat.bat start启动mycat
  • mycat日志在logs文件夹下查看

登录Mycat

  • 登录方式和mysql差不多:mysql -umycat -p123456 -P 8066 -h 192.168.101.2
    • 注意 mycat 有两个端口,8066 数据端口,9066 管理端口
  • 切换到逻辑库:use TESTDB;
  • 查看表:show tables;
  • 没有报错就ok了

MySQL主从复制搭建(一主一从)

  • 通过 Mycat 和 MySQL 的主从复制配合搭建数据库的读写分离, 实现 MySQL 的高可用性
  • 所以首先要搭建MySQL的主从复制
  • MySQL主从复制是从接入点复制,不像redis是全部复制
  • MySQL主从复制原理如下:
    在这里插入图片描述

主机配置

  • 我的主机是win10下的MySQL5.7
  • 配置后重启MySQL
#主服务器唯一ID
server-id=1
#启用二进制日志
log-bin=mysql-bin
# 设置不要复制的数据库(可设置多个)
binlog-ignore-db=mysql
binlog-ignore-db=information_schema
#设置需要复制的数据库
binlog-do-db=需要复制的主数据库名字
#设置logbin格式
binlog_format=STATEMENT

从机配置

  • 从机是Ubuntu下的MySQL8.0
  • 配置后重启MySQL
#从服务器唯一ID
server-id=2
#启用中继日志
relay-log=mysql-relay

在主机上建立帐户并授权 slave

  • 登录MySQL后,执行命令:GRANT REPLICATION SLAVE ON *.* TO 'slave'@'%' IDENTIFIED BY 'password';
  • 查询master的状态:show master status;(记录下File和Position的值)

在从机上配置需要复制的主机

  • 登录MySQL,执行以下命令:
CHANGE MASTER TO MASTER_HOST='主机的IP地址',
MASTER_USER='slave',
MASTER_PASSWORD='password',
MASTER_LOG_FILE='mysql-bin.具体数字',MASTER_LOG_POS=具体值;
  • 启动从服务器复制功能:start slave;
  • 查看从服务器状态:show slave status\G;
  • 能看到如下信息就ok了:

Slave_IO_Running: Yes
Slave_SQL_Running: Yes

测试主从复制、读写分离

  • 主从复制测试:主机新建库testdb、新建表、 insert记录, 从机查询是否同步即可
  • 读写分离测试:
    • 在写主机数据库表中插入带系统变量数据, 造成主从数据不一致INSERT INTO mytbl VALUES(2,@@hostname);
    • 在Mycat里查询mytbl表,可以看到查询语句在主从两个主机间切换

其他问题

  • 停止从服务复制功能:stop slave;
  • 重新配置主从:stop slave; reset master;

MySQL相关问题

  • mysql的配置文件中添加default-time_zone = '+8:00',然后重启mysql,可以配置mysql的系统时间
  • mysql_secure_installation:用于安装完MySQL后配置root密码等
  • /var/log/mysql/error.log是MySQL的错误日志
  • MySQL配置bind-address='*'是开启远程登录的前提
  • Ubuntu20.04中MySQL8.0配置在/etc/mysql/mysql.conf.d/mysqld.cnf
  • win10中MySQL配置文件在C:\ProgramData\MySQL\MySQL Server 5.7\my.ini
  • mysql配置一个用户远程访问数据库
    • 切换数据库:use mysql;
    • 创建用户:create user ‘username’@‘192.168.101.7’ identified by ‘password’;
    • 授权:GRANT ALL PRIVILEGES ON . TO ‘username’@‘192.168.101.7’;
    • flush privileges;
    • select User, Host from user;
  • Mycat报错:can't connect to mysql server ,errmsg:Host '192.168.101.2' is blocked because of many connection errors; unblock with 'mysqladmin flush-hosts',在对应的MySQL中执行flush hosts;即可
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-03-06 13:08:12  更:2022-03-06 13:08:45 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 9:43:22-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码