一、MySQL主从复制
1、服务性能扩展方式
向上扩展,垂直扩展 向外扩展,横向扩展
2、MySQL的扩展
2.1、读写分离
读写分离,基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE), 而从数据库处理SELECT查询操作。 数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
MySQL 读写分离原理 读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。 目前较为常见的 MySQL 读写分离分为以下两种: 1)基于程序代码内部实现 在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。 优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。 但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
2)基于中间代理层实现 代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序。
2.2、复制
每个节点都有相同的数据集,向外扩展,基于二进制日志的单向复制
- 数据分布
- 负载均衡读操作
- 备份
- 高可用和故障切换
- MySQL升级测试
2.3、主从复制与读写分离
在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。
3、主从复制原理 重要
从库生成两个线程,一个I/O线程,一个SQL线程; i/o线程去请求主库 的binlog,并将得到的binlog日志写到relay log(中继日志) 文件中; 主库会生成一个 log dump 线程,用来给从库 i/o线程传binlog; SQL 线程,会读取relay log文件中的日志,并解析成具体操作,来实现主从的操作一致,而最终数据一 致;
3.1、主从复制相关线程
主节点: dump Thread:为每个Slave的I/O Thread启动一个dump线程,用于向其发送binary log events 从节点: I/O Thread:向Master请求二进制日志事件,并保存于中继日志中 SQL Thread:从中继日志中读取日志事件,在本地完成重放
3.2、 跟复制功能相关的文件:
master.info:用于保存slave连接至master时的相关信息,例如账号、密码、服务器地址等 relay-log.info:保存在当前slave节点上已经复制的当前二进制日志和本地relay log日志的对应关系 mariadb-relay-bin.00000#: 中继日志,保存从主节点复制过来的二进制日志,本质就是二进制日志
3.3、MySQL 主从复制延迟
- master服务器高并发,形成大量事务
- 网络延迟
- 主从硬件设备导致
cpu主频、内存io、硬盘io - 本来就不是同步复制、而是异步复制
从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysql内存中完成,减少磁盘操作。 从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o面性。 从库使用SSD磁盘 网络优化,避免跨机房实现同步
二、实际操作
1.环境配置
master服务器: 192.168.133.75 mysql5.7 slave1服务器: 192.168.133.50 mysql5.7 slave2服务器: 192.168.133.100 mysql5.7 Amoeba服务器: 192.168.133.136 jdk1.6、Amoeba 客户端 服务器: 192.168.133.99 mysql
2.初始环境准备
systemctl stop firewalld
setenforce 0
3.搭建时间同步:
3.1 主服务器设置
[root@master ~]
[root@master ~]
改成
[root@master ~]
Redirecting to /bin/systemctl start ntpd.service
3.2 从服务器设置
[root@localhost mysql]
[root@localhost mysql]
Redirecting to /bin/systemctl start ntpd.service
[root@localhost mysql]
4 Dec 22:27:16 ntpdate[60067]: the NTP socket is in use, exiting
[root@localhost mysql]
no crontab for root - using an empty one
crontab: installing new crontab
[root@localhost mysql]
4.配置主从
4.1 主服务配置
[root@master ~]
[root@master ~]
[root@master ~]
(root@localhost) [(none)]> grant replication slave on *.* to 'zy'@'192.168.133.%' identified by '123456';
Query OK, 0 rows affected, 1 warning (0.00 sec)
(root@localhost) [(none)]> flush privileges;
Query OK, 0 rows affected (0.00 sec)
(root@localhost) [hellodb]> show master status;
4.2从服务器配置
[root@localhost mysql]
id号按主从顺序依次类推
[root@localhost mysql]
[root@localhost mysql]
(root@localhost) [(none)]> help change master to
按这个写
(root@localhost) [(none)]> change master to master_host='192.168.133.75',master_user='zy',master_password='123456',master_log_file='mysqlbk-binter_lo.000002',master_log_pos=10882;
Query OK, 0 rows affected, 2 warnings (0.01 sec)
(root@localhost) [(none)]> start slave; 开启从服务功能
Query OK, 0 rows affected (0.00 sec)
(root@localhost) [(none)]> show slave status\G
验证 查看主服务器上现有数据库 新建一个数据库
(root@localhost) [hellodb]> create database class;
Query OK, 1 row affected (0.00 sec)
再次查看数据库
从服务器上查看数据库,发现已经有了刚刚在主服务器上建立的新库‘class’
5、搭建Amoeba 实现读写分离
5.1、安装 Java 环境
因为 Amoeba 基于是 jdk1.5 开发的,所以官方推荐使用 jdk1.5 或 1.6 版本,高版本不建议使用。
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
把软件包拖入系统
[root@localhost opt]
[root@localhost opt]
[root@localhost opt]
[root@localhost local]
拖到最后,输入yes
[root@localhost local]
[root@localhost local]
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
最后添上如下命令
[root@localhost local]
5.2、安装amoeba
[root@localhost local]
[root@localhost local]
[root@localhost opt]
[root@localhost opt]
[root@localhost opt]
5.3、配置 Amoeba读写分离,两个 Slave 读负载均衡
#先在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问
grant all on *.* to test@'192.168.133.%' identified by '654321';
flush privileges;
5.4、修改amoeba配置
[root@localhost opt]
[root@localhost conf]
[root@localhost conf]
改成 改成
[root@localhost conf]
注释 上下2行删除,添加密码 改name=master 并改成主服务器地址
[root@localhost conf]
可通过查询端口或者服务看是否配置成功 这时开启客户机 客户机上装有mysql 并且关闭防火墙
[root@localhost mysql]
用户名 密码 Amoeba服务器地址 端口号
5.5、测试读写分离
先关闭从服务器上的从的功能
(root@localhost) [(none)]> stop slave;
Query OK, 0 rows affected (0.00 sec)
slave1上建立第一个数据 slave2上建立第一个数据 这时在客户机上查看表格,数据库是轮巡着显示出来的
5.6、测试写的能力
三台主从服务器都要开启general日志功能
(root@localhost) [class]> set global general_log=1;
Query OK, 0 rows affected (0.00 sec)
在主服务器和从服务器上找到该文件 在客户机上新添一条数据 这时在主服务器的日志里就有了新添的数据 而同时从服务器上啥数据都没有写入
三、中间件mycat
1、应用场景
Mycat适用的场景很丰富,以下是几个典型的应用场景 单纯的读写分离,此时配置最为简单,支持读写分离,主从切换 分表分库,对于超过1000万的表进行分片,最大支持1000亿的单表分片 多租户应用,每个应用一个库,但应用程序只连接Mycat,从而不改造程序本身,实现多租户化报表系统,借助于Mycat的分表能力,处理大规模报表的统计 替代Hbase,分析大数据 作为海量数据实时查询的一种简单有效方案,比如100亿条频繁查询的记录需要在3秒内查询出来结果,除了基于主键的查询,还可能存在范围查询或其他属性查询,此时Mycat可能是最简单有效的选择
2、优势
一个彻底开源的,面向企业应用开发的大数据库集群 支持事务、ACID、可以替代MySQL的加强版数据库 一个可以视为MySQL集群的企业级数据库,用来替代昂贵的Oracle集群 一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server 结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品 一个新颖的数据库中间件产品
3、模拟架构
3.1、环境配置
master服务器: 192.168.133.75 mysql5.7 slave1服务器: 192.168.133.50 mysql5.7 Amoeba服务器: 192.168.133.25 java mycat 客户机: 192.168.133.99 mysql5.7
3.2、主mysql服务器配置
[root@localhost ~]
检查是否有以下命令,如没有请添加
server-id = 1
log-bin=master-bin
binlog_format=MIXED
log-slave-updates=true
进入数据库
grant replication slave on *.* to 'myslave'@'192.168.91.%' identified by '123456';
flush privileges;
show master status;
3.3 mysql从服务器配置
[root@localhost ~]
检查是否有以下命令,没有请添加
server-id = 2
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
[root@localhost ~]
[root@localhost ~]
(root@localhost) [(none)]> change master to master_host='192.168.133.75',master_user='zy',master_password='123456',master_log_file='mysqlbk-bin.000002',master_log_pos=599;
Query OK, 0 rows affected, 2 warnings (0.01 sec)
(root@localhost) [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)
(root@localhost) [(none)]> show slave status\G
3.4、安装mycat服务器主机
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
[root@localhost ~]
Starting Mycat-server...
[root@localhost ~]
[root@localhost ~]
3.5、第一次在客户机上测试
[root@localhost mysql]
进入数据库中可以看到所有的表数据库都被隐藏起来了
3.6、修改 mycat 配置文件
[root@localhost ~]
改 50行左右修改删除 110行这里因为试验我们暂时不改,实际环境中还是要改的
[root@localhost conf]
删除所有内容重新写如下内容
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1"></schema>
<dataNode name="dn1" dataHost="localhost1" database="hellodb" />
<dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="host1" url="192.168.133.75:3306" user="root" password="123456">
<readHost host="host2" url="192.168.133.50:3306" user="root" password="123456"/>
</writeHost>
</dataHost>
</mycat:schema>
[root@localhost ~]
Stopping Mycat-server...
Mycat-server was not running.
Starting Mycat-server...
[root@localhost conf]
3.7、主服务器上建立一个用户
(root@localhost) [(none)]> GRANT ALL ON *.* TO 'root'@'192.168.133.%' IDENTIFIED BY '123456' ;
Query OK, 0 rows affected, 1 warning (0.00 sec)
到从服务器上查看用户表就多了一个我们刚刚建立的用户;
3.8、客户端测试
[root@localhost ~]
(root@192.168.133.25) [(none)]> show databases;
+----------+
| DATABASE |
+----------+
| TESTDB |
+----------+
1 row in set (0.00 sec)
(root@192.168.133.25) [(none)]> use TESTDB;
Database changed
(root@192.168.133.25) [TESTDB]> SHOW TABLES; 打开表显示的就是hellodb数据库里的表
(root@localhost) [mysql]> select @@server_id;
(root@localhost) [hellodb]> set global general_log=1; 主服务器打开日志
Query OK, 0 rows affected (0.00 sec)
(root@localhost) [mysql]> set global general_log=1; 从服务器打开日志
Query OK, 0 rows affected (0.00 sec)
主从服务器都输入监控数据库的命令
[root@localhost ~]
当我们在客户机上往表里增加一条数据时 主服务日志上就只有写入记录 而从服务器上只有查询记录以及主从复制的记录,并没有直接写入的记录
|