IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> Mycat实现分库分表 -> 正文阅读

[大数据]Mycat实现分库分表

垂直拆分-分库

一个数据库由很多表的构成,每个表对应着不同的业务,垂直切分是指按照业务将表进行分类, 分布到不同 的数据库上面,这样也就将数据或者说压力分担到不同的库上面,如下图:

在这里插入图片描述

系统被切分成了,用户,订单交易,支付几个模块。

如何划分表

分库的原则:有紧密关联关系的表应该在一个库里,相互没有关联关系的表可以分到不同的库里。

有如下四个表:客户表( customer)、订单表( orders)、订单详细表( orders_detail) 、订单状态字典表( dict_order_type),这四个表该如何分库呢?

客户表分在一个数据库,另外三张都需要关联查询,分在另外一个数据库。

实现分库

  1. 准备两个数据库

    编号角色IP地址机器名
    1mysql-node1192.168.110.146ubuntu-mysql-node1
    2mysql-node2192.168.110.148ubuntu-mysql-node2
  2. 修改schema配置文件,具体配置如下:

    <?xml version="1.0"?>
    <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
    <mycat:schema xmlns:mycat="http://io.mycat/">
    
            <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
                 <table name="customer" dataNode="dn2" ></table>
            </schema>
            <dataNode name="dn1" dataHost="host1" database="orders" />
            <dataNode name="dn2" dataHost="host2" database="orders" />
            <dataHost name="host1" maxCon="1000" minCon="10" balance="0"
                              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                    <heartbeat>select user()</heartbeat>
                    <!-- can have multi write hosts -->
                    <writeHost host="hostM1" url="192.168.110.146:3306" user="root"
                                       password="123456">
                    </writeHost>
            </dataHost>
            <dataHost name="host2" maxCon="1000" minCon="10" balance="0"
                              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                    <heartbeat>select user()</heartbeat>
                    <!-- can have multi write hosts -->
                    <writeHost host="hostM2" url="192.168.110.148:3306" user="root"
                                       password="123456">
                    </writeHost>
            </dataHost>
    </mycat:schema>
    
  3. 新建两个空白库orders

    分库操作不是在原来的老数据库上进行操作,需要准备两台机器分别安装新的数据库。

    在数据节点dn1dn2上分别创建数据库orders

    CREATE DATABASE orders;
    
  4. 启动Mycat

    ./mycat console
    
  5. 访问Mycat进行分库

    登录Mycat

    mysql -umycat -p123456 -h 192.168.110.145 -P 8066
    

    切换到TESTDB

    use TESTDB;
    

    创建四个表,客户表( customer)、订单表( orders)、订单详细表( orders_detail) 、订单状态字典表( dict_order_type)

    # 客户表
    CREATE TABLE customer(
     id INT AUTO_INCREMENT,
     NAME VARCHAR(200),
     PRIMARY KEY(id)
    );
    
    # 订单表
    CREATE TABLE orders(
     id INT AUTO_INCREMENT,
     order_type INT,
     customer_id INT,
     amount DECIMAL(10,2),
     PRIMARY KEY(id)
    );
    
    #订单详细表
    CREATE TABLE orders_detail(
     id INT AUTO_INCREMENT,
     detail VARCHAR(2000),
     order_id INT,
     PRIMARY KEY(id)
    );
    
    #订单状态字典表
    CREATE TABLE dict_order_type(
     id INT AUTO_INCREMENT,
     order_type VARCHAR(200),
     PRIMARY KEY(id)
    );
    

    查看表信息,可以看到成功分库。

    • Mycat

      mysql> show tables;
      +------------------+
      | Tables_in_orders |
      +------------------+
      | customer         |
      | dict_order_type  |
      | orders           |
      | orders_detail    |
      +------------------+
      4 rows in set (0.01 sec)
      
    • 数据节点mysql-node1

      mysql> use orders;
      Reading table information for completion of table and column names
      You can turn off this feature to get a quicker startup with -A
      
      Database changed
      mysql> show tables;
      +------------------+
      | Tables_in_orders |
      +------------------+
      | dict_order_type  |
      | orders           |
      | orders_detail    |
      +------------------+
      3 rows in set (0.00 sec)
      
    • 数据节点mysql-node2

      mysql> use orders;
      Reading table information for completion of table and column names
      You can turn off this feature to get a quicker startup with -A
      
      Database changed
      mysql> show tables;
      +------------------+
      | Tables_in_orders |
      +------------------+
      | customer         |
      +------------------+
      1 row in set (0.00 sec)
      

水平拆分-分表

相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中,如图:

在这里插入图片描述

实现分表

  1. 选择要拆分的表

    MySQL单表存储数据条数是有瓶颈的,单表达到1000万条数据就达到了瓶颈,会影响查询效率, 需要进行水平拆分(分表)进行优化。

    例如:例子中的ordersorders_detail数据会很大,需要进行分表优化。

  2. 分表字段

    orders表为例,可以根据不同自字段进行分表

    编号分表字段效果
    1id(主键、或创建时间)查询订单注重时效,历史订单被查询的次数少,如此分片会造成一个节点访问多,一个访问少,不平均。
    2customer_id(客户 id)根据客户 id 去分,两个节点访问平均,一个客户的所 有订单都在同一个节点
  3. 修改配置文件schema.xml

    orders表设置数据节点为dn1dn2,并指定分片规则为mod_rule(自定义的名字)

    <table name="orders" dataNode="dn1,dn2" rule="mod_rule" ></table>
    

    完整配置:

    <?xml version="1.0"?>
    <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
    <mycat:schema xmlns:mycat="http://io.mycat/">
    
            <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
                 <table name="customer" dataNode="dn2" ></table>
                 <table name="orders" dataNode="dn1,dn2" rule="mod_rule" ></table>
            </schema>
            <dataNode name="dn1" dataHost="host1" database="orders" />
            <dataNode name="dn2" dataHost="host2" database="orders" />
            <dataHost name="host1" maxCon="1000" minCon="10" balance="0"
                              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                    <heartbeat>select user()</heartbeat>
                    <!-- can have multi write hosts -->
                    <writeHost host="hostM1" url="192.168.110.146:3306" user="root"
                                       password="123456">
                    </writeHost>
            </dataHost>
            <dataHost name="host2" maxCon="1000" minCon="10" balance="0"
                              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                    <heartbeat>select user()</heartbeat>
                    <!-- can have multi write hosts -->
                    <writeHost host="hostM2" url="192.168.110.148:3306" user="root"
                                       password="123456">
                    </writeHost>
            </dataHost>
    </mycat:schema>
    
  4. 修改配置文件rule.xml

    rule配置文件里新增分片规则mod_rule,并指定规则适用字段为customer_id

    还有选择分片算法mod-long(对字段求模运算),customer_id对两个节点求模,根据结果分片。

    配置算法mod-long参数count2,两个节点:

    <tableRule name="mod_rule">
    		<rule>
    				<columns>customer_id</columns>
    				<algorithm>mod-long</algorithm>
    		</rule>
    </tableRule>
    

    mod-long规则为配置文件自带的,修改count属性。代表意思为,根据count数取模

    <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
    		<!-- how many data nodes -->
    		<property name="count">2</property>
    </function>
    
  5. 需单独在数据节点mysql-node2创建orders

    # 订单表
    CREATE TABLE orders(
     id INT AUTO_INCREMENT,
     order_type INT,
     customer_id INT,
     amount DECIMAL(10,2),
     PRIMARY KEY(id)
    );
    
  6. 重启Mycat,让配置生效

    Mycat里向orders表插入数据,INSERT字段不能省略。Mycat需要根据字段进行分片操作。

    INSERT INTO orders(id,order_type,customer_id,amount) VALUES (1,101,100,100100);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(2,101,100,100300);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(3,101,101,120000);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(4,101,101,103000);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(5,102,101,100400);
    INSERT INTO orders(id,order_type,customer_id,amount) VALUES(6,102,100,100020);
    
    • Mycat

      mysql> select * from orders;
      +----+------------+-------------+-----------+
      | id | order_type | customer_id | amount    |
      +----+------------+-------------+-----------+
      |  1 |        101 |         100 | 100100.00 |
      |  2 |        101 |         100 | 100300.00 |
      |  6 |        102 |         100 | 100020.00 |
      |  3 |        101 |         101 | 120000.00 |
      |  4 |        101 |         101 | 103000.00 |
      |  5 |        102 |         101 | 100400.00 |
      +----+------------+-------------+-----------+
      6 rows in set (0.04 sec)
      
    • 数据节点mysql-node1

      mysql> select * from orders;
      +----+------------+-------------+-----------+
      | id | order_type | customer_id | amount    |
      +----+------------+-------------+-----------+
      |  1 |        101 |         100 | 100100.00 |
      |  2 |        101 |         100 | 100300.00 |
      |  6 |        102 |         100 | 100020.00 |
      +----+------------+-------------+-----------+
      3 rows in set (0.00 sec)
      
    • 数据节点mysql-node2

      mysql> select * from orders;
      +----+------------+-------------+-----------+
      | id | order_type | customer_id | amount    |
      +----+------------+-------------+-----------+
      |  3 |        101 |         101 | 120000.00 |
      |  4 |        101 |         101 | 103000.00 |
      |  5 |        102 |         101 | 100400.00 |
      +----+------------+-------------+-----------+
      3 rows in set (0.00 sec)
      

Mycat的分片join-ER

orders订单表已经进行分表操作了,和它关联的orders_detail订单详情表如何进行join查询。

我们要对orders_detail也要进行分片操作。join的原理如下图:

在这里插入图片描述

ER

Mycat借鉴了NewSQL领域的新秀Foundation DB 的设计思路,Foundation DB 创新性的提出了Table Group的概念,其将子表的存储位置依赖于主表,并且物理上紧邻存放,因此彻底解决了JION 的效率和性能问题,根据这一思路,提出了基于E-R关系的数据分片策略,子表的记录与所 关联的父表记录存放在同一个数据分片上。

  • 修改配置文件schema.xml

    <table name="orders" dataNode="dn1,dn2" rule="mod_rule" >
        <childTable name="orders_detail" primaryKey="id" joinKey="order_id" parentKey="id" />
    </table>
    
  • 需在数据节点mysql-node2创建orders

    #订单详细表
    CREATE TABLE orders_detail(
     id INT AUTO_INCREMENT,
     detail VARCHAR(2000),
     order_id INT,
     PRIMARY KEY(id)
    );
    
  • 重启Mycat

    Mycat里向orders_detail表插入数据,INSERT字段不能省略。Mycat需要根据字段进行分片操作。

    INSERT INTO orders_detail(id,detail,order_id) values(1,'detail1',1);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(2,'detail1',2);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(3,'detail1',3);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(4,'detail1',4);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(5,'detail1',5);
    INSERT INTO orders_detail(id,detail,order_id) VALUES(6,'detail1',6);
    

    运行两个表join语句

    • Mycat

      mysql> select o.*,od.detail from orders o inner join orders_detail od on o.id=od.order_id;
      +----+------------+-------------+-----------+---------+
      | id | order_type | customer_id | amount    | detail  |
      +----+------------+-------------+-----------+---------+
      |  1 |        101 |         100 | 100100.00 | detail1 |
      |  2 |        101 |         100 | 100300.00 | detail1 |
      |  6 |        102 |         100 | 100020.00 | detail1 |
      |  3 |        101 |         101 | 120000.00 | detail1 |
      |  4 |        101 |         101 | 103000.00 | detail1 |
      |  5 |        102 |         101 | 100400.00 | detail1 |
      +----+------------+-------------+-----------+---------+
      6 rows in set (0.03 sec)
      
    • mysql-node1

      mysql> select o.*,od.detail from orders o inner join orders_detail od on o.id=od.order_id;
      +----+------------+-------------+-----------+---------+
      | id | order_type | customer_id | amount    | detail  |
      +----+------------+-------------+-----------+---------+
      |  1 |        101 |         100 | 100100.00 | detail1 |
      |  2 |        101 |         100 | 100300.00 | detail1 |
      |  6 |        102 |         100 | 100020.00 | detail1 |
      +----+------------+-------------+-----------+---------+
      3 rows in set (0.01 sec)
      
    • mysql-node2

      mysql> select o.*,od.detail from orders o inner join orders_detail od on o.id=od.order_id;
      +----+------------+-------------+-----------+---------+
      | id | order_type | customer_id | amount    | detail  |
      +----+------------+-------------+-----------+---------+
      |  3 |        101 |         101 | 120000.00 | detail1 |
      |  4 |        101 |         101 | 103000.00 | detail1 |
      |  5 |        102 |         101 | 100400.00 | detail1 |
      +----+------------+-------------+-----------+---------+
      3 rows in set (0.00 sec)
      

全局表

在分片的情况下,当业务表因为规模而进行分片以后,业务表与这些附属的字典表之间的关联, 就成了比较棘手的问题,考虑到字典表具有以下几个特性:

  • 变动不频繁
  • 数据量总体变化不大
  • 数据规模不大,很少有超过数十万条记录

鉴于此,Mycat定义了一种特殊的表,称之为“全局表”,全局表具有以下特性:

  • 全局表的插入、更新操作会实时在所有节点上执行,保持各个分片的数据一致性
  • 全局表的查询操作,只从一个节点获取
  • 全局表可以跟任何一个表进行JOIN操作

将字典表或者符合字典表特性的一些表定义为全局表,则从另外一个方面,很好的解决了数据JOIN的难题。通过全局表+基于E-R关系的分片策略,Mycat可以满足 80%以上的企业应用开发

配置步骤:

  • 修改配置文件schema.xml

    <table name="dict_order_type" dataNode="dn1,dn2" type="global" ></table>
    
  • 需在数据节点mysql-node2创建dict_order_type

    #订单状态字典表
    CREATE TABLE dict_order_type(
     id INT AUTO_INCREMENT,
     order_type VARCHAR(200),
     PRIMARY KEY(id)
    );
    
  • 重启Mycat

    Mycat里向dict_order_type表插入数据。

    INSERT INTO dict_order_type(id,order_type) VALUES(101,'type1');
    INSERT INTO dict_order_type(id,order_type) VALUES(102,'type2');
    
      • Mycat

        mysql> select * from dict_order_type;
        +-----+------------+
        | id  | order_type |
        +-----+------------+
        | 101 | type1      |
        | 102 | type2      |
        +-----+------------+
        2 rows in set (0.04 sec)
        
      • 数据节点mysql-node1

        mysql> select * from dict_order_type;
        +-----+------------+
        | id  | order_type |
        +-----+------------+
        | 101 | type1      |
        | 102 | type2      |
        +-----+------------+
        2 rows in set (0.00 sec)
        
      • 数据节点mysql-node2

        mysql> select * from dict_order_type;
        +-----+------------+
        | id  | order_type |
        +-----+------------+
        | 101 | type1      |
        | 102 | type2      |
        +-----+------------+
        2 rows in set (0.00 sec)
        

常用分片规则

取模

此规则为对分片字段求摸运算。也是水平分表最常用规则。配置分表中,orders表采用了此规则。

分片枚举

通过在配置文件中配置可能的枚举id,自己配置分片,本规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国省份区县固定的,这类业务使用本条规则。

配置步骤:

  • 修改配置文件schema.xml

    <table name="orders_ware_info" dataNode="dn1,dn2" rule="sharding_by_intfile" ></table>
    
  • 修改配置文件rule.xml

            <tableRule name="sharding_by_intfile">
                    <rule>
                            <columns>areacode</columns>
                            <algorithm>hash-int</algorithm>
                    </rule>
            </tableRule>
    
    • columns:分片字段
    • algorithm:分片函数
            <function name="hash-int" class="io.mycat.route.function.PartitionByFileMap">
                    <property name="mapFile">partition-hash-int.txt</property>
                    <property name="type">1</property>
                    <property name="defaultNode">0</property>
            </function>
    
    • mapFile:标识配置文件名称
    • type:0为int型、非0为String
    • defaultNode:默认节点。小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错。
  • 修改配置文件partition-hash-int.txt

    110=0
    120=1
    
  • 重启Mycat

    Mycat里创建表。

    # 订单归属区域信息表
    CREATE TABLE orders_ware_info
    (
    	`id` INT AUTO_INCREMENT comment '编号',
    	`order_id` INT comment '订单编号',
    	`address` VARCHAR(200) comment '地址',
    	`areacode` VARCHAR(20) comment '区域编号',
    	PRIMARY KEY(id)
    );
    

    插入数据

    INSERT INTO orders_ware_info(id, order_id,address,areacode) VALUES (1,1,'北京','110');
    INSERT INTO orders_ware_info(id, order_id,address,areacode) VALUES (2,2,'天津','120');
    
    • Mycat

      mysql> select * from orders_ware_info;
      +----+----------+---------+----------+
       | id | order_id | address | areacode |
      +----+----------+---------+----------+
       |  1 |        1 | 北京    | 110      |
      |  2 |        2 | 天津    | 120      |
      +----+----------+---------+----------+
      2 rows in set (0.02 sec)
      
    • 数据节点mysql-node1

      mysql> select * from orders_ware_info;
      +----+----------+---------+----------+
       | id | order_id | address | areacode |
      +----+----------+---------+----------+
       |  1 |        1 | 北京    | 110      |
      +----+----------+---------+----------+
      1 row in set (0.00 sec)
      
    • 数据节点mysql-node2

      mysql> select * from orders_ware_info;
      +----+----------+---------+----------+
      | id | order_id | address | areacode |
       +----+----------+---------+----------+
      |  2 |        2 | 天津    | 120      |
      +----+----------+---------+----------+
      1 row in set (0.00 sec)
      
范围约定

此分片适用于提前规划好分片字段某个范围属于哪个分片。

配置步骤:

  • 修改配置文件schema.xml

    <table name="payment_info" dataNode="dn1,dn2" rule="auto_sharding_long" ></table>
    
  • 修改配置文件rule.xml

            <tableRule name="auto_sharding_long">
                    <rule>
                            <columns>order_id</columns>
                            <algorithm>rang-long</algorithm>
                    </rule>
            </tableRule>
    
    • columns:分片字段
    • algorithm:分片函数
            <function name="rang-long" class="io.mycat.route.function.AutoPartitionByLong">
                    <property name="mapFile">autopartition-long.txt</property>
                    <property name="defaultNode">0</property>
            </function>
    
    • mapFile:标识配置文件名称
    • defaultNode:默认节点。小于 0 表示不设置默认节点,大于等于 0 表示设置默认节点,设置默认节点如果碰到不识别的枚举值,就让它路由到默认节点,如不设置不识别就报错。
  • 修改配置文件autopartition-long.txt

    0-102=0
    103-200=1
    
  • 重启Mycat

    Mycat里创建表。

    # 支付信息表
    CREATE TABLE payment_info
    (
        `id` INT AUTO_INCREMENT comment '编号',
        `order_id` INT comment '订单编号',
        `payment_status` INT comment '支付状态',
        PRIMARY KEY(id)
    );
    

    插入数据

    INSERT INTO payment_info (id,order_id,payment_status) VALUES (1,101,0);
    INSERT INTO payment_info (id,order_id,payment_status) VALUES (2,102,1);
    INSERT INTO payment_info (id,order_id ,payment_status) VALUES (3,103,0);
    INSERT INTO payment_info (id,order_id,payment_status) VALUES (4,104,1);
    
    • Mycat

      mysql> select * from payment_info;
      +----+----------+----------------+
      | id | order_id | payment_status |
      +----+----------+----------------+
      |  1 |      101 |              0 |
      |  2 |      102 |              1 |
      |  3 |      103 |              0 |
      |  4 |      104 |              1 |
      +----+----------+----------------+
      4 rows in set (0.02 sec)
      
    • 数据节点mysql-node1

      mysql> select * from payment_info;
      +----+----------+----------------+
      | id | order_id | payment_status |
      +----+----------+----------------+
      |  1 |      101 |              0 |
      |  2 |      102 |              1 |
      +----+----------+----------------+
      2 rows in set (0.00 sec)
      
    • 数据节点mysql-node2

      mysql> select * from payment_info;
      +----+----------+----------------+
      | id | order_id | payment_status |
      +----+----------+----------------+
      |  3 |      103 |              0 |
      |  4 |      104 |              1 |
      +----+----------+----------------+
      2 rows in set (0.00 sec)
      
按日期(天)分片

此规则为按天分片。设定时间格式、范围。

配置步骤:

  • 修改配置文件schema.xml

    <table name="login_info" dataNode="dn1,dn2" rule="sharding_by_date" ></table>
    
  • 修改配置文件rule.xml

            <tableRule name="sharding_by_date">
                    <rule>
                            <columns>login_date</columns>
                            <algorithm>shardingByDate</algorithm>
                    </rule>
            </tableRule>
    
    • columns:分片字段
    • algorithm:分片函数
            <function name="shardingByDate" class="io.mycat.route.function.PartitionByDate">
                    <property name="dateFormat">yyyy-MM-dd</property>
                    <property name="sBeginDate">2019-01-01</property>
                    <property name="sEndDate">2019-01-04</property>
                    <property name="sPartionDay">2</property>
            </function>
    
    • dateFormat :日期格式
    • sBeginDate :开始日期
    • sEndDate:结束日期,则代表数据达到了这个日期的分片后循环从开始分片插入
    • sPartionDay :分区天数,即默认从开始日期算起,分隔2天一个分区
  • 重启Mycat

    Mycat里创建表。

    # 登录信息
    CREATE TABLE login_info
    (
        `id` INT AUTO_INCREMENT comment '编号',
        `user_id` INT comment '用户编号',
        `login_date` date comment '登录日期',
        PRIMARY KEY(id)
    ); 
    

    插入数据

    INSERT INTO login_info(id,user_id,login_date) VALUES (1,101,'2019-01-01');
    INSERT INTO login_info(id,user_id,login_date) VALUES (2,102,'2019-01-02');
    INSERT INTO login_info(id,user_id,login_date) VALUES (3,103,'2019-01-03');
    INSERT INTO login_info(id,user_id,login_date) VALUES (4,104,'2019-01-04');
    INSERT INTO login_info(id,user_id,login_date) VALUES (5,103,'2019-01-05');
    INSERT INTO login_info(id,user_id,login_date) VALUES (6,104,'2019-01-06');
    
    • Mycat

      mysql> select * from login_info;
      +----+---------+------------+
      | id | user_id | login_date |
      +----+---------+------------+
      |  1 |     101 | 2019-01-01 |
      |  2 |     102 | 2019-01-02 |
      |  5 |     103 | 2019-01-05 |
      |  6 |     104 | 2019-01-06 |
      |  3 |     103 | 2019-01-03 |
      |  4 |     104 | 2019-01-04 |
      +----+---------+------------+
      6 rows in set (0.02 sec)
      
    • 数据节点mysql-node1

      mysql> select * from login_info;
      +----+---------+------------+
      | id | user_id | login_date |
      +----+---------+------------+
      |  1 |     101 | 2019-01-01 |
      |  2 |     102 | 2019-01-02 |
      |  5 |     103 | 2019-01-05 |
      |  6 |     104 | 2019-01-06 |
      +----+---------+------------+
      4 rows in set (0.00 sec)
      
    • 数据节点mysql-node2

      mysql> select * from login_info;
      +----+---------+------------+
      | id | user_id | login_date |
      +----+---------+------------+
      |  3 |     103 | 2019-01-03 |
      |  4 |     104 | 2019-01-04 |
      +----+---------+------------+
      2 rows in set (0.00 sec)
      
全局序列

在实现分库分表的情况下,数据库自增主键已无法保证自增主键的全局唯一。为此,Mycat提供了全局sequence,并且提供了包含本地配置和数据库配置等多种实现方式

本地文件

此方式Mycatsequence配置到文件中,当使用到sequence中的配置后,Mycat会更新classpath中的 sequence_conf.properties文件中sequence当前的值。

  • 优点:本地加载,读取速度较快
  • 缺点:抗风险能力差,Mycat所在主机宕机后,无法读取本地文件。
数据库方式

利用数据库一个表 来进行计数累加。但是并不是每次生成序列都读写数据库,这样效率太低。 Mycat会预加载一部分号段到Mycat的内存中,这样大部分读写序列都是在内存中完成的。 如果内存中的号段用完了Mycat会再向数据库要一次。

如果Mycat崩溃了 ,内存中的序列都没有了。Mycat启动后会向数据库申请新的号段,原有号段会弃用。也就是说如果Mycat重启,那么损失是当前的号段没用完的号码,但是不会因此出现主键重复

  • mysql-node1上创建全局序列表

    建库序列脚本

    CREATE TABLE MYCAT_SEQUENCE (NAME VARCHAR(50) NOT NULL,current_value INT NOT
    NULL,increment INT NOT NULL DEFAULT 100, PRIMARY KEY(NAME)) ENGINE=INNODB;
    
    # 创建全局序列所需函数
    DELIMITER $$
    CREATE FUNCTION mycat_seq_currval(seq_name VARCHAR(50)) RETURNS VARCHAR(64)
    DETERMINISTIC
    BEGIN
    DECLARE retval VARCHAR(64);
    SET retval="-999999999,null";
    SELECT CONCAT(CAST(current_value AS CHAR),",",CAST(increment AS CHAR)) INTO retval FROM
    MYCAT_SEQUENCE WHERE NAME = seq_name;
    RETURN retval;
    END $$
    DELIMITER;
    
    DELIMITER $$
    CREATE FUNCTION mycat_seq_setval(seq_name VARCHAR(50),VALUE INTEGER) RETURNS
    VARCHAR(64)
    DETERMINISTIC
    BEGIN
    UPDATE MYCAT_SEQUENCE
    SET current_value = VALUE
    WHERE NAME = seq_name;
    RETURN mycat_seq_currval(seq_name);
    END $$
    DELIMITER;
    
    DELIMITER $$
    CREATE FUNCTION mycat_seq_nextval(seq_name VARCHAR(50)) RETURNS VARCHAR(64)
    DETERMINISTIC
    BEGIN
    UPDATE MYCAT_SEQUENCE
    SET current_value = current_value + increment WHERE NAME = seq_name;
    RETURN mycat_seq_currval(seq_name);
    END $$
    DELIMITER;
    
    # 初始化序列表记录
    INSERT INTO MYCAT_SEQUENCE(NAME,current_value,increment) VALUES ('ORDERS', 400000, 100);
    

    查询序列表

    mysql> select * from MYCAT_SEQUENCE;
    +--------+---------------+-----------+
    | NAME   | current_value | increment |
    +--------+---------------+-----------+
    | ORDERS |        400000 |       100 |
    +--------+---------------+-----------+
    1 row in set (0.00 sec)
    
  • 修改Mycat配置

    修改sequence_db_conf.properties

    vi sequence_db_conf.properties
    
    # 序列名称=节点
    ORDERS=dn1
    

    意思是ORDERS这个序列在dn1这个节点上,具体dn1节点是哪台机子,请参考schema.xml

  • 修改配置文件server.xml

    vi server.xml
    

    将里面的值修改为1

    <property name="sequnceHandlerType">1</property>
    

    全局序列类型:

    • 0-本地文件
    • 1-数据库方式
    • 2-时间戳方式。
  • 启动Mycat,验证全局序列

    登录Mycat,插入数据

    insert into orders(id,amount,customer_id,order_type) values(next value for MYCATSEQ_ORDERS,1000,101,102);
    

    查询数据

    mysql> select * from orders;
    +--------+------------+-------------+-----------+
    | id     | order_type | customer_id | amount    |
    +--------+------------+-------------+-----------+
    |      1 |        101 |         100 | 100100.00 |
    |      2 |        101 |         100 | 100300.00 |
    |      6 |        102 |         100 | 100020.00 |
    |      3 |        101 |         101 | 120000.00 |
    |      4 |        101 |         101 | 103000.00 |
    |      5 |        102 |         101 | 100400.00 |
    | 400100 |        102 |         101 |   1000.00 |
    | 400101 |        102 |         101 |   1000.00 |
    +--------+------------+-------------+-----------+
    8 rows in set (0.02 sec)
    
  • 重启Mycat后,再次插入数据,再查询

    insert into orders(id,amount,customer_id,order_type) values(next value for MYCATSEQ_ORDERS,1000,101,102);
    

    查询数据

    mysql> select * from orders;
    +--------+------------+-------------+-----------+
    | id     | order_type | customer_id | amount    |
    +--------+------------+-------------+-----------+
    |      1 |        101 |         100 | 100100.00 |
    |      2 |        101 |         100 | 100300.00 |
    |      6 |        102 |         100 | 100020.00 |
    |      3 |        101 |         101 | 120000.00 |
    |      4 |        101 |         101 | 103000.00 |
    |      5 |        102 |         101 | 100400.00 |
    | 400100 |        102 |         101 |   1000.00 |
    | 400101 |        102 |         101 |   1000.00 |
    | 400200 |        102 |         101 |   1000.00 |
    | 400201 |        102 |         101 |   1000.00 |
    +--------+------------+-------------+-----------+
    10 rows in set (0.03 sec)
    
时间戳方式

全局序列ID= 64 位二进制 (42(毫秒)+5(机器 ID)+5(业务编码)+12(重复累加) 换算成十进制为·18位数的long类型,每毫秒可以并发12`位二进制的累加。

  • 优点:配置简单
  • 缺点:18ID过长
自主生成全局序列

可在Java项目里自己生成全局序列,如下:

  • 根据业务逻辑组合
  • 可以利用redis的单线程原子性incr来生成序列。但,自主生成需要单独在工程中用Java代码实现,还是推荐使用Mycat自带全局序列。
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-06-21 21:28:50  更:2022-06-21 21:28:55 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/19 21:04:27-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码