热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

开发笔记:Mycat水平分表

篇首语:本文由编程笔记#小编为大家整理,主要介绍了Mycat水平分表相关的知识,希望对你有一定的参考价值。

篇首语:本文由编程笔记#小编为大家整理,主要介绍了Mycat水平分表相关的知识,希望对你有一定的参考价值。



环境说明































主机名 IP 角色 数据库
node1 192.168.114.129 Mycat node_seq
node2 192.168.114.133 mysql student_db01
student_db02
node3 192.168.114.136 Mysql student_db03
student_db04

实验

假设我们数据库中有一张学生表(stduent),和一张学生详情表(student_detail)。因为数据量太大要分表,把原来一张表能够存储的数据,水平扩展到4个数据库中。


寻找分片字段



  • 水平切分整张表,需要找一个分片键,作为分片的依据


  • 分片后各个节点上的数据尽可能存储均匀


  • 分片键最好是高频查询用到的查询条件


  • 如果要分片的表还有子表,那么子表也应该使用ER表形式,把相关联数据分配到同一个分片节点上



创建表

#node2
create database student_db01 default charset utf8;
create database student_db02 default charset utf8;
#node3
create database student_db03 default charset utf8;
create database student_db04 default charset utf8;
#stduent01,student02,student03,student04 节点
CREATE TABLE `student` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`name` varchar(32) NOT NULL COMMENT '学生姓名',
`class_id` bigint(20) NOT NULL DEFAULT '0' COMMENT '班级id',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='学生表';
CREATE TABLE `student_detail` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`student_id` varchar(32) NOT NULL COMMENT '学生表id',
`address` varchar(50) DEFAULT '' COMMENT '学生地址',
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='学生详情表';

分片配置用到的文件


  • 使用schema.xml 配置逻辑库和逻辑表


  • 使用rule.xml 配置分片表的分片规则


  • 使用server.xml 配置访问用户及权限



配置 rule.xml

进行水平分片是才用到这个xml

<tableRule name="student_sharding">
<rule>
<columns>class_idcolumns>
<algorithm>mod-longalgorithm>
rule>
tableRule>

配置全局唯一id

全局唯一id的用处是,即使主键是自增的情况下,保证各个节点不会出现重复主键


允许创建函数

vim my.conf
log_bin_trust_function_creators=1

msql创建自增规则表

mysql> mysql -uroot -p
mysql> create database node_seq default charset utf8;
导入
mysql -uroot -p node_seq mysql > insert into MYCAT_SEQUENCE values('STUDENT',1,1);
mysql > insert into MYCAT_SEQUENCE values('STUDENT_DETAIL',1,1);
mysql > grant all on *.* to 'mycat_connect'@'192.168.114.%';
mysql > flush privileges;

修改配置

#指定相关表和数据库之间的关系

vim /usr/local/mycat/conf/sequence_db_conf.properties
STUDENT=node_seq
STUDENT_DETAIL=node_seq

server id生成方式

vim /usr/local/mycat/conf/server.xml
<property name="sequnceHandlerType">1property>


配置

vim /usr/local/mycat/conf/schema.xml

<schema name="school_db" checkSQLschema="false" sqlMaxLimit="100">

<table name="student" primaryKey="id" dataNode="student_db01,student_db02,student_db03,student_db04" rule="student_sharding" autoIncrement="true">
<childTable name="student_detail" primaryKey="id" joinKey="student_id" parentKey="student_id" autoIncrement="true">childTable>
table>

schema>

<dataNode name="student_db01" dataHost="mysql133" database="student_db01" />
<dataNode name="student_db02" dataHost="mysql133" database="student_db02" />
<dataNode name="student_db03" dataHost="mysql136" database="student_db03" />
<dataNode name="student_db04" dataHost="mysql136" database="student_db04" />

<dataNode name="node_seq" dataHost="mysql129" database="node_seq" />
<dataHost name="mysql133" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1">
<heartbeat>select user()heartbeat>
<writeHost host="192.168.114.133" url="192.168.114.133:3306" user="mycat_connect" password="123456" />
dataHost>
<dataHost name="mysql136" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1">
<heartbeat>select user()heartbeat>
<writeHost host="192.168.114.136" url="192.168.114.136:3306" user="mycat_connect" password="123456" />
dataHost>
<dataHost name="mysql129" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1">
<heartbeat>select user()heartbeat>
<writeHost host="192.168.114.129" url="192.168.114.129:3306" user="mycat_connect" password="123456" />
dataHost>


配置 server.xml

<system>
<property name="nonePasswordLogin">0property>
<property name="useSqlStat">0property>
<property name="useGlobleTableCheck">0property>
<property name="sequnceHandlerType">1property>
<property name="serverPort">8066property>
<property name="managerPort">9066property>
<property name="idleTimeout">300000property>
<property name="bindIp">0.0.0.0property>
<property name="frontWriteQueueSize">4096property>
<property name="processors">4property>
<property name="charset">utf8property>
<property name="txIsolation">2property>
<property name="sqlExecuteTimeout">300property>
<property name="defaultMaxLimit">100property>
<property name="maxPacketSize">104857600property>
<property name="sqlInterceptor">io.mycat.server.interceptor.impl.StatisticsSqlInterceptorproperty>
<property name="sqlInterceptorType">UPDATE,DELETE,INSERTproperty>
<property name="sqlInterceptorFile">/tmp/sql.txtproperty>
system>
<user name="mycat_connect" defaultAccount="true">
<property name="password">123456property>
<property name="schemas">school_dbproperty>
user>

重新启动mycat

mycat restart

验证

先清除以往订单
mysql -umycat_connect -p -h 192.168.114.129 -P 8066
插入数据
#student表中插入数据
insert into student(`name`,`class_id`) values('tom',1);
insert into student(`name`,`class_id`) values('lily',2);
insert into student(`name`,`class_id`) values('jack',4);
insert into student(`name`,`class_id`) values('json',3);
insert into student(`name`,`class_id`) values('hok',3);
insert into student(`name`,`class_id`) values('haolly',3);
insert into student(`name`,`class_id`) values('jerry',3);
insert into student(`name`,`class_id`) values('wrrol',3);
insert into student(`name`,`class_id`) values('brant',2);
insert into student(`name`,`class_id`) values('james',4);
#stduent_detail 中插入数据
填写真实的student_id
insert into student_detail(student_id,address) values('','北京');
#分别进入各个分片数据库中查看数据和分片对应情况 stduent_db01, stduent_db02, stduent_db03, stduent_db04
select id,mod(class_id,4) from student;
select student_id from student_detail;
#mycat 关联查询
select * from student as a join student_detail b on a.id = b.student_id;




推荐阅读
  • WhenIusepythontoapplythepymysqlmoduletoaddafieldtoatableinthemysqldatabase,itdo ... [详细]
  • 本文详细介绍了如何使用MySQL来显示SQL语句的执行时间,并通过MySQL Query Profiler获取CPU和内存使用量以及系统锁和表锁的时间。同时介绍了效能分析的三种方法:瓶颈分析、工作负载分析和基于比率的分析。 ... [详细]
  • 本文介绍了在开发Android新闻App时,搭建本地服务器的步骤。通过使用XAMPP软件,可以一键式搭建起开发环境,包括Apache、MySQL、PHP、PERL。在本地服务器上新建数据库和表,并设置相应的属性。最后,给出了创建new表的SQL语句。这个教程适合初学者参考。 ... [详细]
  • PDO MySQL
    PDOMySQL如果文章有成千上万篇,该怎样保存?数据保存有多种方式,比如单机文件、单机数据库(SQLite)、网络数据库(MySQL、MariaDB)等等。根据项目来选择,做We ... [详细]
  • VScode格式化文档换行或不换行的设置方法
    本文介绍了在VScode中设置格式化文档换行或不换行的方法,包括使用插件和修改settings.json文件的内容。详细步骤为:找到settings.json文件,将其中的代码替换为指定的代码。 ... [详细]
  • 本文介绍了在Mac上搭建php环境后无法使用localhost连接mysql的问题,并通过将localhost替换为127.0.0.1或本机IP解决了该问题。文章解释了localhost和127.0.0.1的区别,指出了使用socket方式连接导致连接失败的原因。此外,还提供了相关链接供读者深入了解。 ... [详细]
  • 本文详细介绍了MySQL表分区的创建、增加和删除方法,包括查看分区数据量和全库数据量的方法。欢迎大家阅读并给予点评。 ... [详细]
  • 本文介绍了使用cacti监控mssql 2005运行资源情况的操作步骤,包括安装必要的工具和驱动,测试mssql的连接,配置监控脚本等。通过php连接mssql来获取SQL 2005性能计算器的值,实现对mssql的监控。详细的操作步骤和代码请参考附件。 ... [详细]
  • Oracle Database 10g许可授予信息及高级功能详解
    本文介绍了Oracle Database 10g许可授予信息及其中的高级功能,包括数据库优化数据包、SQL访问指导、SQL优化指导、SQL优化集和重组对象。同时提供了详细说明,指导用户在Oracle Database 10g中如何使用这些功能。 ... [详细]
  • 本文详细介绍了MysqlDump和mysqldump进行全库备份的相关知识,包括备份命令的使用方法、my.cnf配置文件的设置、binlog日志的位置指定、增量恢复的方式以及适用于innodb引擎和myisam引擎的备份方法。对于需要进行数据库备份的用户来说,本文提供了一些有价值的参考内容。 ... [详细]
  • 本文由编程笔记小编整理,介绍了PHP中的MySQL函数库及其常用函数,包括mysql_connect、mysql_error、mysql_select_db、mysql_query、mysql_affected_row、mysql_close等。希望对读者有一定的参考价值。 ... [详细]
  • 解决VS写C#项目导入MySQL数据源报错“You have a usable connection already”问题的正确方法
    本文介绍了在VS写C#项目导入MySQL数据源时出现报错“You have a usable connection already”的问题,并给出了正确的解决方法。详细描述了问题的出现情况和报错信息,并提供了解决该问题的步骤和注意事项。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • Oracle10g备份导入的方法及注意事项
    本文介绍了使用Oracle10g进行备份导入的方法及相关注意事项,同时还介绍了2019年独角兽企业重金招聘Python工程师的标准。内容包括导出exp命令、删用户、创建数据库、授权等操作,以及导入imp命令的使用。详细介绍了导入时的参数设置,如full、ignore、buffer、commit、feedback等。转载来源于https://my.oschina.net/u/1767754/blog/377593。 ... [详细]
  • 本文介绍了将mysql从5.6.15升级到5.7.15的详细步骤,包括关闭访问、备份旧库、备份权限、配置文件备份、关闭旧数据库、安装二进制、替换配置文件以及启动新数据库等操作。 ... [详细]
author-avatar
书友80922185
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有