Mycat进阶

　　一、Mycat配置详解
　　1、Mycat支持的两种配置方式
　　Mycat从1.5版本开始支持两种配置方式：ZooKeeper及本地XML方式。Mycat默认以本地加载XML的方式启动，如果需要配置成以ZooKeeper的方式启动，则应把conf目录下zk.conf文件中的 loadfromzk 参数设置成 true。
　　2、server.xml配置文件
　　server.xml配置文件包含了Mycat的系统配置信息
　　2.1、user标签
　　     user     TESTDB     true     TESTDB 
　　user标签主要用于定义登录Mycat的用户和权限。在如上配置中定义了用户名和密码都为test的用户，该用户可以访问的schema只有TESTDB。
　　若要在schema.xml中定义TESTDB，则TESTDB必须先在server.xml中定义，否则该用户将无法访问该TESTDB。如果使用了use命令，则Mycat会有如下错误提示：
　　Error 1044 (HY000):Access denied for user ＂test＂ to database ＂xxx＂
　　可以修改user标签的name属性来指定用户名，修改password的值来修改密码，修改readOnly的值为true或false来限制用户的读写权限。如果需要同时访问多个schema，则多个schema之间使用英文逗号隔开，例如：
　　TESTDB,db1,db2
　　benchmark属性
　　通过设置benchmark属性的值来限制前端的整体连接数量，如果其值为0或不对其进行设置，则表示不限制连接数量。例如：
　　1000
　　2.2、system标签
　　2.2.1、charset属性
　　   utf8 
　　2.2.2、processors属性
　　processors属性指定系统可用的线程数量，默认值为机器CPU核心 每个核心运行线程的数量，processors值会影响processorBufferPool、processorBufferLocalPercent、processorExecutor属性。NIOProcessor的个数也由processors属性决定，所以调优时可以适当地修改processors值。
　　2.2.3、processorBufferChunk属性
　　processorBufferChunk属性指定每次分配Socket Direct Buffer的默认值为4096个字节，也会影响BufferPool的长度，如果一次性获取的字节过多而导致Buffer不够用，则会经常出现警告，可以适当调大processorBufferChunk值。
　　2.2.4、sequnceHandlerType属性
　　sequnceHandlerType属性指定Mycat全局序列的类型：0为本地文件方式；1为数据库方式；2为时间戳序列方式。默认使用本地文件方式，文件方式主要用于测试。
　　2.2.5、MySQL连接的相关属性
　　初始化MySQL前后端连接所涉及的一些属性如下。
　　· packetHeaderSize：指定MySQL协议中的报文头长度，默认值为4个字节。
　　· maxPacketSize：指定MySQL协议可以携带的数据的最大大小，默认值为16MB。
　　· idleTimeout：指定连接的空闲时间的超时长度。如果某个连接的空闲时间超过idleTimeout的值，则该连接将关闭资源并回收，单位为毫秒，默认为30分钟。
　　· charset：初始化连接字符集，默认为utf8。
　　· txIsolation：初始化前端连接事务的隔离级别，后续的txIsolation值为客户端的配置值。默认值为REPEATED_READ，对应的数字为3。
　　· sqlExecuteTimeout：执行SQL语句的超时时间，若SQL语句的执行时间超过这个值，则会直接关闭连接，单位为秒，默认值为300秒。
　　2.2.6、心跳属性
　　· processorCheckPeriod：清理NIOProcessor前后端空闲、超时、关闭连接的时间间隔，单位为毫秒，默认为1秒。
　　· dataNodeIdleCheckPeriod：对后端连接进行空闲、超时检查的时间间隔，单位为毫秒，默认为300秒。
　　· dataNodeHeartbeatPeriod：对后端的所有读、写库发起心跳的间隔时间，单位为毫秒，默认为10秒。
　　2.2.7、分布式事务开关属性
　　handleDistributedTransactions是分布式事务开关：0为不过滤分布式事务；1为过滤分布式事务（如果分布式事务内只涉及全局表，则不过滤）；2为不过滤分布式事务，但是记录分布式事务日志。主要用于控制是否允许跨库事务，配置如下：
　　0
　　2.2.8、useOffHeapForMerge属性
　　该属性用于配置是否启用非堆内存处理跨分片结果集，1为开启，0为关闭，Mycat从1.6版本开始支持此属性。配置如下：
　　0
　　2.2.9全局表一致性检测
　　其原理是通过在全局表中增加_MYCAT_OP_TIME字段来进行一致性检测，为BIGINT类型。create语句通过Mycat执行时会自动加上这个字段，其他情况下需要手工添加。1为开启、0为关闭，Mycat从1.6版本开始支持此属性。配置如下：
　　0  
　　全局表一致性检测功能的使用说明及步骤如下。
　　（1）在所有全局表中增加一个BIGINT类型的内部列，列名为_mycat_op_time（alter table t add column_mycat_op_time bigint [not null default 0]），同时建议在该列建立索引（alter table t add index_op_idx（_mycat_op_time））。
　　（2）在对全局表进行crud时，可以将内部列当作不存在，建议不要对内部列进行update、insert等操作，否则会在Log日志中出现警告语句＂不用操作内部列＂。
　　（3）因为全局表中多了一个内部列，所以在对全局表进行 insert 时必须带有列名，意味着SQL插入的语句必须是insert into t（id，name）values（xx，xx），而不能使用insert into t values（xx，xx），否则会报列数不对的异常。这样的操作可能会给开发工程师带来不便，将来会改善这个问题。
　　2.2.10、useSqlStat属性
　　开启SQL实时统计，1为开启、0为关闭。配置如下：
　　0  
　　3、 schema.xml配置文件
　　schema.xml作为Mycat中重要的配置文件之一，涵盖了Mycat的逻辑库、表、分片规则、分片节点及数据源。
　　3.1、schema标签
　　     
　　schema标签用于定义Mycat实例中的逻辑库。Mycat可以有多个逻辑库，每个逻辑库都有自己的相关配置。可以使用schema标签来划分不同的逻辑库，如果不配置schema标签，则所有的表配置都会属于同一个默认的逻辑库。
　　                         
　　如上所示配置了两个不同的逻辑库，逻辑库的概念等同于MySQL数据库中的Database概念，我们在查询逻辑库中的表时，需要切换到该逻辑库下才可以查询其中的表。
　　3.1.1、dataNode属性
　　该属性用于绑定逻辑库到具体的Database上，
　　                                     
　　3.1.2、checkSQLschema属性
　　当该值设置为true时，如果我们执行语句 ** select*from TESTDB.travelrecord; ** ，则Mycat会把schema字符去掉，把SQL语句修改为**select*from travelrecord；** 可避免发送到后端数据库执行时报＂**（ERROR 1146（42S02）：Table＂testdb.travelrecord＂doesn＂t exist）＂错误。
　　不过，即使设置该值为true，如果语句所带的schema名字不是schema指定的名字，例如** select*from db1.travelrecord；** ，那么Mycat并不会删除db1这个字符串。如果没有定义该库，则会报错，在SQL语句中最好不带这个字段。
　　3.1.3、sqlMaxLimit属性
　　当该属性设置为某个数值时，每次执行的SQL语句如果没有加上limit语句，MyCat也会自动在 limit 语句后面加上对应的数值。例如设置值为 100，则执行** select*from TESTDB.travelrecord；** 的效果和执行** select*from TESTDB.travelrecord limit 100；** 的效果一样。
　　如果不设置该值，则Mycat默认会把查询到的信息全部返回，所以在正常使用的过程中还是建议设置该值，避免过多的数据返回。
　　当然，如果在SQL语句中也显式地指定了limit的大小则不受该属性的约束。需要注意的是，如果运行SQL语句的schema为非拆分库的，那么该属性不会生效，需要手动在SQL语句后面添加limit。
　　3.2、table标签
　　table标签定义了Mycat中的逻辑表，所有需要拆分的表都需要在table标签中定义。      
　　3.2.1、name属性
　　定义逻辑表的名称，如同我们在数据库中执行create table语句的表名一样，同一个schema标签中定义的table的名字必须唯一。
　　3.2.2、dataNode属性
　　定义逻辑表所属的dataNode，该属性的值需要与dataNode标签中name属性的值相互对应。如果需要定义过多的dn，则可以使用如下方法减少配置
　　
　　3.2.3、rule属性
　　该属性用于指定逻辑表要使用的规则的名字，规则的名字在 rule.xml 中定义，必须与tableRule标签中name属性的值一一对应。
　　3.2.4、ruleRequired属性
　　该属性用于指定表是否绑定分片规则，如果配置为true，但没有配置具体的rule，则程序会报错。
　　3.2.5、primaryKey属性
　　逻辑表对应真实表的主键，例如：分片的规则是使用非主键进行分片，那么在使用主键查询时，就会发送查询语句到所有配置的dn上；如果使用该属性配置真实表的主键，那么Mycat会缓存主键与具体dn的信息，再次使用主键进行查询时就不会进行广播式的查询了，而是直接把 SQL 语句发送到具体的 dn。但是尽管配置了该属性，如果缓存并没有命中，则还是会把该SQL语句发送给所有的dn执行来获得数据。
　　3.2.6、type属性
　　该属性定义了逻辑表的类型，目前逻辑表只有＂全局表＂和＂普通表＂两种类型。
　　· 全局表：type的值是global，代表全局表。
　　· 普通表：不指定该值为global的所有表。
　　3.2.7、autoIncrement属性
　　MySQL对于非自增长主键使用last_insert_id（）是不会返回结果的，只会返回0。所以，只有对定义了自增长主键的表使用last_insert_id（）才可以返回主键的值。Mycat目前提供了自增长主键功能，但是如果对应的 MySQL 节点上的表没有定义 auto_increment，那么在 Mycat 层调用last_insert_id（）也是不会返回结果的。
　　由于insert操作时没有带入分片键，所以Mycat会先取下这个表对应的全局序列，然后赋值给分片键。
　　如果要使用这个功能，则最好配合数据库模式的全局序列。使用 autoIncrement=＂true＂指定这个表使用自增长主键，这样Mycat才不会抛出＂分片键找不到＂的异常。使用autoIncrement=＂false＂来禁用这个功能，autoIncrement的值默认为false。
　　3.2.8、needAddLimit属性
　　指定表是否需要自动在每个语句的后面加上limit限制。由于使用了分库分表，所以数据量有时会特别大。如果恰巧忘记加上数量限制，那么查询所有的数据需要一定的时间。
　　所以，添加该属性后Mycat将会自动为我们在查询语句后面加上LIMIT 100。如果语句中有limit限制，则不会重复添加。该属性默认为true，你也可以把该值设置为false来禁用默认的行为。
　　3.3、childTable标签
　　childTable标签用于定义E-R分片的子表，通过标签上的属性与父表进行关联。
　　               
　　3.3.1、name属性
　　定义子表的名称。
　　3.3.2、joinKey属性
　　插入子表时会使用这个值查找父表存储的数据节点。
　　3.3.3、parentKey属性
　　parentKey为与父表建立关联关系的列名。程序首先获取 joinKey的值，再通过parentKey属性指定的列名产生查询语句，通过执行该语句得知父表存储在哪个分片上，从而确定子表存储的位置。
　　3.3.4、primaryKey属性
　　同table标签所描述的。
　　3.3.5、needAddLimit属性
　　同table标签所描述的。
　　3.4、dataNode标签
　　dataNode标签定义了Mycat中的数据节点，也就是我们通常所说的数据分片。一个dataNode标签就是一个独立的数据分片。
　　如下所示为使用名为localhost1的数据库实例上的db1物理数据库组成一个数据分片，我们通过名字dn1标识这个分片。
　　
　　dataNode标签的相关属性如表所示：
　　3.4.1、name属性
　　定义数据节点的唯一名字，我们需要在table标签上应用这个名字，来建立表与分片的对应关系。
　　3.4.2、dataHost属性
　　该属性用于定义该分片所属的数据库实例，属性值引用自 dataHost 标签上定义的 name属性。
　　3.4.3、database属性
　　该属性用于定义该分片所属数据库实例上的具体的库，这里使用两个维度来定义分片：实例+具体的库。因为每个库上的表结构是一样的，所以这样就可以轻松地对表进行水平拆分。
　　3.5、dataHost标签
　　作为schema.xml中的最后一个标签，该标签在Mycat逻辑库中作为底层标签存在，直接定义了具体的数据库实例、读写分离和心跳语句。
　　   select user()             
　　3.5.1、name属性
　　唯一标识dataHost标签，供上层标签使用。
　　3.5.2、maxCon属性
　　指定每个读写实例连接池的最大连接数。内嵌标签writeHost、readHost都会使用这个属性的值来实例化连接池的最大连接数。
　　3.5.3、minCon属性
　　指定每个读写实例连接池的最小连接数，初始化连接池的大小。
　　3.5.4、balance属性
　　负载均衡类型，目前的取值有如下4种。
　　· balance=＂0＂：不开启读写分离机制，所有读操作都发送到当前可用的writeHost上。
　　· balance=＂1＂：全部的readHost与stand by writeHost都参与select语句的负载均衡，简而言之，当为双主双从模式（M1 S1，M2 S2，并且 M1 与 M2 互为主备）时，在正常情况下，M2、S1和S2都参与select语句的负载均衡。
　　· balance=＂2＂：所有的读操作都随机地在writeHost、readHost上分发。
　　· balance=＂3＂：所有的读请求都随机分发到writeHost对应的readHost上执行，writeHost不负担读压力，注意balance=3只在Mycat 1.4及之后的版本中有，在Mycat 1.3中没有。
　　3.5.5、writeType属性
　　负载均衡类型目前的取值有两种。
　　· writeType=＂0＂：所有的写操作都发送到配置的第1个writeHost上，writeHost1挂了则切到 writeHost2 上，重新恢复 writeHost1 节点后，不会再切回来，还是以 writeHost2为准，切换记录在配置文件dnindex.properties中。
　　· writeType=＂1＂：所有的写操作都随机地发送到配置的writeHost上，Mycat 1.5版本以后不再推荐使用该值。
　　3.5.6、switchType属性
　　·-1表示不自动切换。
　　· 1为默认值，表示自动切换。
　　· 2表示基于MySQL主从同步的状态决定是否切换，心跳语句如下：
　　· 3表示基于MySQL Galary Cluster的切换机制（适合集群，Mycat 1.4.1及以上版本支持），心跳语句如下：
　　3.5.7、tempReadHostAvailable属性
　　如果配置了writeHost属性，下面的readHost依旧可用，则默认值为0。
　　3.6、heartbeat标签
　　这个标签内指明了用于后端数据库进行心跳检查的语句。
　　3.7、writeHost标签、readHost标签
　　这两个标签都指定Mycat后端数据库的相关配置，用于实例化后端连接池。唯一的不同是，writeHost指定写实例，readHost指定读实例，组成这些读写实例来满足系统的要求。
　　在一个dataHost内可以定义多个writeHost和readHost。但是，如果writeHost指定的后端数据库宕机，那么这个writeHost绑定的所有readHost也将不可用；另一方面，Mycat会自动检测到writeHost宕机，并切换到备用的writeHost上。
　　3.7.1、host属性
　　用于标识不同的实例，对于writeHost，我们一般使用*M1；对于readHost，我们一般使用*S1。
　　3.7.2、url属性
　　后端实例的连接地址，如果使用native的dbDriver，则一般为address：port形式；如果使用JDBC 或其他 dbDriver，则需要特殊指定。在使用 JDBC 时，则可以写为 jdbc：MySQL：//localhost：3306/。
　　3.7.3、user属性
　　后端存储实例的用户名。
　　3.7.4、password属性
　　后端存储实例的密码。
　　3.7.5、weight属性
　　在readHost中作为读节点的权重（Mycat在1.4版本以后才有）。
　　3.7.6、usingDecrypt属性
　　同server.xml中usingDecrypt的配置。
　　4、sequence配置文件
　　在实现分库分表的情况下，数据库自增主键已经无法保证在集群中是全局唯一的主键，因此，Mycat提供了全局sequence，并且提供了本地配置、数据库配置等多种实现方式。
　　4.1、本地文件方式
　　采用该方式，Mycat将sequence配置到classpath目录的sequence_conf.properties文件中。
　　在sequence_conf.properties文件中做如下配置：
　　HOTNEWS.HISIDS= HOTNEWS.MINID=1001 HOTNEWS.MAXID=2000 HOTNEWS.CURID=1000
　　其中HISIDS表示使用过的历史分段（一般无特殊需要则可不配置），MINID表示最小的ID值，MAXID表示最大的ID值，CURID表示当前的ID值。
　　要启用这种方式，则首先需要在server.xml中配置如下参数：
　　0
　　注意：sequnceHandlerType配置为0，表示使用本地文件方式。
　　insert into table1(id,name) values(next value for MYCATSEQ_GLOBAL,＂test＂);
　　采用这种方式的缺点是Mycat重新发布后，配置文件中的sequence会恢复到初始值；优点是本地加载且读取速度较快。
　　4.2、数据库方式
　　在数据库中创建一张名为 sequence 的表，有 sequence 的当前值（current_value）、步长（increment int类型，指每次读取多少个sequence，假设为K）等信息。
　　sequence的获取步骤如下。
　　（1）初次使用sequence时，根据传入的sequence名称，从数据库表中读取current_value、increment到Mycat中，并将数据库中的current_value修改为current_value+increment的值。
　　（2）Mycat将读取到的current_value+increment作为本次使用的sequence值，在下次使用时，sequence自动加1，当使用increment次后，执行与步骤1相同的操作。
　　（3）Mycat负责维护这张表，用到那些sequence时，只需要在这张表中插入一条记录即可。若某次读取的sequence没有用完系统就宕机了，则本次已经读取sequence且未使用的值将会被丢弃。
　　要启用这种方式，则需要在server.xml中配置如下参数：
　　1
　　注意：sequnceHandlerType需要配置为1，表示使用数据库方式生成sequence。
　　数据库配置如下：
　　（1）创建存放MYCAT_SEQUENCE的表：
　　create table MYCAT_SEQUENCE (name varchar(50) not null, current_value int not null , increment int not  null default 100,primary key(name) )engine = InnoDB;
　　name、current_value和increment分别是sequence的名称、当前value和增长步长。increment可理解为Mycat从数据库中批量读取100个（默认值）sequence来使用，用完这些值后，再从数据库中读取。
　　插入一条sequence语句：
　　insert into MYCAT_SEQUENCE (name ,current_value ,increment ) values (＂GLOBAL＂,100000,100)
　　（2）创建相关的function
　　4.3、本地时间戳方式
　　4.4、其他方式
　　4.4.1、使用catlet注解方式
　　4.4.2、也可以使用ZooKeeper方式实现
　　4.5、自增长主键
　　Mycat自增长主键和返回生成主键ID的实现如下：
　　（1）MySQL本身对非自增长主键使用last_insert_id（）只会返回0。
　　（2）MySQL对定义自增长的主键才可以用last_insert_id（）返回主键的值。
　　Mycat目前提供了自增长主键功能，但是如果对应的 MySQL 节点上的数据表没有定义auto_increment，那么在Mycat层调用last_insert_id（）也是不会返回结果的。
　　正确的配置方式如下：
　　（1）MySQL定义自增长主键。
　　（2）Mycat定义主键自增。
　　在table标签中增加autoIncrement=＂true＂：
　　（3）Mycat对应sequence_db_conf.properties增加相应的设置。
　　（4）在数据库的mycat_sequence表中增加TABLE1表的sequence记录。
　　5、zk-create.yaml配置文件
　　在介绍配置之前，先介绍几个概念。Mycat Zone指的是分布于不同地域（Zone）的Mycat Cluster，Zone的命名建议用地理位置来标识，比如北京联通机房1。Cluster是Mycat集群，一个Cluster包含一个或多个Mycat Server。一般来讲，一个Zone都有一组主备Mycat负载均衡器LB，LB与同一中心内的Mycat Cluster组成一对多关系，即一个LB可以服务一个中心内的所有Cluster的负载均衡请求，也可以是多个LB，每个负担不同的Mycat Cluster的流量。此外，建议每个LB都有一个Backup，Backup平时并不连接Mycat Cluster，但监测到LB Master下线以后，就立即开始连接Mycat Cluster并开始工作。它们的关系大概可以用一组箭头来表示：Zone Mycat Cluster Mycat Server MySQL，如图所示：