5大主流方案对比MySQL千亿级数据线上平滑扩容实战
一、扩容方案剖析
1、扩容问题
在项目初期,我们部署了三个数据库A、B、C,此时数据库的规模可以满足我们的业务需求。为了将数据做到平均分配,我们在Service服务层使用uid%3进行取模分片,从而将数据平均分配到三个数据库中。
如图所示:
后期随着用户量的增加,用户产生的数据信息被源源不断的添加到数据库中,最终达到数据库的最佳存储容量。如果此时继续向数据库中新增数据,会导致数据库的CRUD等基本操作变慢,进而影响整个服务的响应速度。
这时,我们需要增加新的节点,对数据库进行水平扩容,那么加入新的数据库D后,数据库的规模由原来的3个变为4个。
如图所示:
此时由于分片规则发生了变化(uid%3 变为uid%4),导致大部分的数据,无法命中原有的数据,需要重新进行分配,要做大量的数据迁移处理。例如, 之前uid如果是uid=3取模3%3=0, 是分配在A库上,新加入D库后, uid=3取模3%4=3,分配在D库上。
新增一个节点, 大概会有90%的数据需要迁移, 这样会面临大量的数据压力,并且对服务造成极大的不稳定性。
2、停机方案
发布公告
为了进行数据的重新拆分,在停止服务之前,我们需要提前通知用户,比如:我们的服务会在yyyy-MM-dd进行升级,给您带来的不便敬请谅解。 停止服务
关闭Service。 离线数据迁移(拆分,重新分配数据)
将旧库中的数据按照Service层的算法,将数据拆分,重新分配数据。 数据校验
开发定制一个程序对旧库和新库中的数据进行校验,比对。 更改配置
修改Service层的配置算法,也就是将原来的uid%3变为uid%4。 恢复服务
重启Service服务。 回滚预案
针对上述的每个步骤都要有数据回滚预案,一旦某个环节(如:数据迁移,恢复服务等)执行失败,立刻进行回滚,重新再来。
停止服务之后, 能够保证迁移工作的正常进行, 但是服务停止,伤害用户体验, 并造成了时间压力, 必须在指定的时间内完成迁移。
3、停写方案
支持读写分离
数据库支持读写分离,在扩容之前,每个数据库都提供了读写功能,数据重新分配的过程中,将每个数据库设置为只读状态,关闭写的功能。 升级公告
为了进行数据的重新拆分,在停写之前,我们需要提前通知用户,比如:我们的服务会在yyyy-MM-dd进行升级,给您带来的不便敬请谅解。 中断写操作,隔离写数据源(或拦截返回统一提示)
在Service层对所有的写请求进行拦截,统一返回提示信息,如:服务正在升级中,只对外提供读服务。 数据同步处理
将旧库中的数据按照Service层的算法,将数据重新分配,迁移(复制数据)。 数据校验
开发定制一个程序对旧库中的数据进行备份,使用备份的数据和重新分配后的数据进行校验,比对。 更改配置
通过配置中心,修改Service层的配置算法,也就是将原来的uid%3变为uid%4,这个过程不需要重启服务。 恢复写操作
设置数据库恢复读写功能,去除Service层的拦截提示。 数据清理
使用delete语句对冗余数据进行删除。 回滚预案
针对上述的每个步骤都要有数据回滚预案,一旦某个环节(如:数据迁移等)执行失败,立刻进行回滚,重新再来。
缺点:在数据的复制过程需要消耗大量的时间,停写时间太长,数据需要先复制,再清理冗余数据。
4、日志方案
核心是通过日志进行数据库的同步迁移, 主要操作步骤如下: 1)数据迁移之前, 业务应用访问旧的数据库节点
2)日志记录
在升级之前, 记录"对旧数据库上的数据修改"的日志(这里修改包括增、删、改),这个日志不需要记录详细的数据信息,主要记录: 修改的库; 修改的表; 修改的唯一主键; 修改操作类型。
日志记录不用关注新增了哪些信息,修改的数据格式,只需要记录以上数据信息,这样日志格式是固定的, 这样能保证方案的通用性。
服务升级日志记录功能风险较小: 写和修改接口是少数, 改动点少; 升级只是增加了一些日志,采用异步方式实现, 对业务功能没有太多影响。 3)数据迁移
研发定制数据迁移工具, 作用是把旧库中的数据迁移至新库中。
整个过程仍然采用旧库进行对外服务。 数据同步工具实现复杂度不高。 只对旧库进行读取操作, 如果同步出现问题, 都可以对新库进行回滚操作。 可以限速或分批迁移执行, 不会有时间压力。
数据迁移完成之后, 并不能切换至新库提供服务。
因为旧库依然对线上提供服务, 库中的数据随时会发生变化, 但这些变化的数据并没有同步到新库中, 旧库和新库数据不一致, 所以不能直接进行切换, 需要将数据同步完整。 4)日志增量迁移
研发一个日志迁移工具,把上面迁移数据过程中的差异数据追平,处理步骤: 读取log日志,获取具体是哪个库、表和主键发生了变化修改; 把旧库中的主键记录读取出来; 根据主键ID,把新库中的记录替换掉。
这样可以最大程度的保障数据的一致性。风险分析: 整个过程, 仍然是旧库对线上提供服务; 日志迁移工具实现的复杂度较低; 任何时间发现问题, 可以重新再来,有充分的容错空间; 可以限速重放处理日志, 处理过程不会因为对线上影响造成时间压力。
但是, 日志增量同步完成之后, 还不能切换到新的数据库。
因为日志增量同步过程中,旧库中可能有数据发生变化, 导致数据不一致,所以需要进一步读取日志, 追平数据记录;日志增量同步过程随时可能会产生新的数据, 新库与旧库的数据追平也会是一个无限逼近的过程。 5)数据校验
准备好数据校验工具,将旧库和新库中的数据进行比对,直到数据完全一致。
6)切换新库
数据比对完成之后, 将流量转移切换至新库, 至此新库提供服务, 完成迁移。
但是在极限情况下, 即便通过上面的数据校验处理, 也有可能出现99.99%数据一致, 不能保障完全一致,这个时候可以在旧库做一个readonly只读功能, 或者将流量屏蔽降级,等待日志增量同步工具完全追平后, 再进行新库的切换。
至此,完成日志方案的迁移扩容处理, 整个过程能够持续对线上提供服务, 只会短暂的影响服务的可用性。
这种方案的弊端,是操作繁琐,需要适配多个同步处理工具,成本较高, 需要制定个性化业务的同步处理, 不具备普遍性,耗费的时间周期也较长。
5、双写方案(中小型数据)
双写方案可通过canal或mq做实现。 增加新库,按照现有节点, 增加对应的数量。 数据迁移:避免增量影响, 先断开主从,再导入(耗时较长), 同步完成并做校验 增量同步:开启Canal同步服务, 监听从节点数据库, 再开启主从同步,从节点收到数据后会通过Canal服务, 传递至新的DB节点。 切换新库:通过Nginx,切换访问流量至新的服务。 修复切换异常数据:在切换过程中, 如果出现,Canal未同步,但已切换至新库的请求(比如下单,修改了资金, 但还未同步 ), 可以通过定制程序, 读取检测异常日志,做自动修复或人工处理。 针对此种情况, 最好是在凌晨用户量小的时候, 或专门停止外网访问,进行切换,减少异常数据的产生。 数据校验:为保障数据的完全一致, 有必要对数据的数量完整性做校验。
6、平滑2N方案(大数据量)
1)线上数据库,为了保障其高可用,一般每台主库会配置一台从库,主库负责读写,从库负责读取。下图所示,A,B是主库,A0和B0是从库。
2)当需要扩容的时候,我们把A0和B0升级为新的主库节点,如此由2个分库变为4个分库。同时在上层的分片配置,做好映射,规则如下: 把uid%4=0和uid%4=2的数据分别分配到A和A0主库中。 把uid%4=1和uid%4=3的数据分配到B和B0主库中。
3)因为A和A0库的数据相同,B和B0数据相同,此时无需做数据迁移。只需调整变更一下分片配置即可,通过配置中心更新,不需要重启。
由于之前uid%2的数据是分配在2个库里面,扩容之后需要分布到4个库中,但由于旧数据仍存在(uid%4=0的节点,还有一半uid%4=2的数据),所以需要对冗余数据做一次清理。
这个清理,并不会影响线上数据的一致性,可以随时随地进行。
4)处理完成之后,为保证数据的高可用,以及将来下一步的扩容需求。
可以为现有的主库再次分配一个从库。
二、平滑2N扩容方案实践
1、实现应用服务级别的动态扩容
扩容前部署架构:
1)MariaDB服务安装① 切换阿里云镜像服务(YUM安装过慢可以切换)yum -y install wget ## 备份CentOS-Base.repo mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.bak wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo wget -P /etc/yum.repos.d/ http://mirrors.aliyun.com/repo/epel-7.repo yum clean all yum makecache ② 配置YUM源vi /etc/yum.repos.d/mariadb-10.2.repo
增加以下内容:[mariadb] name = MariaDB baseurl = https://mirrors.ustc.edu.cn/mariadb/yum/10.2/centos7-amd64 gpgkey=https://yum.mariadb.org/RPM-GPG-KEY-MariaDB gpgcheck=1 ③ 执行安装yum -y install mariadb mariadb-server MariaDB-client MariaDB-common
④ 如果之前已经安装, 需要先删除 (如果之前没有安装, 可以忽略此步骤)停止Mariadb服务[root@localhost yum.repos.d]# ps -ef | grep mysql root 1954 1 0 Oct04 ? 00:05:43 /usr/sbin/mysqld --wsrep-new-cluster --user=root root 89521 81403 0 07:40 pts/0 00:00:00 grep --color=auto mysql [root@localhost yum.repos.d]# kill 1954 卸载Mariadb服务yum -y remove Maria*删除数据与配置rm -rf /var/lib/mysql/* rm -rf /etc/my.cnf.d/ rm -rf /etc/my.cnf ⑤ 启动MariaDB后,执行安全配置向导命令,可根据安全配置向导提高数据库的安全性systemctl start mariadb mysql_secure_installation ⑥ 开启用户远程连接权限
将连接用户root开启远程连接权限;mysql -uroot -p654321
进入MySQL服务, 执行以下操作:use mysql; delete from user; ## 配置root用户使用密码654321从任何主机都可以连接到mysql服务器 GRANT ALL PRIVILEGES ON *.* TO "root"@"%" IDENTIFIED BY "654321" WITH GRANT OPTION; FLUSH PRIVILEGES; 2)MariaDB双主同步① 在Server1增加配置
在/etc/my.cnf中添加以下配置:[mysqld] server-id = 1 log-bin=mysql-bin relay-log = mysql-relay-bin ## 忽略mysql、information_schema库下对表的操作 replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=information_schema.% ## 默认的情况下mysql是关闭的; log-slave-updates=on ## 复制过程中,有任何错误,直接跳过 slave-skip-errors=all auto-increment-offset=1 auto-increment-increment=2 ## binlog的格式:STATEMENT,ROW,MIXED binlog_format=mixed ## 自动过期清理binlog,默认0天,即不自动清理 expire_logs_days=10
注意, Server1自增为奇数位:auto-increment-offset=1 主键自增基数, 从1开始。auto-increment-increment=2 主键自增偏移量,每次为2。② 在Server2增加配置
修改/etc/my.cnf:[mysqld] server-id = 2 log-bin=mysql-bin relay-log = mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=information_schema.% log-slave-updates=on slave-skip-errors=all auto-increment-offset=2 auto-increment-increment=2 binlog_format=mixed expire_logs_days=10
Server2自增为偶数位:auto-increment-offset=2 主键自增基数, 从2开始。auto-increment-increment=2 主键自增偏移量,每次为2。
配置修改完成后, 重启数据库。③ 同步授权配置
在Server1创建replica用于主从同步的用户:MariaDB [(none)]> grant replication slave, replication client on *.* to "replica"@"%" identified by "replica"; mysql> flush privileges;
查询日志文件与偏移量,开启同步时需使用:MariaDB [(none)]> show master status; +------------------+----------+--------------+------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +------------------+----------+--------------+------------------+ | mysql-bin.000001 | 663 | | | +------------------+----------+--------------+------------------+
同样, 在Server2创建replica用于主从同步的用户:MariaDB [(none)]> grant replication slave, replication client on *.* to "replica"@"%" identified by "replica"; mysql> flush privileges;
查询日志文件与偏移量:MariaDB [(none)]> show master status; +------------------+----------+--------------+------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +------------------+----------+--------------+------------------+ | mysql-bin.000001 | 663 | | | +------------------+----------+--------------+------------------+ ④ 配置主从同步信息
在Server1中执行:MariaDB [(none)]> change master to master_host="192.168.116.141",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000007", master_log_pos=374, master_connect_retry=30;
在Server2中执行:MariaDB [(none)]> change master to master_host="192.168.116.140",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000015", master_log_pos=374, master_connect_retry=30;⑤ 开启双主同步
在Server1和Server2中分别执行:MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec)
在Server1查询同步信息:MariaDB [(none)]> show slave statusG; *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 10.10.20.126 Master_User: replica Master_Port: 3306 Connect_Retry: 30 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 663 Relay_Log_File: mysql-relay-bin.000002 Relay_Log_Pos: 555 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: Yes Slave_SQL_Running: Yes ...
在Server2查询同步信息:MariaDB [(none)]> show slave statusG; *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 10.10.20.125 Master_User: replica Master_Port: 3306 Connect_Retry: 30 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 663 Relay_Log_File: mysql-relay-bin.000002 Relay_Log_Pos: 555 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: Yes Slave_SQL_Running: Yes ...
Slave_IO_Running和Slave_SQL_Running 都是Yes,说明双主同步配置成功。3)KeepAlived安装与高可用配置① 在Server1与Server2两台节点安装keepalivedyum -y install keepalived② 关闭防火墙systemctl stop firewalld systemctl disable firewalld ③ 设置主机名称
Server1节点:hostnamectl set-hostname vip1
Server2节点:hostnamectl set-hostname vip2④ Server1节点配置/etc/keepalived/keepalived.conf: global_defs { router_id vip1 # 机器标识,和主机名保持一致,运行keepalived服务器的一个标识 } vrrp_instance VI_1 { #vrrp实例定义 state BACKUP #lvs的状态模式,MASTER代表主, BACKUP代表备份节点 interface ens33 #绑定对外访问的网卡,vrrp实例绑定的网卡 virtual_router_id 111 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 100 #优先级,100代表最大优先级, 数字越大优先级越高 advert_int 1 #master与backup节点同步检查的时间间隔,单位是秒 authentication { #设置验证信息 auth_type PASS #有PASS和AH两种 auth_pass 6666 #验证密码,BACKUP密码须相同 } virtual_ipaddress { #KeepAlived虚拟的IP地址 192.168.116.150 } } virtual_server 192.168.116.150 3306 { #配置虚拟服务器IP与访问端口 delay_loop 6 #健康检查时间 lb_algo rr #负载均衡调度算法, rr代表轮询 lb_kind DR #负载均衡转发规则 DR/NAT/ persistence_timeout 0 #会话保持时间,这里要做测试, 所以设为0, 实际可根据session有效时间配置 protocol TCP #转发协议类型,支持TCP和UDP real_server 192.168.116.140 3306 { #配置服务器节点VIP1 notify_down /usr/local/shell/mariadb.sh #当服务挂掉时, 会执行此脚本,结束keepalived进程 weight 1 #设置权重,越大权重越高 TCP_CHECK { #状态监测设置 connect_timeout 10 #超时配置, 单位秒 retry 3 #重试次数 delay_before_retry 3 #重试间隔 connect_port 3306 #连接端口, 和上面保持一致 } } }
创建关闭脚本mariadb.sh
/usr/local/shell/mariadb.sh:pkill keepalived
加入执行权限:chmod a+x mariadb.sh⑤ Server2节点配置global_defs { router_id vip2 # 机器标识,和主机名保持一致,运行keepalived服务器的一个标识 } vrrp_instance VI_1 { #vrrp实例定义 state BACKUP #lvs的状态模式,MASTER代表主, BACKUP代表备份节点 interface ens33 #绑定对外访问的网卡 virtual_router_id 111 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 98 #优先级,100代表最大优先级, 数字越大优先级越高 advert_int 1 #master与backup节点同步检查的时间间隔,单位是秒 authentication { #设置验证信息 auth_type PASS #有PASS和AH两种 auth_pass 6666 #验证密码,BACKUP密码须相同 } virtual_ipaddress { #KeepAlived虚拟的IP地址 192.168.116.150 } } virtual_server 192.168.116.150 3306 { #配置虚拟服务器IP与访问端口 delay_loop 6 #健康检查时间 lb_algo rr #负载均衡调度算法, rr代表轮询, 可以关闭 lb_kind DR #负载均衡转发规则, 可以关闭 persistence_timeout 0 #会话保持时间,这里要做测试, 所以设为0, 实际可根据session有效时间配置 protocol TCP #转发协议类型,支持TCP和UDP real_server 192.168.116.141 3306{ #配置服务器节点VIP2 notify_down /usr/local/shell/mariadb.sh #当服务挂掉时, 会执行此脚本,结束keepalived进程 weight 1 #设置权重,越大权重越高 TCP_CHECK { #r状态监测设置 connect_timeout 10 #超时配置, 单位秒 retry 3 #重试次数 delay_before_retry 3 #重试间隔 connect_port 3306 #连接端口, 和上面保持一致 } } }
和Server1的差异项:router_id vip2 # 机器标识,和主机名保持一致 priority 98 #优先级,100代表最大优先级, 数字越大优先级越高 real_server 10.10.20.126 3306 #配置服务器节点VIP2
注意:两台节点都设为BACKUPvirtual_router_id 111 #同一个vrrp实例采用唯一标示 state BACKUP
如果不想重启后, 争夺备用节点的VIP, 可以设置此项nopreempt #不主动抢占资源
注意:这个配置只能设置在backup主机上,而且这个主机优先级要比另外一台高⑥ 验证高可用
停止主节点MariaDB服务, 验证是否自动切换。4)搭建应用服务工程① ShardingJDBC的介绍
ShardingJDBC是ShardingSphere 下的一个产品, 定位为轻量级 Java 框架,在 Java 的 JDBC 层提供的额外服务。它使用客户端直连数据库,以 jar 包形式提供服务,无需额外部署和依赖,可理解为增强版的 JDBC 驱动,完全兼容 JDBC 和各种 ORM 框架。适用于任何基于 JDBC 的 ORM 框架,如:JPA, Hibernate, Mybatis, Spring JDBC Template 或直接使用 JDBC。支持任何第三方的数据库连接池,如:DBCP, C3P0, BoneCP, Druid, HikariCP 等。支持任意实现 JDBC 规范的数据库,目前支持 MySQL,Oracle,SQLServer,PostgreSQL 以及任何遵循 SQL92 标准的数据库② ShardingJDBC初始化流程
1)配置ShardingRuleConfiguration对象
2)配置表分片规则TableRuleConfiguration对象,设置分库、分表策略
3)通过Factory对象将Rule对象与DataSource对象装配
4)ShardingJDBC使用DataSource对象进行分库
③ ShardingJDBC集成配置maven依赖规则配置application.yml创建DataSource④ 验证应用服务动态扩容配置两个数据源,分别指向Server1和Server2分片只配置一个数据源动态增加另一个数据源// 动态数据源配置实现扩容 Properties properties = loadPropertiesFile("datasource1.properties"); try { log.info("load datasource config url: " + properties.get("url")); DruidDataSource druidDataSource = (DruidDataSource) DruidDataSourceFactory.createDataSource(properties); druidDataSource.setRemoveAbandoned(true); druidDataSource.setRemoveAbandonedTimeout(600); druidDataSource.setLogAbandoned(true); // 设置数据源错误重连时间 druidDataSource.setTimeBetweenConnectErrorMillis(60000); druidDataSource.init(); OrchestrationShardingDataSource dataSource = SpringContextUtil.getBean("tradeSystemDataSource", OrchestrationShardingDataSource.class); Map dataSourceMap = dataSource.getDataSource().getDataSourceMap(); dataSourceMap.put(DatasourceEnum.DATASOURCE_2.getValue(), druidDataSource); Map dataSourceConfigMap = new HashMap(); for(String key : dataSourceMap.keySet()) { dataSourceConfigMap.put(key, DataSourceConfiguration.getDataSourceConfiguration(dataSourceMap.get(key))); } String result = SHARDING_RULE_TABLE_ORDER.replace(SHARDING_RULE_DATASOURCE, newRule); replaceActualDataNodes(result); SHARDING_RULE_DATASOURCE = newRule; dataSource.renew(new DataSourceChangedEvent( "/" + DruidSystemDataSourceConfiguration.DYNAMIC_SHARDING + "/config/schema/logic_db/datasource", dataSourceConfigMap)); return; } catch (Exception e) { log.error(e.getMessage(), e); } ⑤ 注意事项
Sharding JDBC, Mycat, Drds 等产品都是分布式数据库中间件, 相比直接的数据源操作, 会存在一些限制, Sharding JDBC在使用时, 要注意以下问题:有限支持子查询不支持HAVING不支持OR,UNION 和 UNION ALL不支持特殊INSERT每条INSERT语句只能插入一条数据,不支持VALUES后有多行数据的语句不支持DISTINCT聚合不支持dual虚拟表查询不支持SELECT LAST_INSERT_ID(), 不支持自增序列不支持CASE WHEN
2、实现数据库的秒级平滑2N扩容
扩容部署架构:
1)新增数据库VIP① 在Server2节点, 增加VIP
修改/etc/keepalived/keepalived.conf global_defs { router_id vip2 } vrrp_instance VI_1 { #vrrp实例定义 state BACKUP #lvs的状态模式,MASTER代表主, BACKUP代表备份节点 interface ens33 #绑定对外访问的网卡 virtual_router_id 112 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 100 #优先级,100代表最大优先级, 数字越大优先级越高 advert_int 1 #master与backup节点同步检查的时间间隔,单位是秒 authentication { #设置验证信息 auth_type PASS #有PASS和AH两种 auth_pass 6666 #验证密码,BACKUP密码须相同 } virtual_ipaddress { #KeepAlived虚拟的IP地址 192.168.116.151 } } virtual_server 192.168.116.151 3306 { #配置虚拟服务器IP与访问端口 delay_loop 6 #健康检查时间 persistence_timeout 0 #会话保持时间,这里要做测试, 所以设为0, 实际可根据session有效时间配置 protocol TCP #转发协议类型,支持TCP和UDP real_server 192.168.116.141 3306{ #配置服务器节点VIP1 notify_down /usr/local/shell/mariadb.sh weight 1 #设置权重,越大权重越高 TCP_CHECK { #r状态监测设置 connect_timeout 10 #超时配置, 单位秒 retry 3 #重试次数 delay_before_retry 3 #重试间隔 connect_port 3306 #连接端口, 和上面保持一致 } } }
注意配置项:virtual_router_id 112 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 100 #优先级,100代表最大优先级, 数字越大优先级越高 2)应用服务增加动态数据源修改应用服务配置, 增加新的数据源, 指向新设置的VIP:192.168.116.151。通过应用服务接口, 动态扩容调整。3)解除原双主同步
mysql -uroot -p654321① 进入Server1MariaDB [(none)]> stop slave;② 进入Server2MariaDB [(none)]> stop slave;③ 通过应用服务接口验证数据是否解除同步4)安装MariaDB扩容服务器① 新建两台虚拟机, 分别为Server3和Server4② 在Server3和Server4两台节点上安装MariaDB服务
参考上文中MariaDB服务安装。③ 配置Server3与Server1,实现新的双主同步Server3节点, 修改/etc/my.cnf[mysqld] server-id = 3 log-bin=mysql-bin relay-log = mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=information_schema.% log-slave-updates=on slave-skip-errors=all auto-increment-offset=2 auto-increment-increment=2 binlog_format=mixed expire_logs_days=10 重启Server3数据库service mariadb restart创建replica用于主从同步的用户MariaDB [(none)]> grant replication slave, replication client on *.* to "replica"@"%" identified by "replica"; mysql> flush privileges; 在Server1节点,进行数据全量备份mysqldump -uroot -p654321 --routines --single_transaction --master-data=2 --databases smooth > server1.sql查看并记录master status信息... -- -- Position to start replication or point-in-time recovery from -- -- CHANGE MASTER TO MASTER_LOG_FILE="mysql-bin.000002", MASTER_LOG_POS=17748; ... 将备份的server1.sql通过scp命令拷贝至Server3节点scp server1.sql root@192.168.116.142:/usr/local/将数据还原至Server3节点mysql -uroot -p654321 < /usr/local/server1.sql配置主从同步信息
根据上面的master status信息, 在Server3中执行:MariaDB [(none)]> change master to master_host="192.168.116.140",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000016", master_log_pos=1754, master_connect_retry=30; Query OK, 0 rows affected (0.01 sec) 开启主从同步MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec)
如果出现问题, 复原主从同步信息:MariaDB [(none)]> reset slave; Query OK, 0 rows affected (0.01 sec) 检查同步状态信息MariaDB [(none)]> show slave status G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 10.10.20.125 Master_User: replica Master_Port: 3306 Connect_Retry: 30 Master_Log_File: mysql-bin.000004 Read_Master_Log_Pos: 11174 Relay_Log_File: mysql-relay-bin.000002 Relay_Log_Pos: 1746 Relay_Master_Log_File: mysql-bin.000004 Slave_IO_Running: Yes Slave_SQL_Running: Yes 配置Server1与Server3节点的同步
查看Server3的日志信息:MariaDB [(none)]> show master status; +------------------+----------+--------------+------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +------------------+----------+--------------+------------------+ | mysql-bin.000001 | 4781 | | | +------------------+----------+--------------+------------------+
在Server1节点, 配置同步信息:MariaDB [(none)]> reset slave; Query OK, 0 rows affected (0.00 sec) MariaDB [(none)]> change master to master_host="192.168.116.142",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000005", master_log_pos=6931, master_connect_retry=30; MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec) ④ 配置Server4与Server2的双主同步Server4节点, 修改/etc/my.cnf[mysqld] server-id = 4 log-bin=mysql-bin relay-log = mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=information_schema.% log-slave-updates=on slave-skip-errors=all auto-increment-offset=2 auto-increment-increment=2 binlog_format=mixed expire_logs_days=10 重启Server4数据库service mariadb restart创建replica用于主从同步的用户MariaDB [(none)]> grant replication slave, replication client on *.* to "replica"@"%" identified by "replica"; mysql> flush privileges; 在Server2节点,进行数据全量备份mysqldump -uroot -p654321 --routines --single_transaction --master-data=2 --databases smooth > server2.sql查看并记录master status信息... -- -- Position to start replication or point-in-time recovery from -- -- CHANGE MASTER TO MASTER_LOG_FILE="mysql-bin.000003", MASTER_LOG_POS=4208; ... 将备份的server2.sql通过scp命令拷贝至Server4节点scp server2.sql root@192.168.116.143:/usr/local/将数据还原至Server4节点mysql -uroot -p654321 < /usr/local/server2.sql配置主从同步信息
根据上面的master status信息, 在Server4中执行:MariaDB [(none)]> change master to master_host="192.168.116.141",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000007", master_log_pos=3006, master_connect_retry=30; Query OK, 0 rows affected (0.01 sec) 开启主从同步MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec)
注意, 如果出现问题, 复原主从同步信息:MariaDB [(none)]> reset slave; Query OK, 0 rows affected (0.01 sec) 检查同步状态信息MariaDB [(none)]> show slave status G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 10.10.20.125 Master_User: replica Master_Port: 3306 Connect_Retry: 30 Master_Log_File: mysql-bin.000004 Read_Master_Log_Pos: 11174 Relay_Log_File: mysql-relay-bin.000002 Relay_Log_Pos: 1746 Relay_Master_Log_File: mysql-bin.000004 Slave_IO_Running: Yes Slave_SQL_Running: Yes 配置Server2与Server4节点的同步
查看Server4的日志信息:MariaDB [(none)]> show master status; +------------------+----------+--------------+------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +------------------+----------+--------------+------------------+ | mysql-bin.000001 | 3696 | | | +------------------+----------+--------------+------------------+
在Server2节点, 配置同步信息:MariaDB [(none)]> reset slave; Query OK, 0 rows affected (0.00 sec) MariaDB [(none)]> change master to master_host="192.168.116.143",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000005", master_log_pos=5787, master_connect_retry=30; MariaDB [(none)]> start slave; Query OK, 0 rows affected (0.00 sec) 5)增加KeepAlived服务实现高可用确保新增的Server3和Server4节点安装Keepalived服务。修改Server3节点配置global_defs { router_id vip3 # 机器标识,一般设为hostname,故障发生时,邮件通知会使用到。 } vrrp_instance VI_1 { #vrrp实例定义 state BACKUP #lvs的状态模式,MASTER代表主, BACKUP代表备份节点 interface ens33 #绑定对外访问的网卡 virtual_router_id 111 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 98 #优先级,100代表最大优先级, 数字越大优先级越高 advert_int 1 #master与backup节点同步检查的时间间隔,单位是秒 authentication { #设置验证信息 auth_type PASS #有PASS和AH两种 auth_pass 6666 #验证密码,BACKUP密码须相同 } virtual_ipaddress { #KeepAlived虚拟的IP地址 192.168.116.150 } } virtual_server 192.168.116.150 3306 { #配置虚拟服务器IP与访问端口 delay_loop 6 #健康检查时间 persistence_timeout 0 #会话保持时间,这里要做测试, 所以设为0, 实际可根据session有效时间配置 protocol TCP #转发协议类型,支持TCP和UDP real_server 192.168.116.142 3306{ #配置服务器节点VIP3 notify_down /usr/local/shell/mariadb.sh weight 1 #设置权重,越大权重越高 TCP_CHECK { #r状态监测设置 connect_timeout 10 #超时配置, 单位秒 retry 3 #重试次数 delay_before_retry 3 #重试间隔 connect_port 3306 #连接端口, 和上面保持一致 } } }
注意里面IP配置正确, 修改完成后重启服务。
创建关闭脚本mariadb.sh
/usr/local/shell/mariadb.sh:pkill keepalived
加入执行权限:chmod a+x mariadb.sh修改Server4节点配置global_defs { router_id vip4 # 机器标识,一般设为hostname,故障发生时,邮件通知会使用到。 } vrrp_instance VI_1 { #vrrp实例定义 state BACKUP #lvs的状态模式,MASTER代表主, BACKUP代表备份节点 interface ens33 #绑定对外访问的网卡 virtual_router_id 112 #虚拟路由标示,同一个vrrp实例采用唯一标示 priority 98 #优先级,100代表最大优先级, 数字越大优先级越高 advert_int 1 #master与backup节点同步检查的时间间隔,单位是秒 authentication { #设置验证信息 auth_type PASS #有PASS和AH两种 auth_pass 6666 #验证密码,BACKUP密码须相同 } virtual_ipaddress { #KeepAlived虚拟的IP地址 192.168.116.151 } } virtual_server 192.168.116.151 3306 { #配置虚拟服务器IP与访问端口 delay_loop 6 #健康检查时间 persistence_timeout 0 #会话保持时间,这里要做测试, 所以设为0, 实际可根据session有效时间配置 protocol TCP #转发协议类型,支持TCP和UDP real_server 192.168.116.143 3306{ #配置服务器节点VIP4 notify_down /usr/local/shell/mariadb.sh weight 1 #设置权重,越大权重越高 TCP_CHECK { #r状态监测设置 connect_timeout 10 #超时配置, 单位秒 retry 3 #重试次数 delay_before_retry 3 #重试间隔 connect_port 3306 #连接端口, 和上面保持一致 } } }
创建关闭脚本mariadb.sh
/usr/local/shell/mariadb.sh:pkill keepalived
给所有的用户组加入执行权限:chmod a+x mariadb.sh修改完后重启Keepalived服务6)清理数据并验证通过应用服务动态扩容接口做调整和验证在Server1节点清理数据
根据取模规则, 保留accountNo为偶数的数据delete from t_trade_order where accountNo % 2 != 0在Server2节点清理数据
根据取模规则, 保留accountNo为奇数的数据delete from t_trade_order where accountNo % 2 != 1
三、keepalived高可用配置大全
在Server1(192.168.116.140)中执行: MariaDB [(none)]> change master to master_host="192.168.116.141",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000005", master_log_pos=3207, master_connect_retry=30;
在Server2(192.168.116.141)中执行:MariaDB [(none)]> change master to master_host="192.168.116.140",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000012", master_log_pos=1951, master_connect_retry=30;
在Server3(192.168.116.142)中执行:MariaDB [(none)]> change master to master_host="192.168.116.140",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000013", master_log_pos=2781, master_connect_retry=30; Query OK, 0 rows affected (0.01 sec)
在Server4(192.168.116.143)中执行:MariaDB [(none)]> change master to master_host="192.168.116.141",master_user="replica", master_password="replica", master_port=3306, master_log_file="mysql-bin.000005", master_log_pos=7358, master_connect_retry=30; Query OK, 0 rows affected (0.01 sec)
1、Server1和Server2双主关系 1)Server1: keepalived.conf
vi /etc/keepalived/keepalived.conf global_defs { router_id vip1 } vrrp_instance VI_1 { state BACKUP interface ens33 virtual_router_id 111 priority 100 advert_int 1 authentication { auth_type PASS auth_pass 6666 } virtual_ipaddress { 192.168.116.150 } } virtual_server 192.168.116.150 3306 { delay_loop 6 lb_algo rr lb_kind DR // NAT|DR|TUN persistence_timeout 0 protocol TCP real_server 192.168.116.140 3306 { notify_down /usr/local/shell/mariadb.sh weight 1 TCP_CHECK { connect_timeout 10 retry 3 delay_before_retry 3 connect_port 3306 } } } 2)Server2:keepalived.conf
vi /etc/keepalived/keepalived.confglobal_defs { router_id vip2 } vrrp_instance VI_1 { state BACKUP interface ens33 virtual_router_id 111 priority 98 advert_int 1 authentication { auth_type PASS auth_pass 6666 } virtual_ipaddress { 192.168.116.150 } } virtual_server 192.168.116.150 3306 { delay_loop 6 lb_algo rr lb_kind DR persistence_timeout 0 protocol TCP real_server 192.168.116.141 3306{ notify_down /usr/local/shell/mariadb.sh weight 1 TCP_CHECK { connect_timeout 10 retry 3 delay_before_retry 3 connect_port 3306 } } }
2、新增数据库VIP1)Server2:keepalived.conf
vi /etc/keepalived/keepalived.confglobal_defs { router_id vip2 } vrrp_instance VI_1 { state BACKUP interface ens33 virtual_router_id 112 priority 100 advert_int 1 authentication { auth_type PASS auth_pass 6666 } virtual_ipaddress { 192.168.116.151 } } virtual_server 192.168.116.151 3306 { delay_loop 6 persistence_timeout 0 protocol TCP real_server 192.168.116.141 3306{ notify_down /usr/local/shell/mariadb.sh weight 1 TCP_CHECK { connect_timeout 10 retry 3 delay_before_retry 3 connect_port 3306 } } }
3、Server1和Server3双主关系 1)Server3: keepalived.conf
vi /etc/keepalived/keepalived.conf global_defs { router_id vip3 } vrrp_instance VI_1 { state BACKUP interface ens33 virtual_router_id 111 priority 98 advert_int 1 authentication { auth_type PASS auth_pass 6666 } virtual_ipaddress { 192.168.116.150 } } virtual_server 192.168.116.150 3306 { delay_loop 6 lb_algo rr lb_kind DR persistence_timeout 0 protocol TCP real_server 192.168.116.142 3306 { notify_down /usr/local/shell/mariadb.sh weight 1 TCP_CHECK { connect_timeout 10 retry 3 delay_before_retry 3 connect_port 3306 } } }
4、Server2和Server4双主关系 1)Server4: keepalived.conf
vi /etc/keepalived/keepalived.conf global_defs { router_id vip4 } vrrp_instance VI_1 { state BACKUP interface ens33 virtual_router_id 112 priority 98 advert_int 1 authentication { auth_type PASS auth_pass 6666 } virtual_ipaddress { 192.168.116.151 } } virtual_server 192.168.116.151 3306 { delay_loop 6 lb_algo rr lb_kind DR persistence_timeout 0 protocol TCP real_server 192.168.116.143 3306{ notify_down /usr/local/shell/mariadb.sh weight 1 TCP_CHECK { connect_timeout 10 retry 3 delay_before_retry 3 connect_port 3306 } } }
珠海那么发达,年年航展为什么就不能选在经济落后的广西北海呢?珠海人为航展坚持了七八届十几年,付出了无数努力和投入,并且具备了地利人和等多种因素,好不容易走到今天,都来抢胜利果实,这叫啥事。上海,天津都争过,最后还是珠海人的毅力和韧性,才获得
既然高铁这么发达了,为什么还要保留普通火车呢?问这个问题就如同问既然私家车出租车和网约车这么多,地铁这么发达,为什么还要保留公交车?高铁不可能全面覆盖,因为高铁的建设成本比普通铁路要高,而且高铁只能跑客运,即使搞货运动车也只能
甘肃的孩子上大学走出去之后,毕业后会选择回家乡工作吗?首先谢邀,本人独生子女,甘肃金昌,满怀希望西安四年毕业,回家出路只有父亲公司招工,考公务员终无结果,自谋出路十年,有幸遇妻子深圳领证结婚,首付房款,以为从此生活改变,父亲大病卖房回
初二学生,成绩不太好,现在开始努力学,还能不能赶上考上高中呢?初二学生,成绩不太好,现在开始努力,完全可以赶上并考上高中,甚至是重点高中。给你讲个我身边的真人真事!读初一的时候,我们班有个男生一直不怎么学习,成绩自然班里倒数。听其他同学说,他
陕西科技大学怎么样?陕西科技大学应该说是一本里头比较垫底的大学,王牌专业是皮革鞣质,还有一些其他专业也不错,具体不太清楚好像有包装工程(今年还要扩招),如果分数刚过一本线(陕西考生)可以报此学校,陕西
国企和私企的差别在哪?我本人在国企工作时间不长,但是我表弟在一个县城国企工作,具体叫什么我就不方便透露了(你们懂得),我们经常在一起聊天,我就来说一说在我眼中国企与私企的差别。1午休国企中午1200休息
当了领导就可以对年龄大的下属直呼其名吗?这符合传统礼仪吗?领导直呼年龄大下属的名字,在国外是很正常的,而且很多外国公司,不允许称呼职务,一律互相称呼名字。当然,这是人家的文化决定的。在中国,如果一个年轻领导直接称呼比自己年长下属的名字,就
在211和985大学当学渣是一种怎样的体验?网友一在高中非常轻松,每次考试都没多少人会在你前面。到了大学,每次考试,都是那几个比你更渣的在你后面,大部分人都在你前面。有次英语考试,你考了78分,感觉也马马虎虎了,尼玛这是倒数
美术生应该考综合性大学还是美院?美术生考综合性大学还是美术学院?这要具体根据你的兴趣爱好还有绘画功底和将来的职业规划而定,你具体要考的什么类型的美术院校。首先万老师讲讲你要考美术综合性大学要具备的一些条件。重点(
山东泰安的房价会不会跌回2015年的水平?的确,现在泰安房价相对于去年乃至前年火爆的时候,确实有点下降了,但动辄70100来万的普通户型房子来说,买不起的群众,降这一星半点,还是买不起的,没办法,形势所迫!买房子,我有个忠
陕西有很多985211高校,教育跟江浙山东比怎么样?刚才某些人是吧山东去了,我不想说对错,只能证明某些人思维有问题,你有那么多985。211这有能证明什么,这什么也不能证明,记住一句话,本是同根生相煎何太急,不说山东和陕西的教育质量
欧美风情美女写真大片合集(十四)人是从挫折当中去奋进,从怀念中向往未来,从疾病当中恢复健康,从无知当中变得文明,从极度苦恼当中勇敢救赎,不停的自我救赎,并尽可能的帮助他人。人之优势所在,是必须充满精力自我悔改自我
真正入了境界的人,做什么事都顺风顺水头条创作挑战赛上了境界,进入状态,是一种什么感受?是一点通,则全通一事顺,则百事顺。就像站桩一样,我们经常说含胸拔背沉肩坠肘虚灵顶劲几个要领,并不是一个一个地去比对,当你真正找到感
我从来不想独身却又预感晚婚我在等世上唯一契合的灵魂我从来不想独身却又预感晚婚我在等世上唯一契合的灵魂晚婚李宗盛有人说,每听一次李宗盛,就像是在温习一次人生。10几岁的时候,最怕人生匆匆。总有那么一首歌,唱的是你说了再见再也不见。2
江苏省高级人民法院发布第五批弘扬中华优秀传统文化典型案例据了解,江苏省高级人民法院(以下简称省高院)等政法部门坚持以习近平新时代中国特色社会主义思想为指导,深入学习贯彻习近平法治思想,通过定期编发弘扬中华优秀传统文化典型案例,在法治轨道
散文独枕岁月寒,细数流年雪作者子墨总觉得,冬天就是一个童话,在回忆中,从童年的时光里慢慢走出来。每当下雪的时候,总是让自己安静下来,走入一个童话,寒风凛冽,而我们穿着厚厚的棉衣,不觉得寒冷,更多的是乐趣。雪
人生是自己的,没人替你承担后果人生是自己的,做了任何选择,都要学会承担责任。一味地把责任推卸给别人,只会让自己走弯路,结果一步错步步错。与其怪罪别人,不如学会检讨自己,为自己的行为负责,做一个成熟的人。一时的犯
评论丨秦立彦丰富的怜悯评清茨的散文集何曾东风旧丰富的怜悯评清茨的散文集何曾东风旧文秦立彦清茨的散文集何曾东风旧,其总体格调是平和恬淡的。也因此,更引起我注意的是她文字的包容性和丰富性。在云淡风轻之外,她能够书写痛楚,也能令读者
60岁之后才会明白,其实人生本就是一场梦前言60岁之后你会明白很多事情,其实在这个世界上有些事情真的不是那么简单,大多数时候你看起来没问题,到你去做的的时候才会有很大的问题,有时候你辛辛苦苦做的事情,到头来就是一场空,什
人生在世,为人处事苦口良药!(原创)(此文共5000余字,友若不感兴趣,望笑笑而过谢谢!)一人生在世有老中青少,官商工农兵,富贵贫穷贱,三六九等人,人人都逃脱不了生老病死,好汉不提当年勇,人老珠黄皆无用。三月阴沉四月
如果胡锡进这个六旬老人感染了都无大碍,北京就应该考虑放开今天看到胡锡进发表的一段视频,说自己已经做好准备在一个月内被感染,用自己的身体对抗奥密克戎,这是何等豪迈的情怀啊!老胡已经62岁了,退休在家,坚持锻炼,身体倍棒,他从一个老记者的角
震撼心灵的人生格言,句句经典,发人深省1。喷泉之所以漂亮是因为它有了压力瀑布之所以壮观是因为它没有了退路水之所以能穿石是因为永远在坚持。人生亦是如此。2。一个人的豁达,体现在落魄的时候。一个人的涵养,体现在愤怒的时候。