MySQL 高可用架构

MySQL 是实际生产中最常用的数据库，生产环境数据量极为庞大，对性能和安全要求很高，单机的 MySQL 是远远达不到的，所以必须搭建一个主从复制架构，同时可以基于一些工具实现高可用架构，在此基础上，基于一些中间件实现读写分离架构，如果数据量非常庞大，还要考虑分库分表。

本文不讲解 MySQL 数据库的安装，和高可用架构搭建的具体细节，只为探索生产环境常用的高可用方案，和各个方案的优劣。

主从集群

主从集群可以缓解 MySQL 的数据存储以及访问的压力，具备一下几个优点

1. 数据安全

为了给主服务增加一个数据备份，可以搭建主从架构，基于此架构也可以搭建互主架构

2. 读写分离

对于大部分系统来说，都是读多写少的，当主库的访问压力较大时，可以将数据的读请求交给从库承担，主库只负责数据的写入。 可以大大缓解主库的压力。

【注意】
MySQL 的主从架构只是实现读写分离的基础。要实现读写分离还需要一些中间件来实现，如 ShardingSphere

3. 故障转移-高可用

当 MySQL 主服务宕机后，可以由一台从服务切换成主服务。

对于高可用架构，主从架构也只是实现故障转移的基础，要实现自动主从切换，还需要一些其他中间件实现，如： MMM, MHA， MGR

【重要】

在一般项目中，如果数据库的访问压力没有那么大，不一定必须要做读写分离，但是主从架构，高可用架构是一定要搭建的

主从同步的原理

MySQL 主从同步架构一般是通过 binlog 日志文件来进行的。
简要步骤如下：

  1. 在主服务上打开 binlog 记录每一步的数据操作。
  2. 从服务会有一个 IO 线程，负责和主服务建立 TCP 连接，请求主服务将 binlog 日志传送过来
  3. 这时主库上会有一个 IO dump 线程，负责通过这个 TCP 连接把 binlog 日志传输给从库
  4. 从服务的 IO 线程会把接收到的 binlog 日志数据写入自己的 relay 日志文件中，进行操作重演。达到还原数据的目的

MySQL 的 binlog 日志不仅仅可以用于主从同步，还可以用于缓存数据同步的场景，如 Canal, 它可以模拟一个 slave 节点，向 MySQL 发起 binlog 同步，然后将数据落地到 redis，等其它组件中，实现数据的实时流转

【注意】
搭建主从同步有两个必要的要求：

  1. 双方的 MySQL 版本必须一致。 至少要求主服务版本低于从服务
  2. 两节点的时间需要同步

搭建主从集群

1. 配置 master 主服务器

修改 /etc/my.cnf, 主要是有两点

  • 打开 binlog 日志
  • 指定 serverId

示例配置如下：

[mysqld]
server-id=47
#开启 binlog
log_bin=master-bin
log_bin-index=master-bin.index
skip-name-resolve
# 设置连接端口
port=3306
# 设置 mysql 的安装目录
basedir=/usr/local/mysql
# 设置 mysql 数据库的数据的存放目录
datadir=/usr/local/mysql/mysql-files
# 允许最大连接数
max_connections=200
# 允许连接失败的次数。
max_connect_errors=10
# 服务端使用的字符集默认为 UTF8
character-set-server=utf8
# 创建新表时将使用的默认存储引擎
default-storage-engine=INNODB
# 默认使用“mysql_native_password”插件认证
#mysql_native_password
default_authentication_plugin=mysql_native_password

配置说明：

  • server-id：服务节点的唯一标识。需要给集群中的每个服务分配一个单独的 ID。
  • log_bin：打开 Binlog 日志记录，并指定文件名。
  • log_bin-index：Binlog 日志文件

2. 重启服务

service mysqld restart

3. 分配 replication slave 权限

#登录主数据库
mysql -u root -p
# 分配权限
GRANT REPLICATION SLAVE ON *.* TO 'root'@'%';
flush privileges;
#查看主节点同步状态：
show master status;

这个权限赋予从服务器与主服务器建立复制连接和接收主服务器上的数据更新的能力。具有"REPLICATION SLAVE"权限的从服务器可以连接到主服务器，并从主服务器接收数据更改事件（如插入、更新和删除操作）。这使得从服务器能够保持与主服务器上数据的实时同步。

**注意：**在实际生产中，一般不会直接使用 root 用户，而是会创建一个拥有全部权限的用户来负责主从同步

这个指令结果中的

  • File 是当前日志的 binlog 文件
  • Position 是文件中的索引
  • Binlog_DO_DB 标识 binlog 要记录的库，也就特殊指定哪些库中的更改需要在 binlog 中记录下来
  • Binglog_Ignore_DB 表示不要把某个库的更改记录到 binlog 文件中。主从同步时，自然也不会同步这个库

开启 binlog 后，数据库中的所有操作都会被记录到 datadir 当中，以一组 轮询文件的方式循环记录。而指令查到的 File 和 Position 就是当前日志的 文件和位置。而在后面配置从服务时，就需要通过这个 File 和 Position 通知从服务从哪个地方开始记录 binLog。

4. 配置从服务

也是有几个关键的配置：

  • server-id: 服务节点的唯一标识
  • relay-log： 打开从服务的 bin-log 日志记录
  • log-bin: 打开从服务的 binlog 日志记录

示例配置如下：

[mysqld]
#主库和从库需要不一致
server-id=48
#打开 MySQL 中继日志
relay-log-index=slave-relay-bin.index
relay-log=slave-relay-bin
#打开从服务二进制日志
log-bin=mysql-bin
#使得更新的数据写进二进制日志中
log-slave-updates=1
# 设置 3306 端口
port=3306
# 设置 mysql 的安装目录
basedir=/usr/local/mysql
# 设置 mysql 数据库的数据的存放目录
datadir=/usr/local/mysql/mysql-files
# 允许最大连接数
max_connections=200
# 允许连接失败的次数。
max_connect_errors=10
# 服务端使用的字符集默认为 UTF8
character-set-server=utf8
# 创建新表时将使用的默认存储引擎
default-storage-engine=INNODB
# 默认使用“mysql_native_password”插件认证
#mysql_native_password
default_authentication_plugin=mysql_native_password

5. 重启从服务，设置与主节点的同步状态

#登录从服务
mysql -u root -p;
#设置同步主节点：
CHANGE MASTER TO
MASTER_HOST='192.168.232.128',
MASTER_PORT=3306,
MASTER_USER='root',
MASTER_PASSWORD='root',
MASTER_LOG_FILE='master-bin.000004',
MASTER_LOG_POS=156
GET_MASTER_PUBLIC_KEY=1;
#开启 slave
start slave;
#查看主从同步状态
show slave status;
# 或者用 show slave status \G; 这样查看比较简洁

注意： ，CHANGE MASTER 指令中需要指定的 MASTER_LOG_FILE 和 MASTER_LOG_POS 必须与主服务中查到的保持一致。并且后续如果要检查主从架构是否成功，也可以通过检查主服务与从服务之间的 File 和 Position 这两个属性是否一致来确定。

重点关注其中红色方框的两个属性，与主节点保持一致，就表示这个主从同步搭建是成功的。

从这个指令的结果能够看到，有很多 Replicate_开头的属性，这些属性指定了两个服务之间要同步哪些数据库、哪些表的配置。只是在我们这个示例中全都没有进行配置，就标识是全库进行同步。后面补充如何配置需要同步的库和表。

6. 主从集群测试

  1. 在主新建表，在从查看是否存在
  2. 在主新增表，在从查看是否存在
  3. 在主新增数据，在从查看是否存在

7. 主从同步失败的检查与恢复

主从同步是有可能失败的，可以在从上执行命令： show slave status \G, 如果发现 Slave_SQL_Running=no 就表示同步失败了，这有可能是

  • 在从库上进行了写操作，与不同过来的 SQL 冲突了，
  • 也可能是从服务重启后，有事务回滚了。

如果是因为从服务事务回滚的原因，可以按照一下方式重启同步：

mysql> stop slave ;
mysql> set GLOBAL SQL_SLAVE_SKIP_COUNTER=1;
mysql> start slave ;

另一种解决方法： 重新记录主节点的 binlog 文件消息

mysql> stop slave ;
mysql> change master to .... # 省略，与前面开启同步方法一样
mysql> start slave ;

这种方案需要注意 binlog 文件和位置， 如果修改后和之前同步的接不上，就会丢失部分数据，不太常用

集群搭建扩展

1. 全库同步与部分同步

目前配置的主从同步是针对全库配置的，而实际环境中，一般是不需要进行全量同步的，只需要对一些特别重要的库进行同步。请看如下配置：

先在主库中，指定需要同步的库或表

#需要同步的数据库名
binlog-do-db=masterdemo
#只保留 7 天的二进制日志，以防磁盘被日志占满（可选）
expire-logs-days = 7
#不备份的数据库
binlog-ignore-db=information_schema
binlog-ignore-db=performation_schema
binlog-ignore-db=sys

然后在从库中配置与主库的对应关系：

#如果 salve 库名称与 master 库名相同，使用本配置
replicate-do-db = masterdemo
#如果 master 库名 [mastdemo] 与 salve 库名 [mastdemo01] 不同，使用以下配置 [需要做映射]
replicate-rewrite-db = masterdemo -> masterdemo01
#如果不是要全部同步 [默认全部同步]，则指定需要同步的表
replicate-wild-do-table=masterdemo01.t_dict
replicate-wild-do-table=masterdemo01.t_num

分别重启数据库后，在主库中执行 show master status 就可以看到 Binlog_Do_DB 和 Binlog_Ignore_DB 参数的作用了

2. 限制从库写数据

目前的架构数据的同步是单向的，只能主库到从库进行同步，反之不行。为了保证数据的一致性，不可以在从库上进行写操作。可以通过set global read_only=1; 指令限制用户写入数据，但是这个指令有两个需要注意的地方：

  • read_only=1 设置的只读模式，不会影响从库的同步复制功能
  • 只能限定普通用户修改数据，不会限制具有 super 权限的用户
  • 如果想限制 super 用户，可以设置 super_read_only=0,

如果为了分担主库的压力，可以在主库上只进行写数据，从库只读数据，这就是读写分离 【注意】 mysql 主从本身是无法提供读写分离服务的。需要有业务自己来实现，也就是下文提到的 ShardingSphere 的一个重要功能

3. 其他集群方式

一主多从

当业务中使用了读写分离后，为了进一步提高整个集群的读能力，可以扩展出一主多从，同步为了避免发生主从复制风暴，减轻主节点同步数据的压力，可以扩展出多级的主从集群

多主

为了提高整个集群的高可用能力，可以扩展出

  • 多主的集群
  • 互为主从集群
  • 环形主从集群

互为主从集群搭建方式和主从一样，只是在主服务打开一个slave进程，并指向从节点的binlog当前文件地址和位置。也就在从节点做的配置，在主节点做一遍。

GTID 同步集群

上面是基于Binlog日志记录点来搭建的集群，这也是最为传统的MySQL集群搭建方式，这种方式会因为日志偏移量的问题造成数据的不一致。在MySQL5.6版本，引入了 GTID 集群方式

GTID的本质也是基于Binlog来实现的主从同步，只是他会基于一个全局的事务ID来表示同步事务，GTID即全局事务ID，全局唯一，并且递增，可以保证每一个主节点提交的事务在集群中生成一个唯一的事务ID

在基于GTID集群中， 从服务器会告诉主服务器它已经执行了哪些事务，然后主库会把从库没有执行的事务发送到从库执行。并且保证同一个事务只指定的从库上执行一次，可以避免由于偏移量问题造成的数据不一致。

搭建方式

和上面的主从架构差不多，示例配置如下：
主节点

gtid_mode=on
enforce_gtid_consistency=on
log_bin=on
server_id={唯一值}
binlog_format=row

从节点

gtid_mode=on
enforce_gtid_consistency=on
log_slave_updates=1
server_id=单独设置一个

然后分别重启主从服务，就可以开启GTID同步复制

集群扩容

未完待续…

联系方式：dccmmtop@foxmail.com

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/221515.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

基于Java SSM框架+Vue实现药品保健品购物网站项目【项目源码+论文说明】计算机毕业设计

基于Java SSM框架+Vue实现药品保健品购物网站项目【项目源码+论文说明】计算机毕业设计

基于java的SSM框架Vue实现药品保健品购物网站演示 摘要 随着社会的发展，社会的各行各业都在利用信息化时代的优势。计算机的优势和普及使得各种信息系统的开发成为必需。 ssm药源购物网站，主要的模块包括两个用户，管理员权限：用…
阅读更多...
Re55：读论文 Entities as Experts: Sparse Memory Access with Entity Supervision

Re55：读论文 Entities as Experts: Sparse Memory Access with Entity Supervision

诸神缄默不语-个人CSDN博文目录 诸神缄默不语的论文阅读笔记和分类 论文名称：Entities as Experts: Sparse Memory Access with Entity Supervision 模型名称：Entities as Experts (EaE) ArXiv网址：https://arxiv.org/abs/2004.07202 本文…
阅读更多...
leetcode：有效的括号

leetcode：有效的括号

题目描述 题目链接：20. 有效的括号 - 力扣（LeetCode） 题目分析 题目给了我们三种括号：（）、{ }、[ ] 这里的匹配包括：顺序匹配和数量匹配 最优的思路就是用栈来解决： 括号依次入栈…
阅读更多...
2 时间序列预测入门：GRU

2 时间序列预测入门：GRU

0 论文地址 GRU 原论文：https://arxiv.org/pdf/1406.1078v3.pdf GRU（Gate Recurrent Unit）是循环神经网络（RNN）的一种，可以解决RNN中不能长期记忆和反向传播中的梯度等问题，与LSTM的作用类似&a…
阅读更多...
（附源码）springboot电影售票系统小程序 计算机毕设36991

（附源码）springboot电影售票系统小程序 计算机毕设36991

目 录 摘要 1 绪论 1.1课题目的与意义 1.2研究背景 1.3论文结构与章节安排 1.4小程序框架以及目录结构介绍 2 springboot电影售票系统小程序系统分析 2.1 可行性分析 2.1.1 技术可行性分析 2.1.2 经济可行性分析 2.1.3 操作可行性分析 2.2 系统流程分析 2.2.1 数据…
阅读更多...
QT基础开发笔记

QT基础开发笔记

用VS 写QT ，设置exe图标的方法： 选定工程--》右键--》添加---》资源--》 QString 字符串用法总结说明 Qt QString 增、删、改、查、格式化等常用方法总结_qstring 格式化-CSDN博客 总结来说： QString 的 remove有两种用法，&am…
阅读更多...
【GD32307E-START】开发板开箱、开发环境建立及工程模板测试

【GD32307E-START】开发板开箱、开发环境建立及工程模板测试

01-GD32F307E-START开箱、开发环境建立及工程模板测试（Keil-MDK GCC Template） 兆易GD32307E-START开发板搭载GD32 ARM Cortex-M4微控制器主流芯片GD32F307。 开箱 板子的做工还是非常精良小巧的。有两颗按键，一颗是复位，一颗是…
阅读更多...
C#、.net、asp.net 超快超简单（一看就会）将redis添加到自己的项目中

C#、.net、asp.net 超快超简单（一看就会）将redis添加到自己的项目中

背景：凌晨两点，隔壁楼情侣闹得欢，本单身狗不服气，决定总结一下今晚添加到项目的redis。 我的使用场景：asp.net core web apivue3的项目中数据库的权限表是最经常读取的，所以权限表中的数据放到redis中最为…
阅读更多...
【Spring Boot】如何集成Swagger

【Spring Boot】如何集成Swagger

Swagger简单介绍 Swagger是一个规范和完整的框架，用于生成、描述、调用和可视化RESTful风格的Web服务。功能主要包含以下几点： 可以使前后端分离开发更加方便，有利于团队协作接口文档可以在线自动生成，有利于降低后端开发人员编写…
阅读更多...
图解系列--Http

图解系列--Http

1.URI和URL 1.1.URL URL是统一资源定位符。URL正是使用 Web 浏览器等访问 Web 页面时需要输入的网页地址。比如，http://hackr.jp/就是 URL。 1.2.URI 统一资源标识符。 URI 用字符串标识某一互联网资源，而URL表示资源的地点（互联网上所处的位…
阅读更多...
window环境搭建StarRocksFE节点

window环境搭建StarRocksFE节点

StarRocks部署–源码编译 前言 ​ 注意:本文借用了一些其他文章的一些截图，同时自己做了具体的编译步骤，添加了一些新的内容 ​ 目标： 编译StarRocks2.5.13版本FE节点代码，在本地window环境运行，可以访问到8030界面…
阅读更多...
laravel8中常用路由使用（笔记四）

laravel8中常用路由使用（笔记四）

目录 1、框架路由目录统一放该目录 2、基本路由,路由都调用Route方法 3、控制器使用路由 4、路由参数 5、路由组 6、命名路由 7、命令查看当前路由列表 8、路由缓存 在Laravel 8中，路由定义了应用程序中接受请求的方式。它们定义了URL和相应的控制器方法之间的…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023