欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

MySQL全局锁和表锁的深入理解

程序员文章站 2022-07-22 18:38:36
前言 根据加锁的范围,mysql 里面的锁大致可以分成全局锁,表级锁,行锁。 行锁已经在前面几篇文章说过 1. 全局锁 全局锁就是对整个数据库实例加锁。mysq...

前言

根据加锁的范围,mysql 里面的锁大致可以分成全局锁,表级锁,行锁。

行锁已经在前面几篇文章说过

1. 全局锁

全局锁就是对整个数据库实例加锁。mysql 提供了一个加全局读锁的方法,命令是flush tables with read lock (ftwrl)

当你需要让整个库处于只读状态的时候,可以使用这个命令,之后其他线程的以下语句会被阻塞:数据更新语句(数据的增删改)、数据定义语句(包括建表、修改表结构等)和更新类事务的提交语句。

1.1 全局锁使用场景

全局锁的典型使用场景是,做全库逻辑备份(mysqldump)。重新做主从时候

也就是把整库每个表都 select 出来存成文本。

以前有一种做法,是通过 ftwrl 确保不会有其他线程对数据库做更新,然后对整个库做备份。注意,在备份过程中整个库完全处于只读状态。

数据库只读状态的危险性:

如果你在主库上备份,那么在备份期间都不能执行更新,业务基本上就能停止。如果你在从库上备份,那么备份期间从库不能执行主库同步过来的binlog,会导致主从延迟。

注:上面逻辑备份,是不加--single-transaction参数

看来加全局锁不太好。但是细想一下,备份为什么要加锁呢?来看一下不加锁会有什么问题?

1.2 不加锁产生的问题

比如手机卡,购买套餐信息

这里分为两张表 u_acount (用于余额表),u_pricing (资费套餐表)
步骤:
1 . u_account 表中数据 用户a 余额:300
u_pricing 表中数据 用户a 套餐:空

2. 发起备份,备份过程中先备份u_account表,备份完了这个表,这个时候u_account 用户余额是300
3. 这个时候套用户购买了一个资费套餐100,餐购买完成,写入到u_print套餐表购买成功,备份期间的数据。
4. 备份完成

可以看到备份的结果是,u_account 表中的数据没有变, u_pricing 表中的数据 已近购买了资费套餐100.

哪这时候用这个备份文件来恢复数据的话,用户a 赚了100 ,用户是不是很舒服啊。但是你的想想公司利益啊。  

也就是说,不加锁的话,备份系统备份的得到的库不是一个逻辑时间点,这个数据是逻辑不一致的。

1.3 为什么需要全局读锁(ftwrl)

可能有的人在疑惑,官方自带的逻辑备份工具是 mysqldump。当 mysqldump 使用参数--single-transaction的时候,导数据之前就会启动一个事务,来确保拿到一致性快照视图。而由于 mvcc 的支持,这个过程中数据是可以正常更新的。

为什么还需要 ftwrl 呢?
一致性读是好,但前提是引擎要支持这个隔离级别。比如,对于 myisam 这种不支持事务的引擎,如果备份过程中有更新,总是只能取到最新的数据,那么就破坏了备份的一致性。这时,我们就需要使用ftwrl 命令了。

所以,single-transaction 方法只适用于所有的表使用事务引擎的库。如果有的表使用了不支持事务的引擎,那么备份就只能通过 ftwrl 方法。这往往是 dba 要求业务开发人员使用 innodb 替代 myisam 的原因之一。

1.4 全局锁两种方法

一.flush tables write read lock

二.set global readonly=true

既然要全库只读,为什么不使用 set global readonly=true 的方式呢?确实 readonly 方式也可以让全库进入只读状态,但我还是会建议你用 ftwrl 方式,主要有几个原因:

一是,在有些系统中,readonly 的值会被用来做其他逻辑,比如用来判断一个库是主库还是备库。因此,修改 global 变量的方式影响面更大,我不建议你使用。

二是,在异常处理机制上有差异。如果执行ftwrl 命令之后由于客户端发生异常断开,那么 mysql 会自动释放这个全局锁,整个库回到可以正常更新的状态。而将整个库设置为 readonly 之后,如果客户端发生异常,则数据库就会一直保持 readonly 状态,这样会导致整个库长时间处于不可写状态,风险较高。

三是,readonly 对super用户权限无效

注 :业务的更新不只是增删改数据(dml),还有可能是加字段等修改表结构的操作(ddl)。不论是哪种方法,一个库被全局锁上以后,你要对里面任何一个表做加字段操作,都是会被锁住的。

即使没有被全局锁住,加字段也不是就能一帆风顺的,还有表级锁了

2. 表级锁

mysql 里面表级别的锁有两种:一种是表锁,一种是元数据锁(meta data lock,mdl)。

2.1 表锁

lock tables 表名 read;#该表可以读,不能ddl 和 dml 中增删改,只能读取表数据

lock tables 表名 read;# 既不能读,也不能写

MySQL全局锁和表锁的深入理解

表锁的语法是 lock tables … read/write。与 ftwrl 类似,可以用 unlock tables 主动释放锁,也可以在客户端断开的时候自动释放。需要注意,lock tables 语法除了会限制别的线程的读写外,也限定了本线程接下来的操作对象。

举个例子, 如果在某个线程 a 中执行 lock tables t1 read, t2 write; 这个语句,则其他线程写 t1、读写 t2 的语句都会被阻塞。同时,线程 a 在执行 unlock tables 之前,也只能执行读 t1、读写 t2 的操作。连写 t1 都不允许,自然也不能访问其他表。

在还没有出现更细粒度的锁的时候,表锁是最常用的处理并发的方式。而对于 innodb 这种支持行锁的引擎,一般不使用 lock tables 命令来控制并发,毕竟锁住整个表的影响面还是太大

2.2 mdl 锁

另一类表级的锁是 mdl(metadata lock)。mdl 不需要显式使用,在访问一个表的时候会被自动加上。mdl 的作用是,保证读写的正确性。你可以想象一下,如果一个查询正在遍历一个表中的数据,而执行期间另一个线程对这个表结构做变更,删了一列,那么查询线程拿到的结果跟表结构对不上,肯定是不行的。

因此,在 mysql 5.5 版本中引入了 mdl,当对一个表做增删改查操作的时候,加 mdl读锁;当要对表做结构变更操作的时候,加 mdl 写锁

  • 读锁之间不互斥,因此你可以有多个线程同时对一张表增删改查。
  • 读写锁之间、写锁之间是互斥的,用来保证变更表结构操作的安全性。因此,如果有两个线程要同时给一个表加字段,其中一个要等另一个执行完才能开始执行。

虽然 mdl 锁是系统默认会加的,但却是你不能忽略的一个机制。

比如下面这个例子,我经常看到有人掉到这个坑里:给一个小表加个字段,导致整个库挂了。

肯定知道,给一个表加字段,或者修改字段,或者加索引,需要扫描全表的数据。在对大表操作的时候,你肯定会特别小心,以免对线上服务造成影响。而实际上,即使是小表,操作不慎也会出问题。我们来看一下下面的操作序列,假设表 t 是一个小表。

MySQL全局锁和表锁的深入理解

MySQL全局锁和表锁的深入理解

show full processlist查看mdl 锁详情

MySQL全局锁和表锁的深入理解

我们可以看到 session a 先启动,这时候会对表 t 加一个 mdl 读锁。由于 session b 需要的也是 mdl 读锁,因此可以正常执行。

之后 session c 会被 blocked,是因为 session a 的 mdl 读锁还没有释放,而 sessionc 需要mdl 写锁,因此只能被阻塞。

如果只有 session c 自己被阻塞还没什么关系,但是之后所有要在表 t 上新申请 mdl 读锁的请求也会被 session c 阻塞。前面说了,所有对表的增删改查操作都需要先申请mdl 读锁,就都被锁住,等于这个表现在完全不可读写了。

如果某个表上的查询语句频繁,而且客户端有重试机制,也就是说超时后会再起一个新session 再请求的话,这个库的线程很快就会爆满。

事务中的 mdl 锁,在语句执行开始时申请,但是语句结束后并不会马上释放,而会等到整个事务提交后再释放。
注 : 一般行锁都有锁超时时间。但是mdl锁没有超时时间的限制,只要事务没有提交就会一直锁注。

2.2.1 怎么解决了这个mdl锁

上面不是说了吗,提交或者回滚这个事务。所以要找到这个事务

怎么找到这个事务, 通过information_schema.innodb_trx查看事务的执行时间

# 查看事务超过60s的事务
mysql> select * from information_schema.innodb_trx where time_to_sec(timediff(now(),trx_started))>60\g;
trx_started 表示什么时候执行的这个事务
 
#查看系统当前时间
mysql> select now();

MySQL全局锁和表锁的深入理解

事务开始时间和系统现在时间,一看事务执行了这么久。

查看这个线程id

MySQL全局锁和表锁的深入理解

怎么处理了这个长事务的线程id了

首先看show full processlist; 中host 哪个字段 ,到底是谁连接了数据库。例:我上面是localhost环境,进去commit或者/rollback ,哪如果不是localhost 环境了,是程序连接了这时候就要kill掉了

2.2.2 我身上发生的趣事

上次有个dba 问我, 造成很大主从延迟,说要怎么解决。

我说你怎么解决的延迟, 知道主从延迟造成的具体的原因吗?

ta给我说,开启了多线程, 但是延迟还是很大,基本没怎么用到多线程。

我说你怎么知道主从延迟,需要开启多线程复制来解决, ta给我说,网上别人blog这莫说的,我一口老血吐出来。

后来又问ta, 主从延迟正常情况下,做了什么操作, ta给我说修改了alter 表结构。

然后让ta 看是不是mdl 锁造成的,让tashow full processlist,一看果然是mdl 锁原因。

然后跟ta 说 找长事务, 找到以后跟开发商议,这个长事务在做什么操作可不可以kill掉。

注:这是我真实遇到,别人问我这样问题。首先你要知道造成这个结果,你事先做了什么操作, 然后解决这个问题,最根本你还是要知道原因,然后下次避免。

还有网上的环境,系统版本,应用版本,遇到问题的情况,跟你是不是一样,有时候不要盲目相信。

2.3 如何安全地给小表加字段?

首先我们要解决长事务,事务不提交,就会一直占着 mdl 锁。在 mysql 的information_schema 库的 innodb_trx 表中,你可以查到当前执行中的事务。如果你要做 ddl 变更的表刚好有长事务在执行,要考虑先暂停 ddl,或者 kill 掉这个长事务。这也是为什么需要在低峰期做ddl 变更,当然也要考虑具体做什么ddl,参考官方的online ddl。

2.4 online ddl 过程

  • 拿mdl写锁
  • 降级成mdl读锁
  • 真正做ddl
  • 升级成mdl写锁
  • 释放mdl锁

1、2、4、5如果没有锁冲突,执行时间非常短。第3步占用了ddl绝大部分时间,这期间这个个表可以正常读写数据,是因此称为”online”

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。