面试题概览:
- 什么是数据库的事务,说说你对事务特性的理解;
- 说说看Mysql是如何实现原子性的;
- Mysql的InnoDB是如何实现数据持久化的;
- 数据库并发事务可能会出现什么问题,以及该如何解决;
- 知道什么是快照读吗,它是用来解决什么问题的;
面试官:什么是数据库的事务,说说你对事务特性的理解?
数据库事务是数据库管理系统执行过程中的一个逻辑单位,由一个有限的数据库操作序列构成。这些操作要么全部执行成功,要么全部不执行,是一个不可分割的工作单位。
对于事务的特性,可以从以下几个方面来理解:
一、原子性(Atomicity)
原子性是指事务是一个不可分割的工作单位,事务中的操作要么全部完成,要么全部不完成。在数据库操作中,如果事务中的某个操作失败,则整个事务会回滚到事务开始前的状态。这种特性通过数据库的Undo机制来实现,即在事务执行过程中,如果出现错误或用户执行ROLLBACK语句,系统可以回滚到事务开始前的状态。
二、隔离性(Isolation)
隔离性是指并发执行的事务之间相互隔离,不允许一个事务的执行结果影响其他事务的执行。这种特性避免了多个事务并发执行时可能出现的数据不一致问题。数据库系统通常通过锁和其他并发控制技术(如MVCC)来实现隔离性。表现形式是,当一个事务正在对某个数据进行操作时,其他事务不能对该数据进行并发修改,以防止数据不一致的问题发生。
三、持久性(Durability)
持久性是指一旦事务提交,它对数据库中数据的改变就是永久性的,即使在系统崩溃后,事务的修改结果也不会丢失。这种特性通过数据库的Redo机制来实现。当事务提交后,系统将把事务的所有操作写入到日志文件中,以便在系统恢复后通过Redo日志重新执行这些操作,保证数据的一致性。
四、一致性(Consistency)
一致性是指事务必须将数据库从一种一致状态转换到另一种一致状态。这么说有点抽象,我个人的具体理解是:一致性体现在两点。
同一个表的在本次事务中有联系的多条记录的状态要对的上,比如转账前后两个账户的金额总和应该不变(两条同一张表的update语句)。
不同表在本次事务中有联系的多条记录的状态要对的上,比如消费后增加用户积分并减少用户金额,那么用户的金额减少后,不能因为故障导致用户积分没增加(两条不同表的update语句)。
上述四个特点中,一致性是事务的最终目的。只要其他三个特性都满足了,那么一致性自然而然也就会满足,也就是说原子性,隔离性和持久性是需要作出的努力,一致性是我们想要的结果。
面试官:原子性——说说看Mysql是如何通过undo日志实现原子性?
首先是MySQL如何通过undo日志实现原子性的详细解释:
一、undo日志的作用
undo日志,也被称为回滚日志,是MySQL中用于记录事务在执行过程中对数据的修改前的状态(即旧值)的一种日志。当事务需要回滚时,MySQL可以利用undo日志将数据恢复到事务开始前的状态,从而保证事务的原子性。
undo日志分为3类:
- insert操作对应的undo日志
- delete操作对应的日志
- update操作对应的undo日志
下面是undo日志的具体结构,其他的不用关注,重点关注图中倒数第二格的 <len, value>,里面包含增删改操作前的具体字段和值,数据库回滚就是通过这些字段和值来进行的。
二、实现原子性的过程
(1) 事务开始:
- 当一个事务开始时,MySQL会监控该事务对数据库的所有修改操作。
(2) 记录undo日志:
- 在事务执行过程中,每当对数据库进行写操作(如INSERT、UPDATE、DELETE)时,MySQL会将修改前的数据状态(旧值)保存在undo日志中。
- undo日志是逻辑日志,它记录的是修改前的数据状态,而不是物理存储的修改。
(3) 事务提交或回滚:
- 如果事务成功执行并提交,那么这些修改将持久化到数据库中,而undo日志则会在一定时间后被清理(通常是在事务提交后,且确保没有其他并发事务需要回滚到该事务之前的状态时)。
- 如果事务在执行过程中遇到错误或用户显式要求回滚,那么MySQL会利用undo日志中的信息,将数据库恢复到事务开始前的状态。
三、undo日志的具体实现
1.undo日志的存储:
undo日志被存储在InnoDB存储引擎的专用页面中,这些页面被称为undo页面。
undo页分为两种:insert类型的undo日志(里面只放insert类型的undo日志) 和 update类型的undo日志(放update和delete类型的undo日志)。
undo页面以链表的形式组织,每个undo页面都包含了多条undo日志,Innodb会为每一个事务一条或两条undo链表(如果该事务同时包含增删改操作就会生成两条undo链表)。
之所以要将同一个事务产生的undo日志组织在同一个链表而非所有事务的undo日志组织成一个链表也是为了回滚时可以按事务的维度找到只和本事务相关的undo日志进行回滚。
两种不同类型的undo日志页分别用 insert undo 链表 和 update undo 链表管理。
把 undo 日志分成 2 个大类是因为insert类型的 undo 日志在事务提交后可以直接删除,而其他类型的 undo 日志还需要为 MVCC(多版本并发控制)服务,不能在事务提交后马上删除。
2.回滚操作:
当事务需要回滚时,MySQL会沿着undo日志链表,按照与事务执行相反的顺序,逐条应用undo日志中的信息,将数据恢复到事务开始前的状态。
- 对于INSERT操作,undo日志记录的是“删除”操作,即如果事务回滚,需要撤销插入的数据。
- 对于DELETE操作,undo日志记录的是“插入”操作,即如果事务回滚,需要恢复被删除的数据。
- 对于UPDATE操作,undo日志记录的是修改前的旧值,即如果事务回滚,需要将数据更新回旧值。
面试官:持久性——Mysql的InnoDB是如何实现数据持久化的?
说到数据库持久化就绕不开 WAL 机制 和 redo日志。
一、WAL和redo log的基本概念
WAL是一种数据安全写入机制,其核心思想是在事务进行修改之前,先将修改操作记录到日志中,然后再将修改应用到数据库中。这样做的好处是,即使系统崩溃或断电,也可以通过日志来恢复数据,保证数据的持久性和一致性。
redo日志是InnoDB存储引擎独有的物理日志,记录了数据操作的细节,包括事务开始和结束的标志、修改的数据页和对应的操作等。它主要用于故障恢复,当数据库发生异常关闭或崩溃时,InnoDB可以通过redo日志来恢复数据。
redo日志以固定大小的多个文件(如ib_logfile0、ib_logfile1)形成的文件组的形式存在,是一个可覆盖的循环日志。InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么这块“粉板”总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写,如下面这个图所示。
write pos 是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint 标记了日志中已经刷盘成功的数据所对应的redo日志数据。
write pos 和 checkpoint 之间的是redo日志上可被新的事务的增删改操作所覆盖的部分,可以用来记录新的操作。如果 write pos 追上 checkpoint,表示redo日志满了,这时候不能再执行新的更新,得停下来将Buffer Pool中的脏页刷盘,把 checkpoint 推进一下才能继续写redo日志。
有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为 crash-safe。
下图是一条简单redo日志的数据结构:
其中 space ID 表示本修改所对应的数据页所在的表空间,page number是所修改的页号,offer是所修改的数据在页中的偏移量。通过这3个信息,就可以在故障恢复时找到要恢复的数据页和数据页中的具体位置。
二、redo log写入的具体过程
(1) 事务开始:
当一个事务开始时,MySQL会为该事务分配一个唯一的事务ID,并将该事务的相关信息存储在内存中的事务控制块(Transaction Control Block, TCB)中。
(2) 修改操作记录到redo log buffer:
在事务执行过程中,所有的修改操作(如插入、更新、删除等)都会被写入redo log缓冲区(redo log buffer)。redo log buffer是一个内存缓冲区,用于暂存待写入redo log的修改操作。
(3) 事务提交和redo log刷盘:
当事务提交时,MySQL会将该事务的所有修改操作按照顺序写入redo log文件中。这个过程称为redo log的刷新(flush)。
需要注意的是,在事务提交之前,MySQL并不会立即将redo log buffer中的修改操作持久化到磁盘上的redo log文件中。而是会等待一个合适的时机来进行持久化操作。基于innodb_flush_log_at_trx_commit配置参数的刷盘策略如下。
innodb_flush_log_at_trx_commit:
- 值=1:每次事务提交时都会将日志刷新到磁盘,确保了最高的持久性(默认值)。
- 值=2:日志写入到操作系统的缓存(log buffer)并每秒刷写到磁盘(可能会存在少量数据丢失的风险,但提高性能)。
- 值=0:日志写入到操作系统的缓存(log buffer),并每次检查点时刷写到磁盘(可能存在更多的数据丢失风险)。
三、恢复数据的详细过程
(1) 启动InnoDB:当MySQL服务重启时,InnoDB存储引擎会开始启动。
(2) 定位checkpoint:InnoDB会通过redo日志找到最近一次checkpoint的位置。checkpoint信息保存在日志文件的开始部分,包括checkpoint号、checkpoint lsn(记录了产生该checkpoint时flush的LSN,确保在该LSN前面的数据页都已经落盘,不再需要通过redo log进行恢复)和checkpoint offset(记录了该checkpoint产生时,redo log在ib_logfile中的偏移量)。
(3) 获取并解析redo日志:
从checkpoint相对应的位置开始,InnoDB会获取需要重做的日志。
接着,InnoDB会解析获取的日志,并将其保存到一个哈希表中。哈希表以(space,offset)为键,存储了redo日志的信息。
(4) 数据恢复:
InnoDB会遍历哈希表中的redo日志信息。
对于每条redo日志,InnoDB会根据(space ID,page number,offset)读取指定页面,并进行日志覆盖,即根据redo日志中的记录来恢复数据页的内容。
面试官:数据库并发事务可能会出现什么问题,以及该如何解决?
一、数据一致性问题
1.脏读
一个事务读取了另一个事务未提交的数据,这些数据可能会被回滚,从而导致读取到无效数据。
以下是一个具体的脏读示例:
事务A首先执行了一个select操作,从account表中读取了id=1的账户的money值,此时得到的mnotallow=0。
接着,事务A尝试执行一个update操作,将id=1的账户的money值设置为2000。另一个事务(事务B)修改了该账户的money值,并且这个修改还未提交。
如果事务A最终不提交其修改,那么事务B读取到的mnotallow=2000就是一个“脏读”,即读取到了其他事务还未提交的数据。
事务B基于这个“脏读”的数据进行业务处理可能会导致问题,例如修改了其他表里的数据,最终数据不一致。
为了避免脏读,数据库系统通常实施更高的事务隔离级别,如READ COMMITTED或更高,以确保事务只能读取到已提交的数据。
2.不可重复读
一个事务在两次读取同一数据时,因其他事务的提交导致本事务数据发生了变化,从而两次读取无法获得一致的结果。不可重复读会在事务需要基于多次读取结果进行复杂计算时产生影响。
以下是一个不可重复读示例:
为了避免不可重复读,数据库系统需要实施适当的事务隔离级别(如READ COMMITTED或更高)或使用其他并发控制机制来确保事务在读取数据时不会受到其他事务修改数据的影响。
在READ COMMITTED隔离级别下,事务只能读取到其他事务已经提交的修改,从而避免了脏读和不可重复读(但幻读仍然可能发生)。而在更高的隔离级别(如REPEATABLE READ或SERIALIZABLE)下,数据库系统会进一步限制并发操作,以减少或消除幻读现象,但会严重影响并发性能。
3.幻读
一个事务(通过条件)读取多条记录后,因其他事务的插入或删除,导致再次读取时获得的记录集发生变化。幻读问题通常发生在插入或删除操作频繁的场景中。
以下是一个幻读的具体示例:
再举一个关于幻读的例子加强一下大家对幻读的理解:
假设有一个银行系统,它有一个账户表(accounts),用于记录客户的账户余额和其他相关信息。现在,有两个事务T1和T2同时运行,并且它们都对满足某个条件的账户集合进行操作。
(1) 事务T1:
- 开始事务。
- 事务T1的目标是查询并处理所有余额大于500元的账户。它首先执行一个查询操作,找出所有余额大于500元的账户,并假设找到了账户A、B和C(这些账户的余额都大于500元)。
- 此时,事务T1尚未提交,也没有对查询结果进行任何处理。
(2) 事务T2:
- 同时开始事务。
- 事务T2的目标是向系统中添加一个新的账户D,并且这个新账户的余额设置为600元。它执行一个插入操作,将新账户D添加到账户表中,并提交事务。
(3) 事务T1(继续):
- 在事务T1中,经过一段时间后(在事务T2提交之后),事务T1决定对之前查询到的账户集合(账户A、B和C)进行处理。但在处理之前,它再次执行了一个相同的查询操作,以确认要处理的账户集合。
- 然而,这次查询的结果中除了账户A、B和C之外,还多了一个新的账户D(因为事务T2已经添加了新账户D,并且D的余额大于500元,满足查询条件)。
- 这导致事务T1在处理账户集合时遇到了一个“幻影”账户D,这个账户在事务T1的第一次查询中并不存在,但在第二次查询中却出现了。
(4) 结果:事务T1在处理账户集合时,由于幻读现象,它必须处理一个额外的账户D,这可能导致一些意外的行为或错误。例如,如果事务T1的目标是向所有余额大于500元的老账户发送一条通知,那么由于幻读现象,新账户D也会收到这条通知。
为了避免幻读,数据库系统需要实施更高的事务隔离级别(如SERIALIZABLE)或使用其他并发控制机制(如锁机制或MVCC)来确保事务在读取数据时不会受到其他事务插入或删除数据的影响。
可能得面试官追问:不可重复度和幻读看上去形式上都是两次读取的结果不同,那么不可重复读和幻读的区别是什么?
(1) 发生场景不同:
- 不可重复读通常发生在数据集合中具体数据项的值被其他事务修改后。
- 幻读通常发生在查询结果集合因其他事务的插入操作而发生变化时。
(2) 关注点不同:
- 不可重复读关注的是数据项值的变化。
- 幻读关注的是查询结果集合中记录数量或内容的变化。
并发事务除了出现数据一致性问题之外,还可能存在其他问题(如死锁和性能下降等)。
二、死锁
死锁是指两个或多个事务在执行过程中,因为相互持有对方所需要的资源而陷入无限等待的状态。死锁会导致系统资源无法有效利用,严重时可能会使系统陷入瘫痪。常见的死锁场景包括两个事务互相等待对方释放锁,以及多个事务循环等待。
三、性能下降
并发事务增多会增加系统的CPU、内存和I/O负载,影响整体性能。具体表现为:
- 锁竞争:多个事务同时请求同一个资源,导致锁竞争,进而引发事务等待和超时。
- 资源消耗:并发事务会占用大量系统资源,如CPU、内存和磁盘I/O等。
说到事务并发就不得不先说数据库的隔离级别。事务的隔离级别是数据库中用于控制并发事务间相互影响的机制。
以下是关于事务隔离级别的详细解释以及选择建议:
事务隔离级别的类型
(1) 读未提交(READ UNCOMMITTED):
- 允许事务读取其他事务尚未提交的数据。
- 可能导致脏读,即读取到其他事务未提交的已update的但之后可能回滚的无效数据。
- 并发性能较高,但数据一致性较差。
(2) 读提交(READ COMMITTED):
- 事务只能读取已经提交的数据。
- 避免了脏读,但仍可能产生不可重复读和幻读。
- 适用于大多数在线事务处理(OLTP)应用,能在一定程度上保证数据一致性。
(3) 可重复读(REPEATABLE READ):
- 在同一事务中多次读取同一数据会得到相同的结果,即使其他事务已经提交了修改。
- 解决了不可重复读问题,但仍可能产生幻读(即新插入的数据对于当前事务不可见,但可能导致后续插入冲突)。
- 适用于需要保证数据一致性的复杂业务逻辑。
(4) 序列化(SERIALIZABLE):
- 提供了最高的事务隔离级别,事务之间完全隔离,互不干扰。
- 避免了脏读、不可重复读和幻读等所有并发问题。
- 但由于事务需要串行执行,性能损失较大,适用于对数据一致性要求极高的关键业务。
面试官:知道什么是快照读吗,它是用来解决什么问题的?
(下面的内容可能有点长,希望大家能耐心看完,毕竟面试加分的本质就是答出面试官所问的这个问题相关的但没有问出来的点)。
快照读(Snapshot Read)是数据库事务处理中的一种读取数据的方式,它确保事务在读取数据时看到的是数据在某个时间点(即事务开始时)的状态,就像拍摄了一张数据在那个时间点的“快照”一样。这种读取方式不会受到其他并发事务的影响,即使其他事务在读取过程中对数据进行了修改,快照读仍然能够读取到事务开始时的数据版本。
快照读的主要特点是:
- 一致性:快照读保证了事务在读取数据时的一致性,因为读取的是事务开始时的数据快照,所以不会受到其他并发事务的干扰。
- 并发性:由于快照读不需要对数据加锁,因此可以提高数据库的并发性能。多个事务可以同时进行快照读,而不会相互阻塞。
- 隔离性:快照读提供了一种事务隔离的机制,使得每个事务都像在独立的环境中运行一样,不会受到其他事务的影响。
在MySQL等数据库系统中,快照读通常是通过多版本并发控制(MVCC,Multi-Version Concurrency Control)来实现的。
MVCC是数据库管理系统中用于实现并发控制的一种方法。通过维护数据的多个版本来实现并发控制。
在MVCC中,每个数据项都有多个版本,每个版本都记录了一个时间点或事务ID,表示该版本被创建或修改的时间。当一个事务读取数据时,它会读取一个特定时间点的快照,这个快照包含了在该时间点之前提交的所有事务的结果。通过这种方式,事务可以看到一个一致的视图,而不受其他事务的影响。
具体来说,MVCC的实现通常依赖于以下几个关键组件:
一、Undo Log
定义:Undo Log是数据库中用于记录数据修改历史的日志。当事务进行更新或删除操作时,数据库会生成相应的Undo Log,以便在需要时能够回滚到之前的版本。
在MVCC中,Undo Log不仅用于事务回滚,还用于维护版本链,一条undo日志会作为版本链中的一个节点,节点之间通过undo日志的回滚指针连接。
当事务进行更新或删除操作时,数据库会生成一条undo日志作为新的数据版本,并通过undo日志的回滚指针将新旧版本(旧的undo日志)连接起来,形成版本链。
二、版本链
定义:版本链是指每个数据项都维护一个记录其修改历史的链表。链表中的每个节点代表数据项的一个版本,这里的“一个版本”就是一条undo日志,包括历史记录的数据内容、修改时间戳或事务ID等信息。
实现:在数据库中,每个数据行都会有一个隐藏的回滚指针(roll_pointer)字段,该字段指向该行的上一个版本(如果存在的话)。这样,通过回滚指针,可以将各个版本连接起来,形成一个版本链。
下图呈现了两个事务对数据表修改过程中生成版本链的过程。
假设一开始hero.name = "刘备"。那么版本链如下:
三、读视图(Read View)
定义:读视图是数据库在特定时刻为某个事务创建的一个快照,该快照包含了在该时刻所有未提交事务的信息。
实现:读视图通常包含以下关键信息:
- 当前活跃的事务编号集合(m_ids):记录了当前所有未提交事务的事务ID。
- 最小活跃事务编号(min_trx_id):当前活跃事务中的最小事务ID。
- 最大事务编号+1(max_trx_id):预分配的事务编号,用于判断新事务是否在当前读视图的范围内。
- 读视图创建者的事务编号(creator_trx_id):记录了创建该读视图的事务ID。
作用:读视图用于判断哪些数据版本对当前事务是可见的。具体来说,当一个事务读取数据时,它会根据读视图中的信息,在版本链中查找满足条件的版本。
四、MVCC的读操作实现
当事务进行读操作时,数据库会根据读视图和版本链来判断应该读取哪个版本的数据。具体来说,数据库会按照以下步骤进行读操作:
- 从版本链的最新版本开始,逐个比较数据版本的事务ID和读视图中的信息。
- 如果数据版本的事务ID小于读视图中的最小活跃事务编号(min_trx_id),则说明该版本已经提交,对当前事务可见,可以直接读取。
- 如果数据版本的事务ID大于或等于读视图中的最大事务编号(max_trx_id),则说明该版本是在当前事务之后生成的,对当前事务不可见,继续查找下一个版本。
- 如果数据版本的事务ID在最小活跃事务编号和最大事务编号之间,则需要进一步检查该事务ID是否在当前活跃事务集合(m_ids)中。如果在集合中,则说明该事务尚未提交,对当前事务不可见;如果不在集合中,则说明该事务已经提交,对当前事务可见。
- 重复以上步骤,直到找到对当前事务可见的数据版本或遍历完整个版本链为止。
五、MVCC解决的问题
MVCC主要解决了数据库在高并发环境下的读写冲突问题,以及数据一致性问题。具体来说,它解决了以下几个方面的问题:
- 脏读:在没有MVCC的情况下,一个事务可能读取到另一个未提交事务修改过的数据。如果后者回滚,那么前者读取的就是“脏”数据。MVCC通过确保事务只能读取到已提交的数据版本,从而避免了脏读问题。
- 不可重复读:在数据库操作期间,如果没有适当的隔离机制,一个事务多次读取同一数据可能会得到不同的结果。这是因为其他事务可能在此期间修改了这些数据。MVCC通过为每个事务提供一个一致的数据快照,从而解决了不可重复读问题。
- 幻读:幻读是指在同一个事务中,执行相同的查询语句,但第二次查询却返回了第一次查询中没有的新记录。MVCC可以在一定程度上减少幻读的发生,尤其是在读取时没有主动加锁的情况下。但需要注意的是,MVCC并不能完全解决幻读问题,在某些情况下仍然需要使用其他机制(如间隙锁)来防止幻读。
- 提高并发性能:由于读操作不需要等待写操作完成,写操作也不会阻止其他事务进行读取,因此MVCC可以显著提高系统的并发处理能力。这对于读多写少的场景尤为有效。
- 减少锁的使用:虽然MVCC本身也是一种形式的锁定机制(通过版本链和读视图实现),但它减少了传统意义上的行锁或表锁的需求。这有助于减少锁竞争和锁开销,从而提高系统的性能。
(面试官可能得追问:MVCC的缺点)
维护MVCC并不是没有成本的,下面是MVCC所带来的问题:
- 存储开销增加:为了支持MVCC,数据库需要存储数据的多个版本。这会增加存储空间的使用,特别是在频繁更新数据的场景下。旧版本的数据可能会迅速积累,导致存储空间的快速增长。
- 写性能下降:在MVCC机制下,每次更新操作都需要创建新的数据版本,并将旧版本的数据标记为无效或删除。这些额外的操作会增加写操作的复杂性和时间开销,从而导致写性能下降。
- 清理过期版本的开销:随着时间的推移,数据库中会积累大量的过期版本数据。这些过期版本数据不再被任何事务所需,因此需要定期清理。然而,清理过期版本数据是一个复杂的任务,需要数据库系统扫描整个数据库来识别并删除无效的数据版本。这个过程可能会消耗大量的计算资源和时间。