MySQL读多写少设计方案 - 分库分表还能这么做?

数据库 MySQL
通过主从复制的技术把数据复制多份,读操作只读取从数据库中的数据,这样就增强了抵抗大量并发读请求的能力,提升了数据库的查询性能。

[[414668]]

本文转载自微信公众号「JerryCodes」,作者KyleJerry。转载本文请联系JerryCodes公众号。

通过主从复制的技术把数据复制多份,读操作只读取从数据库中的数据,这样就增强了抵抗大量并发读请求的能力,提升了数据库的查询性能。这时,你的系统架构如下:

  • 系统架构图
  • 案例背景

如何确定分库还是分表?

何时分表

何时分库

垂直拆分

Range(范围分片)

  • 如何解决数据查询问题?
  • 总结

案例背景

假设在这样的背景下,面试官出了一道考题:

公司现有业务不断发展,流量剧增,交易数量突破了千万订单,但是订单数据还是单表存储,主从分离后,虽然减少了缓解读请求的压力,但随着写入压力增加,数据库的查询和写入性能都在下降,这时你要怎么设计架构?

这个问题可以归纳为:数据库写入请求量过大,导致系统出现性能与可用性问题。

要想解决该问题,你可以对存储数据做分片,常见的方式就是对数据库做“分库分表”,在实现上有三种策略:垂直拆分、水平拆分、垂直水平拆分。

这么回答真的可以吗?

虽然分库分表技术方案很常见,但是在面试中回答好并不简单。因为面试官不会单纯浮于表面问你“分库分表的思路”,而是会站在业务场景中,当数据出现写多读少时,考察你做分库分表的整体设计方案和技术实现的落地思路。一般会涉及这样几个问题:

什么场景该分库?什么场景该分表?

复杂的业务如何选择分片策略?

如何解决分片后的数据查询问题?

如何确定分库还是分表?

针对“如何确定分库还是分表?”的问题,你要结合具体的场景。

何时分表

当数据量过大造成事务执行缓慢时,就要考虑分表,因为减少每次查询数据总量是解决数据查询缓慢的主要原因。你可能会问:“查询可以通过主从分离或缓存来解决,为什么还要分表?”但这里的查询是指事务中的查询和更新操作。

何时分库

为了应对高并发,一个数据库实例撑不住,即单库的性能无法满足高并发的要求,就把并发请求分散到多个实例中去(这种应对高并发的思路我之前也说过)。

总的来说,分库分表使用的场景不一样:分表是因为数据量比较大,导致事务执行缓慢;分库是因为单库的性能无法满足要求。

如何选择分片策略?在明确分库分表的场景后,面试官一般会追问“怎么进行分片?”换句话说就是按照什么分片策略对数据库进行分片?

垂直拆分

垂直拆分是根据数据的业务相关性进行拆分。比如一个数据库里面既存在商品数据,又存在订单数据,那么垂直拆分可以把商品数据放到商品库,把订单数据放到订单库。一般情况,垂直拆库常伴随着系统架构上的调整。

垂直拆分

比如在对做系统“微服务”改造时,将原本一个单体系统拆分成多个子系统,每个系统提供单独的服务,那么随着应用层面的拆分带来的也有数据层面的拆分,将一个主库的数据表,拆分到多个独立的子库中去。

对数据库进行垂直拆分最常规,优缺点也很明显。

垂直拆分可以把不同的业务数据进行隔离,让系统和数据更为“纯粹”,更有助于架构上的扩展。但它依然不能解决某一个业务的数据大量膨胀的问题,一旦系统中的某一个业务库的数据量剧增,比如商品系统接入了一个大客户的供应链,对于商品数据的存储需求量暴增,在这个时候,就要把数据拆分到多个数据库和数据表中,也就是对数据做水平拆分。

水平拆分

垂直拆分随架构改造而拆分,关注点在于业务领域,而水平拆分指的是把单一库表数据按照规则拆分到多个数据库和多个数据表中,比如把单表 1 亿的数据按 Hash 取模拆分到 10 个相同结构的表中,每个表 1 千万的数据。并且拆分出来的表,可以分别存放到不同的物理数据库中,关注点在于数据扩展。

Range(范围分片)

是按照某一个字段的区间来拆分,最好理解的就是按照时间字段分片,比如可以把一个月的数据放入一张表中,这样在查询时就可以根据时间先定位数据存储在哪个表里面,再按照查询条件来查询。

但是按时间字段进行范围分片的场景并不多,因为会导致数据分布不均,毕竟不是每个月的销量都是平均的。所以常见的 Range 分片是按照字段类型,比如按照商品的所属品类进行分片。这样与 Hash 分片不同的是,Range 分片就可以加入对于业务的预估。

Range 分片

但是同样的,由于不同“商品品类”的业务热点不同,对于商品数据存储也会存在热点数据问题,这个时候处理的手段有两个。

1、垂直扩展

由于 Range 分片是按照业务特性进行的分片策略,所以可以对热点数据做垂直扩展,即提升单机处理能力。在业务发展突飞猛进的初期,建议使用“增强单机硬件性能”的方式提升系统处理能力,因为此阶段,公司的战略往往是发展业务抢时间,“增强单机硬件性能”是最快的方法。

2、分片元数据

单机性能总是有极限的,互联网分布式架构设计高并发终极解决方案还是水平扩展,所以结合业务的特性,就需要在 Range 的基础上引入“分片元数据”的概念:分片的规则记录在一张表里面,每次执行查询的时候,先去表里查一下要找的数据在哪个分片中。

这种方式的优点是灵活性高,并且分片规则可以随着业务发展随意改动。比如当某个分片已经是热点了,那就可以把这个分片再拆成几个分片,或者把这个分片的数据移到其他分片中去,然后修改一下分片元数据表,就可以在线完成数据的再分片了。

分片元数据

但你要注意,分片元数据本身需要做高可用。方案缺点是实现起来复杂,需要二次查询,需要保证分片元数据服务的高可用。不过分片元数据表可以通过缓存进行提速。

垂直水平拆分,是综合垂直和水平拆分方式的一种混合方式,垂直拆分把不同类型的数据存储到不同库中,再结合水平拆分,使单表数据量保持在合理范围内,提升性能。

垂直水平拆分

如何解决数据查询问题?

分库分表引入的另外一个问题就是数据查询的问题(比较常见),比如面试官会问类似的问题:

在未分库分表之前,我们查询数据总数时,可以直接通过 SQL 的 count() 命令,现在数据分片到多个库表中,如何解决呢?

解题思路很多,你可以考虑其他的存储方案,比如聚合查询使用频繁时,可以将聚合查询的数据同步到 ES 中,或者将计数的数据单独存储在一张表里。如果是每日定时生成的统计类报表数据,也可以将数据同步到 HDFS 中,然后用一些大数据技术来生成报表。

总结

总的来说,在面对数据库容量瓶颈和写请求并发量大时,你可以选择垂直分片和水平分片:

垂直分片一般随着业务架构拆分来进行;

水平分片通常按照 Hash(哈希分片)取模和 Range(范围分片)进行,并且,通常的形态是垂直拆分伴随着水平拆分,即先按照业务垂直拆分后,再根据数据量的多少决定水平分片。

Hash 分片在互联网中应用最为广泛,简单易实现,可以保证数据非常均匀地分布到多个分片,但其过滤掉了业务属性,不能根据业务特性进行调整。而 Range 分片却能预估业务,更高效地扫描数据记录(Hash 分片由于数据被打散,扫描操作的 I/O 开销更大)。

除了 Hash 分片和 Range 分片,更为灵活的方式是基于分片元数据。

不过你要注意,这几种方式也会引入诸如聚合查询的问题,要想解决聚合查询,你可以让聚合查询记录存储在其他存储设备中(比如 ES、HDFS)。

 

责任编辑:武晓燕 来源: JerryCodes
相关推荐

2021-04-01 05:40:53

分库分表数据库MySQL

2021-04-21 13:48:22

MySQL优化Redis

2023-07-27 13:44:19

业务用户画像

2023-06-27 11:57:24

用户分析挖掘法ABtest

2020-03-05 13:55:50

MySQL分库分表数据库

2022-05-25 08:06:37

MySQL分库分表

2014-07-10 09:15:38

负载均衡安全网关

2015-08-05 10:50:01

Facebook缓存网页

2024-10-17 16:55:08

2020-11-18 09:39:02

MySQL数据库SQL

2013-11-27 12:40:21

鲍尔默微软

2019-10-08 12:32:07

运维架构技术

2024-02-21 12:17:00

2019-12-04 14:59:01

分布式缓存高可用

2024-02-02 16:25:01

模型训练

2023-08-26 20:08:15

分库分表Spring

2020-07-30 17:59:34

分库分表SQL数据库

2013-03-29 09:54:05

创业创业者

2024-02-21 23:03:56

代码系统

2024-11-28 12:52:47

点赞
收藏

51CTO技术栈公众号