MySQL该如何进行大数据量快速插入方法和语句优化?

数据库 MySQL
本文我们主要要介绍的内容是关于MySQL大数据量快速插入方法和语句优化,希望对大家有所帮助。

MySQL该如何进行大数据量快速插入方法和语句优化?

MySQL大数据量快速插入方法和语句优化是本文我们主要要介绍的内容。

INSERT 语句的速度

插入一个记录需要的时间由下列因素组成,其中的数字表示大约比例:

连接:(3)

发送查询给服务器:(2)

分析查询:(2)

插入记录:(1x 记录大小)

插入索引:(1x 索引)

关闭:(1)

这不考虑打开表的初始开销,每个并发运行的查询打开。

表的大小以 logN (B 树)的速度减慢索引的插入。

加快插入的一些方法

如果同时从同一个客户端插入很多行,使用含多个 VALUE 的 INSERT 语句同时插入几行。这比使用单行 INSERT 语句快(在某些情况下快几倍)。如果你正向一个非空表添加数据,可以调节 bulk_insert_buffer_size 变量,使数据插入更快。

如果你从不同的客户端插入很多行,能通过 INSERT DELAYED 语句加快速度。

用 MyISAM,如果在表中没有删除的行,能在 SELECT 语句正在运行的同时插入行。

当从一个文本文件装载一个表时,使用 LOAD DATA INFILE。这通常比使用很多 INSERT 语句快 20 倍。参见 13.2.5 节,“LOAD DATA INFILE 语法”。

当表有很多索引时,有可能要多做些工作使得 LOAD DATA INFILE 更快些。使用下列过程:

有选择地用 CREATE TABLE 创建表

执行 FLUSH TABLES 语句或命令 mysqladmin flush-tables。使用 myisamchk –keys-used=0 -rq /path/to/db/tbl_name。这将从表中取消所有索引的使用。

用 LOAD DATA INFILE 把数据插入到表中,因为不更新任何索引,因此很快。 如果只想在以后读取表,使用 myisampack 压缩它。参见 15.1.3.3 节,“压缩表特性”。

用 myisamchk -r -q /path/to/db/tbl_name 重新创建索引。这将在写入磁盘前在内存中创建索引树,并且它更快,因为避免了大量磁盘搜索。结果索引树也被***地平衡。 执行 FLUSH TABLES 语句或 mysqladmin flush-tables 命令。

请注意如果插入一个空 MyISAM 表,LOAD DATA INFILE 也可以执行前面的优化;主要不同处是可以让 myisamchk 为创建索引分配更多的临时内存,比执行 LOAD DATA INFILE 语句时为服务器重新创建索引分配得要多。

也可以使用 ALTER TABLE tbl_name DISABLE KEYS 代替 myisamchk –keys-used=0 -rq/path/to/db/tbl_name,使用 ALTER TABLE tbl_name ENABLE KEYS 代替 myisamchk -r -q/path/to/db/tbl_name。使用这种方式,还可以跳过 FLUSH TABLES。

锁定表可以加速用多个语句执行的 INSERT 操作:

  1. LOCK TABLES a WRITE; 
  2. INSERT INTO a VALUES (1,23),(2,34),(4,33); 
  3. INSERT INTO a VALUES (8,26),(6,29); 
  4. UNLOCK TABLES; 

 

这样性能会提高,因为索引缓存区仅在所有 INSERT 语句完成后刷新到磁盘上一次。一般有多少 INSERT 语句即有多少索引缓存区刷新。如果能用一个语句插入所有的行,就不需要锁定。

对于事务表,应使用 BEGIN 和 COMMIT 代替 LOCK TABLES 来加快插入。

锁定也将降低多连接测试的整体时间,尽管因为它们等候锁定***等待时间将上升。例如:

 

  1. Connection 1 does 1000 inserts 
  2. Connections 2, 3, and 4 do 1 insert 
  3. Connection 5 does 1000 inserts 

如果不使用锁定,2、3 和 4 将在 1 和 5 前完成。如果使用锁定,2、3 和 4 将可能不在 1 或 5 前完成,但是整体时间应该快大约 40%。

INSERT、UPDATE 和 DELETE 操作在 MySQL 中是很快的,通过为在一行中多于大约 5 次连续不断地插入或更新的操作加锁,可以获得更好的整体性能。如果在一行中进行多次插入,可以执行 LOCK TABLES,随后立即执行 UNLOCK TABLES(大约每 1000 行) 以允许其它的线程访问表。这也会获得好的性能。

INSERT 装载数据比 LOAD DATA INFILE 要慢得多,即使是使用上述的策略。

为了对 LOAD DATA INFILE 和 INSERT 在 MyISAM 表得到更快的速度,通过增加 key_buffer_size 系统变量来扩大 键高速缓冲区。

INSERT 语法

  1. INSERT [LOW_PRIORITY | DELAYED | HIGH_PRIORITY] [IGNORE
  2. [INTO] tbl_name [(col_name,...)] 
  3. VALUES ({expr | DEFAULT},...),(...),... 
  4. ON DUPLICATE KEY UPDATE col_name=expr, ... ] 

 

或:

  1. INSERT [LOW_PRIORITY | DELAYED | HIGH_PRIORITY] [IGNORE
  2. [INTO] tbl_name 
  3. SET col_name={expr | DEFAULT}, ... 
  4. ON DUPLICATE KEY UPDATE col_name=expr, ... ] 

 

或:

  1. INSERT [LOW_PRIORITY | HIGH_PRIORITY] [IGNORE
  2. [INTO] tbl_name [(col_name,...)] 
  3. SELECT ... 
  4. ON DUPLICATE KEY UPDATE col_name=expr, ... ] 

一、DELAYED 的使用

使用延迟插入操作 DELAYED 调节符应用于 INSERT 和 REPLACE 语句。当 DELAYED 插入操作到达的时候,服务器把数据行放入一个队列中,并立即给客户端返回一个状态信息,这样客户端就可以在数据表被真正地插入记录之前继续进行操作了。如果读取者从该数据表中读取数据,队列中的数据就会被保持着,直到没有读取者为止。

接着服务器开始插入延迟数据行(delayed-row)队列中的数据行。在插入操作的同时,服务器还要检查是否有新的读取请求到达和等待。如果有,延迟数据行队列就被挂起,允许读取者继续操作。当没有读取者的时候,服务器再次开始插入延迟的数据行。这个过程一直进行,直到队列空了为止。

几点要注意事项

INSERT DELAYED 应该仅用于指定值清单的 INSERT 语句。服务器忽略用于 INSERT DELAYED…SELECT 语句的 DELAYED。服务器忽略用于 INSERT DELAYED…ON DUPLICATE UPDATE 语句的 DELAYED。

因为在行被插入前,语句立刻返回,所以您不能使用 LAST_INSERT_ID() 来获取 AUTO_INCREMENT 值。AUTO_INCREMENT 值可能由语句生成。

对于 SELECT 语句,DELAYED 行不可见,直到这些行确实被插入了为止。

DELAYED 在从属复制服务器中被忽略了,因为 DELAYED 不会在从属服务器中产生与主服务器不一样的数据。注意,目前在队列中的各行只保存在存储器中,直到它们被插入到表中为止。这意味着,如果您强行中止了 mysqld(例如,使用 kill -9) 或者如果 mysqld 意外停止,则所有没有被写入磁盘的行都会丢失。

二、IGNORE 的使用

IGNORE 是 MySQL 相对于标准 SQL 的扩展。如果在新表中有重复关键字,或者当 STRICT 模式启动后出现警告,则使用 IGNORE 控制 ALTER TABLE 的运行。

如果没有指定 IGNORE,当重复关键字错误发生时,复制操作被放弃,返回前一步骤。

如果指定了 IGNORE,则对于有重复关键字的行,只使用***行,其它有冲突的行被删除。并且,对错误值进行修正,使之尽量接近正确值。insert ignore into tb(…) value(…) 这样不用校验是否存在了,有则忽略,无则添加。

三、ON DUPLICATE KEY UPDATE 的使用

如果您指定了 ON DUPLICATE KEY UPDATE,并且插入行后会导致在一个 UNIQUE 索引或 PRIMARY KEY 中出现重复值,则执行旧行 UPDATE。例如,如果列 a 被定义为 UNIQUE,并且包含值 1,则以下两个语句具有相同的效果:

  1. mysql> INSERT INTO table (a,b,c) VALUES (1,2,3) 
  2. -> ON DUPLICATE KEY UPDATE cc=c+1; 
  3. mysql> UPDATE table SET cc=c+1 WHERE a=1; 

如果行作为新记录被插入,则受影响行的值为 1;如果原有的记录被更新,则受影响行的值为 2。

注释:如果列 b 也是唯一列,则 INSERT 与此 UPDATE 语句相当:

  1. mysql> UPDATE table SET cc=c+1 WHERE a=1 OR b=2 LIMIT 1; 

如果 a=1 OR b=2 与多个行向匹配,则只有一个行被更新。通常,您应该尽量避免对带有多个唯一关键字的表使用 ON DUPLICATE KEY 子句。您可以在 UPDATE 子句中使用 VALUES(col_name) 函数从 INSERT…UPDATE 语句的 INSERT 部分引用列值。换句话说,如果没有发生重复关键字冲突,则 UPDATE 子句中的 VALUES(col_name) 可以引用被插入的 col_name 的值。本函数特别适用于多行插入。VALUES() 函数只在 INSERT…UPDATE 语句中有意义,其它时候会返回 NULL。

示例:

  1. mysql> INSERT INTO table (a,b,c) VALUES (1,2,3),(4,5,6) 
  2.  
  3. -> ON DUPLICATE KEY UPDATE c=VALUES(a)+VALUES(b); 

本语句与以下两个语句作用相同:

 

mysql> INSERT INTO table (a,b,c) VALUES (1,2,3)

-> ON DUPLICATE KEY UPDATE c=3;

mysql> INSERT INTO table (a,b,c) VALUES (4,5,6)

-> ON DUPLICATE KEY UPDATE c=9;

 

当您使用 ON DUPLICATE KEY UPDATE 时,DELAYED 选项被忽略。 

责任编辑:庞桂玉 来源: ITPUB
相关推荐

2011-08-16 09:21:30

MySQL大数据量快速语句优化

2015-03-09 10:40:44

MySQL大量数据插入

2018-09-06 16:46:33

数据库MySQL分页查询

2009-04-02 10:59:57

优化插入MySQL

2020-07-19 10:53:42

数据库MySQL迁移

2011-04-18 11:13:41

bcp数据导入导出

2023-12-01 10:19:00

接口优化事务

2010-12-01 09:18:19

数据库优化

2020-04-24 21:41:45

MySQL数据库插入数据

2015-09-25 11:03:14

数据中心日志分析

2009-07-15 18:01:53

Jython数据库

2021-04-07 10:20:31

MySQL数据库命令

2012-12-26 09:23:56

数据库优化

2018-07-11 20:07:06

数据库MySQL索引优化

2019-08-16 09:46:51

2017-07-28 11:31:59

iOS结构优化项目

2024-07-30 15:56:42

2009-12-08 09:21:13

WCF数据量

2020-06-29 19:15:54

MySQL 数据量性能

2024-02-22 10:27:00

Python开发
点赞
收藏

51CTO技术栈公众号