上亿的sql server表进行join的问题

数据库 SQL Server
对上亿的sql server表进行join操作,会导致系统失去响应,下面就将为您介绍这种问题的解决办法,如果您对此感兴趣的话,不妨一看。

面对sql server表进行查询,如果数量极大,甚至以亿计算,应该怎么处理呢?下面就将为您介绍上亿的sql server表操作的办法,供您参考。

对上亿的sql server表进行排序或者上亿的表之间进行join,会导致系统失去响应。

◆1.我确实做了一个很大的查询,涉及的sql server表有两亿条记录,而且有一个group by操作,造成CPU、内存和磁盘开销均很大。后来和微软的人重新实验了一下,我的查询确实会造成系统反应变慢。后来我们也实验了一下,在这个2亿的表上统计一下行数,即select count(*) from table1,用了1分钟,内存涨了5G左右,磁盘子系统负荷很大,CPU也突然提高。这说明这种上亿的sql server表的操作会非常严重的降低效率。

◆2.整个服务器的磁盘分配是这样的,网站访问的数据库库位于磁盘阵列中,而我们的统计临时库位于D盘中,C和D好像是一个磁盘组,也就相当于是在C盘。我们的数据库的大量磁盘I/O会导致系统的反应变慢。因此当我的查询很大的时候,就会使服务器整个系统变慢。

◆3.数据库的数据文件的自增长方式为每次1024k,数据文件的空间已经接近用光,而要发生增长,而增长空间要求应该比较大,所以就会不停的申请增长,造成磁盘开销较大。

◆4.操作中涉及到delete操作,会形成大量的日志,而上周扩容后,发现日志文件比以前缩小了,估计是重建了,昨天的操作会导致日志文件也要不断增长,也会造成磁盘的负荷加大。

解决办法:
针对一:

避免大表操作,所有的操作均可以按省或者时间分开,这样无论从时间或者地域维度,基本上可以将大表拆成30张以上的小表操作,甚至更多。然后再对结果进行合并,应该可以避免上述问题。

针对二:

无解决方案,只是建议将我们的数据库也单独分到一组磁盘上去,不要跟系统竞争。

针对三:

及时删除无用的临时数据,保障数据库空间,同时也可以做上空间监控,一旦数据文件空间发生增长时,给DBA一个预警邮件,我们收到邮件后可以立即做相应处理。

针对四:
日志文件目前已经涨得较大,我们执行一下截断日志的动作,将日志文件的空间使用保持在一个较低水平。
 

 

 

【编辑推荐】

SQL Server临时表简介

SQL SERVER索引介绍

Sql Server日期格式转换示例

使用ADO在sql server建表的方法

SQL函数之DATEPART函数

责任编辑:段燃 来源: 博客园
相关推荐

2011-04-07 13:53:04

SQL Server数

2021-01-18 05:23:14

SQL 排序Server

2011-04-13 14:20:52

SQL Server主键

2015-07-20 17:05:38

SQL ServerNULL值

2022-05-11 10:43:02

美团数据库优化

2010-09-16 15:25:46

SqlServer20

2010-07-01 12:56:07

SQL Server表

2010-10-19 16:40:34

sql server挂

2010-07-23 14:11:18

SQL Server

2010-07-14 11:35:57

SQL Server修

2010-09-14 11:36:37

SQL Server系

2010-11-10 14:54:24

SQL Server系

2010-10-19 14:45:01

SQL SERVER临

2011-05-19 14:40:33

SQL Server

2010-09-16 14:13:11

SQL Server系

2024-09-27 08:44:43

2010-07-26 14:09:32

SQL Server

2010-07-01 12:38:26

SQL Server表

2010-10-21 15:13:20

SQL Server系

2010-09-25 10:05:25

sql server主
点赞
收藏

51CTO技术栈公众号