MySQL支撑百万级流量高并发的网站部署详解

数据库 MySQL
本文我们详细介绍了MySQL支持百万级流量高并发的网站的部署方法,希望能够对您有所帮助。

MySQL支撑百万级流量高并发的网站的部署方法是本文我们主要要介绍的内容,了解了这部分内容我们自己就能用MySQL来支撑百万级流量高并发的网站了,接下来我们就开始介绍这部分内容。

1. MySQL服务器集群

由于是小公司在资金和成本上都有所限制,而且在技术上也没有几个技术员接触过,所以这个方法自然就让大伙否决了。

这里说说我个人的理解!做集群不但添加资费的开销,而且在技术上也有很大的挑战,对于我们公司目前的情况是不大现实的。集群无非就是把一台服务器的压力转接到两台或是多台服务器上,我是这么理解的,也许我理解有误,还请大家指教。

2. 分而治之

这个方法和集群差不多,不过是把统计的代码放在不同的服务器上跑,由于公司有不少配置低的服务器跑几万到几十万IP还是没有问题的,我们可以把几百万流量分成十来个几十万的量分而统计。

优点:充分的利用了现在的资源,解决了目前的问题。

缺点:这样的方法不是长久之计,迟早还是会出问题的。而且在统计数据的时候比较麻烦。

3. 统计代码的修改

由于之前采用的是在插入数据之前加以判断,这个IP是否存在,来路等的处理,无形中增加了服务器的压力,所以大伙把统计代码改成来一个就插入数据库,不管三七二十一等以后在处理。

这个方法基本上把当天的数据保留下来了,可是在处理的时候由于数据量的庞大,来来回回还是把服务器跑死了,而且在插入的时候由于当时设计数据结构的时候留有的索引,也大大的消耗了不少的服务器资源。

那么把索引去掉到最后处理的时候又是老慢的,得不偿失。

4. 统计方式的修改

最后这一个方法,效果非常的明显。那是什么方法呢!

这里就主要介绍这个方法:

A、保留原用的数据结构不变,并把所有的数据按一定的结构存入文件

结构:可以是xml,json,也可以是你自己想的任何有规律的数据排放。

例如:

1) 221.2.70.52,http://www.baidu.com,windowxp\r\n

2) 221.2.70.52,http://www.baidu.com,windowxp\r\n

写入文件:fopen,fwrite??no 这里介绍一个非常好用的技巧,也许大家都知道,但是像我这样的菜鸟大概都不知道,那就是用error_log,这不是写错误日志的吗?对就是他,非常方便。

格式:

1 error_log("内容", 3, "/date.dat");

这里我就不说他的具体用了,不明白的朋友可以查一下手册。

B、数据文件的命名

为什么这里要讲文件的命名呢?如果就一味的把数据的写入文件不作任何的处理那么他和直接插入数据库有多大的区别呢?那么我们所作的一切都是无用功了。

首先是在时间的利用上:date(‘YmdH’)得到的值是如:2008121112这有什么好入,这样一来这个数据就是一个小时一个文件必免了文件过大,而且不用去判断自动生成。

IP的应用:由于在很多数据上都是一个IP操作的,所以把相同IP的数据放在一个文件里在后面的处理就非常方便处理。请看后面的介绍,这里我们取IP成三位为文件名字的一部分。

C、数据的导入处理

通过以上两位的操作当天的数据会一个不少的保留下来,接下来怎么处理其实并不是很重要了。但是这里还是讲讲我的想法。

入库前处理:

 

前面讲到把IP三位相同的放一个文件就是为了入库前到它们进行处理,首先可以用最笨的方法把数据拆成N个数据。在进行重复数据的删除。

如果一个IP浏览多页那么PV在这里就可以得到统计,并把访问的页面进行处理,组成新的数据。

导入方法:

这里要介绍一下数据的导入方法:1 $sql="LOAD DATA INFILE '".$file."' INTO TABLE `test` FIELDS TERMINATED BY ', ' LINES TERMINATED BY '\r\n'(2 3 `time` , `md5`4 5 )";就这一个语句,在导入几十万数据的时候可以说是十分快速的,用法我这里也不过多介绍了,大家有不明白的可以查手册,所以说解决数据库的瓶颈的办法不定要加设备,也不一定要换数据库,只要换一个思路就能解决不少问题。

以上就是MySQL支撑百万级流量高并发的网站的部署方法,本文就介绍到这里了,希望本次的介绍能够对您有所收获!

【编辑推荐】

  1. MySQL数据库my.cnf配置文件注释详解
  2. SQL Server数据库复制失败的原因及解决方案
  3. SQL Server 2005数据库游标调用函数实例解析
  4. MySQL数据库中EXPLAIN的使用及其注意事项详解
  5. SQL Server数据库用视图来处理复杂的数据查询关系
责任编辑:赵鹏 来源: 火魔网
相关推荐

2009-03-12 09:44:05

高并发开源数据库MySQL

2023-10-25 11:20:09

快手电商混合云容器云

2019-12-31 10:33:57

Netty高性能内存

2020-11-02 07:59:40

高并发系统业务

2017-01-09 16:06:19

2024-05-27 08:32:45

2018-09-11 09:25:37

高并发大流量网站

2019-02-27 09:46:05

数据库架构并发

2019-09-23 08:46:04

零拷贝 CPU内存

2019-02-12 09:34:00

微博短视频架构

2017-11-10 09:16:07

直播弹幕系统

2022-08-19 06:42:11

数据库高并系统

2019-01-24 09:42:55

系统高并发面试

2022-08-04 20:41:42

高并发流量SQL

2017-03-24 17:17:35

限流节流系统

2009-06-16 14:43:23

大型网站系统架构

2019-05-07 09:44:45

Redis高并发模型

2010-07-23 08:48:21

PHP架构

2024-03-04 00:02:00

Redis存储令牌

2011-11-03 13:59:05

点赞
收藏

51CTO技术栈公众号