走进异步世界:EnyimMemcached异步化改造引起的内存泄漏

开发 后端
造成内存泄漏的根源是我们没有对SocketAsyncEventArgs进行Dispose,实际情况是我们当时根本没注意到SocketAsyncEventArgs实现了IDispose接口,而这个小小的疏忽竟然折腾了我们一个星期。

6月30日我们发布了异步化改造后的博客程序之后,出现了高内存、高CPU、高线程数的不理想情况。

经过一周的追查,终于水落日出——引起不理想情况的根源是我们修改过的EnyimMemcached代码存在内存泄漏问题。

而造成内存泄漏的根源是我们没有对SocketAsyncEventArgs进行Dispose,实际情况是我们当时根本没注意到SocketAsyncEventArgs实现了IDispose接口,而这个小小的疏忽竟然折腾了我们一个星期。

存在内存泄漏问题的代码是这样写的:

a) 异步从Socket中读取数据:

  1. public async Task<byte[]> ReadBytesAsync(int count)  
  2. {  
  3.     var args = new SocketAsyncEventArgs();  
  4.     args.SetBuffer(new byte[count], 0, count);  
  5.     var awaitable = new SocketAwaitable(args);  
  6.     await this.socket.ReceiveAsync(awaitable);              
  7.     return args.Buffer;  

b) 异步向Socket中写入数据:

  1. public async Task WriteSync(IList<ArraySegment<byte>> buffers)  
  2. {  
  3.     var args = new SocketAsyncEventArgs();  
  4.     args.BufferList = buffers;  
  5.     var awaitable = new SocketAwaitable(args);  
  6.     await this.socket.SendAsync(awaitable);  

解决内存泄漏问题的方法很简单,using+Buffer.BlockCopy,代码如下:

a) 改进后的异步从Socket中读取数据:

  1. public async Task<byte[]> ReadBytesAsync(int count)  
  2. {  
  3.     using (var args = new SocketAsyncEventArgs())  
  4.     {  
  5.         args.SetBuffer(new byte[count], 0, count);  
  6.         var awaitable = new SocketAwaitable(args);  
  7.         await this.socket.ReceiveAsync(awaitable);  
  8.         var receivedBytes = new Byte[args.BytesTransferred];  
  9.         Buffer.BlockCopy(args.Buffer, 0, receivedBytes, 0, args.BytesTransferred);  
  10.         return receivedBytes;  
  11.     }  

b) 改进后的异步向Socket中写入数据:

  1. public async Task WriteSync(IList<ArraySegment<byte>> buffers)  
  2. {  
  3.     using (var args = new SocketAsyncEventArgs())  
  4.     {  
  5.         args.BufferList = buffers;  
  6.         var awaitable = new SocketAwaitable(args);  
  7.         await this.socket.SendAsync(awaitable);  
  8.     }              

改进后的代码已发布至github:https://github.com/cnblogs/EnyimMemcached

你也许会问我们是如何监测到内存泄漏情况的呢?

我们借助于两个工具:Windows任务管理器与性能监视器。

1. 通过任务管理器,我们观察到w3wp占用的内存会持续增长,当到达5G左右,在8核8G的阿里云虚拟机上CPU就开始做坐过山车,只有回收程序池(重启w3wp进程)才能恢复正常。

2. 通过性能监视器,我们监测了两个指标:

a) \.NET CLR Memory(w3wp)\# Bytes in all Heaps (针对托管内存)

b) \Process(w3wp)\Private Bytes (针对非托管内存)

观察到的情况见下图:

性能监视器Bytes in all Heaps与Private Bytes

(绿色是Private Bytes

Bytes in all HeapsPrivate Bytes都会出现持续增长。

而对SocketAsyncEventArgs进行Dispose之后,性能监视器看到的\.NET CLR Memory\# Bytes in all Heaps变成了这样:

性能监视器Bytes in all Heaps

\Process\Private Bytes也与Bytes in all Heaps相映成辉:

性能监视器Private Bytes

一看到这样的图形,你应该和我们一样感觉到了GC在背后辛勤工作的身影。 

原文链接:http://www.cnblogs.com/cmt/p/sokcet_memory_leak.html

责任编辑:林师授 来源: 博客园团队
相关推荐

2017-11-14 10:23:20

HTTP服务异步

2016-09-08 16:16:26

iOS移动应用内存泄漏

2023-06-02 18:37:14

Dubbo异步化接口

2021-11-29 18:34:14

内存异步死循环

2011-08-29 09:59:26

2012-01-09 10:55:44

虚拟化桌面虚拟化KVM

2022-06-15 16:04:13

Java编程语言

2013-04-01 15:25:41

异步编程异步EMP

2011-02-22 08:49:16

.NET同步异步

2013-04-01 15:38:54

异步编程异步编程模型

2022-01-10 09:31:17

Jetty异步处理seriesbaid

2018-10-18 09:34:16

高并发异步化并行化

2011-02-22 09:09:21

.NETAsync CTP异步

2011-06-02 09:39:29

ADO.NET

2021-01-15 11:01:42

IT系统漏洞网络攻击

2011-02-24 12:53:51

.NET异步传统

2010-09-14 10:15:24

2013-08-07 10:07:07

Handler内存泄露

2017-07-06 17:39:53

JavaScript开发程序员

2024-07-31 15:57:41

点赞
收藏

51CTO技术栈公众号