DotTrace系列:7. 诊断 托管和非托管 内存暴涨
一:背景1. 讲故事
分析托管和非托管内存暴涨,很多人潜意识里都会想到抓dump上windbg分析,但我说可以用dottrace同样分析出来,是不是听起来有点让人惊讶,哈哈,其实很正常,它是另辟蹊径采用底层的ETW机制,即开启 windows 底层日志,所以 dottrace 可以做,官方血统的 perfview 就更可以了,话不多说,这篇就来开干吧。
二:托管和非托管内存分析
1. 托管内存暴涨
用 windbg 分析的话,基本上就是 !eeheap -gc +!dumpheap -stat + !gcroot 三板斧搞定,但dump的分析方式也不全是优点,它最大的缺点就是dump>20G 时,windbg 基本上就分析不动了,这个很致命,而且 >20G 的dump在分发方面也很麻烦,费时费力,所以在这种情况下,可以借助摄像头dottrace来解决此类问题。
比如有这样的一个场景:我有一个程序平时都是好好的,最近修复了一个bug,上线之后不知道为什么就吃了 4.4G+的内存,这明显是超出预期的,现在很惶恐,截图如下:
我用 vmmap 简单看了下发现主要是 托管堆 的泄露,截图如下:
由于dump是非常保密的,不适合分发给第三方,在生产上搭建windbg工作台也不是很方便,有没有轻量级的工具直接分析呢?哈哈,这时候就可以考虑下 dotrrace,它可以帮你找出托管内存分配都是从哪个方法出来的。
使用 dotrace 初始化跟踪或者附加进程一段时间后,采集到的跟踪文件如下:
从 Filters 面板中可以看到有一个 .NET Memory Alocations 项,上面记录着当前程序分配的内存总量,接下来就可以选中进行下钻分析,截图如下:
从卦中可以清晰的看到如下信息:
[*]托管内存主要被 LOH 大对象堆给吃了
[*]托管堆上最多的对象是 System.Byte[]
看到这里心里就踏实多了,接下来选中 System.Byte[],看下这些分配都藏在哪些方法里,接下来选择 Hotspots 中的 Plain List 选项,截图如下:
从卦中可以看到内存主要被 LoadCustomerAttachments 方法给吃掉了,接下来点击 Show Code 观察该方法源码,代码参考如下:
static void LoadCustomerAttachments()
{
Console.WriteLine($"[客户附件] 开始加载 (线程ID: {Thread.CurrentThread.ManagedThreadId})");
try
{
var attachments = new Dictionary<int, byte[]>();
for (int i = 0; i < 30; i++)
{
attachments = new byte;
for (int j = 0; j < attachments.Length; j += 1024)
{
attachments = (byte)(i + j);
}
// 每5个附件输出一次进度
if (i % 5 == 0)
{
Console.WriteLine($"[客户附件] 已加载 {i} 个附件 ({(i + 1) * 100}MB)");
}
}
Console.WriteLine($"[客户附件] 加载完成,共{attachments.Count}个附件");
}
catch (OutOfMemoryException ex)
{
Console.WriteLine($"[客户附件] 内存不足错误: {ex.Message}");
}
}到这里基本就真相大白,是不是有点像 ust 效果。
2. 非托管内存暴涨
不管是 linux 还是 windows,分析非托管内存泄露都是一个很苟的活,如果非托管内存的泄露是在 ntheap 上,除了重量级的 dump 分析之后,还可以使用轻量级的 dottrace,你没听错,dottrace 是可以分析 ntheap 堆泄露,前提就是勾选上 Collect only unreleased allcations,其实本质也是借助底层的 ETW 事件,截图如下:
为了方便演示,我用 C# 调用 C++ 来实现一个NTHEAP 的非托管内存泄露,然后借助 dottrace 快速分析,首先定义几个C 导出函数,代码如下:
extern "C"
{
_declspec(dllexport) void HeapMalloc1(int bytes);
_declspec(dllexport) void HeapMalloc2(int bytes);
_declspec(dllexport) void HeapMalloc3(int bytes);
}
#include "iostream"
#include <Windows.h>
using namespace std;
void HeapMalloc1(int bytes)
{
int* ptr = (int*)malloc(bytes);
printf("bytes=%d ,分配完毕\n", bytes);
}
void HeapMalloc2(int bytes)
{
int* ptr = (int*)malloc(bytes);
printf("bytes=%d ,分配完毕\n", bytes);
}
void HeapMalloc3(int bytes)
{
int* ptr = (int*)malloc(bytes);
printf("bytes=%d ,分配完毕\n", bytes);
}接下来通过C#不断的调用这几个函数,其中 HeapMalloc1 方法会泄露 2G 的内存,参考代码如下:
namespace MemoryLeakSimulator
{
internal class Program
{
extern static void HeapMalloc1(int bytes);
extern static void HeapMalloc2(int bytes);
extern static void HeapMalloc3(int bytes);
static void Main(string[] args)
{
// Configure target leaks (in bytes)
long targetLeak1 = 2L * 1024 * 1024 * 1024;// 2GB for HeapMalloc1
long targetLeak2 = new Random().Next(500, 1000) * 1024L * 1024;// 500MB-1GB for HeapMalloc2
long targetLeak3 = new Random().Next(500, 1000) * 1024L * 1024;// 500MB-1GB for HeapMalloc3
// Chunk size (e.g., 100MB per iteration)
int chunkSize = 100 * 1024 * 1024;
// Thread 1: Leak 2GB in chunks
Thread thread1 = new Thread(() =>
{
long leaked = 0;
while (leaked < targetLeak1)
{
int allocate = (int)Math.Min(chunkSize, targetLeak1 - leaked);
HeapMalloc1(allocate);
leaked += allocate;
Console.WriteLine($"HeapMalloc1: Leaked {leaked / (1024 * 1024)}MB / {targetLeak1 / (1024 * 1024)}MB");
Thread.Sleep(100); // Delay between allocations
}
});
// Thread 2: Leak 500MB-1GB in chunks
Thread thread2 = new Thread(() =>
{
long leaked = 0;
while (leaked < targetLeak2)
{
int allocate = (int)Math.Min(chunkSize, targetLeak2 - leaked);
HeapMalloc2(allocate);
leaked += allocate;
Console.WriteLine($"HeapMalloc2: Leaked {leaked / (1024 * 1024)}MB / {targetLeak2 / (1024 * 1024)}MB");
Thread.Sleep(100);
}
});
// Thread 3: Leak 500MB-1GB in chunks
Thread thread3 = new Thread(() =>
{
long leaked = 0;
while (leaked < targetLeak3)
{
int allocate = (int)Math.Min(chunkSize, targetLeak3 - leaked);
HeapMalloc3(allocate);
leaked += allocate;
Console.WriteLine($"HeapMalloc3: Leaked {leaked / (1024 * 1024)}MB / {targetLeak3 / (1024 * 1024)}MB");
Thread.Sleep(100);
}
});
// Start all threads
thread1.Start();
thread2.Start();
thread3.Start();
// Wait for completion
thread1.Join();
thread2.Join();
thread3.Join();
Console.WriteLine("All leaks completed!");
Console.ReadLine();
}
}
}启动dottrace跟踪,跟踪完成之后,在 Filters 面板中有一个 Native Allocations 项,上面记录了当前程序已泄露 3.5G 内存,截图如下:
说实话有一点我想吐槽,dotTrace 为什么要将 Native Memory 和 NtHeap 做等价,Ntheap 只是 Native Memory 的子集,会让人觉得 Stack泄露,VirtualAlloc泄露都归到当前的 Native Allocations 中,这是一个很大的误解,所以更合适的名字叫 NtHeap Allocations。
接下来选中 Native Allocations 项下钻,可以清楚的看到各个线程泄露的百分比以及对应的函数,截图如下:
到这里我们终于知道原来 HeapMalloc1泄露了2G内存,HeapMalloc2泄露了800M内存,HeapMalloc3泄露了 640M 内存,真相大白。
三:总结
是不是觉得非常的棒,大家以后在分析托管或非托管内存的时候,在必要的场景下记得用 dottrace 哦。
作为JetBrains社区内容合作者,如有购买jetbrains的产品,可以用我的折扣码 HUANGXINCHENG,有25%的内部优惠哦。
来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
页:
[1]