[开发工具]定位内存写入溢出的方法

问题描述

C/C++ 使用 alloc 或 new 来分配内存, 但是写入时越界了, 这个问题麻烦的地方在于, 通常情况下(包括debug版本), 内存写入越界的时刻 并不会导致程序crash, 而通常是在 去free这片内存(或其他底层操作)时, 发现 0xfdfdfdfd 栅栏被破坏了才会出现crash, 暴露问题

那么, 问题的关键就在于 如何能定位到 最早是哪里发生的写入溢出

解决方法

当 单纯的作code review 或 code diff 无法解决时, 可以尝试借助 启用页堆,

如下是我的理解:
该方法的原理是仅仅分配必要大小的内存区域, 区域外的内存均为不可读写, 
一旦读写会抛内存非法读写的错误, 而且每次分配的内存区域都有较大间隔

操作方法(仅Windows)

1. 将源码中的内存分配函数由 new/delete, malloc/free 替换为 HeapAlloc/HeapFree
2. 使用gflags修改程序的全局配置
   • 该配置应该是操作了注册表
   • gflags 为 windbg 包中的工具, 下载地址为: winsdksetup
   • 修改命令为

   	# 开启
   	"C:\Program Files (x86)\Windows Kits\10\Debuggers\x86\gflags.exe" -p /enable myProgram.exe /full
   	# 关闭
   	"C:\Program Files (x86)\Windows Kits\10\Debuggers\x86\gflags.exe" -p /disable myProgram.exe
   

3. 然后启动程序, 可以调试运行, 也可以启动后Attach
   • 可以尝试观察内存分配位置附近的内存
     下图中ptr+40 后续的内存还是 可读可写的
     

而当启用页堆后, ptr+40 后续的内存还是不可读写的, line32执行时必将导致 非法访问

特别感谢

张银奎老师