Windows下使用Gflags检查内存越界

环境:windows xp. vs2005

Gflags可用于查找内存越界的问题。

访问一块申请的内存时，当访问的地址超过申请的范围时，就发生了内存越界的问题。

编写测试程序MemoryOverflow.exe。在程序中，Fun函数使用new申请了16个字节的内存，因此p[0]~p[15]都是可访问的合法地址。

 #include <iostream>
 using namespace std;

 int Fun()
 {
     char *p = new char[];
     memset(p, 0x00, *sizeof(char));

     p[]  = ; //合法改写
     p[] = ; //合法改写
     p[] = ; //越界，delete可检查出来
     p[] = ; //越界，delete可检查出来
     p[] = ; //越界，delete可检查出来
     p[] = ; //越界，delete可检查出来
     p[] = ; //越界，Gflags可检查出来

     delete p;
     p = NULL;

     return ;
 }

 int main()
 {
     Fun();

     return ;
 }

在VS2005Debug模式下，每次使用new申请一块内存时，会多出36个字节，其中32个字节在P的前面，4个字节在p的后面。后面4个字节保护区以0xFD进行填充。如果p后面的4个字节被改写掉，则在delete时会校验失败。

发生内存越界时，一般不会有异常发生，而是可能在后面的代码中发生异常。Gflags能在发生内存越界时，就立即提示出来。

Gflags会在用户申请的内存后面分配一个保护区（一般是一个虚拟页，写保护属性），一旦发生内存越界，就会触发中断，定位发生内存越界的代码行。

在命令行中输入指令：Gflags.exe /p /enable MemoryOverflow.exe /full /unaligned        //非对齐方式完全启用page heap

使用VS2005调试MemoryOverflow.exe，当执行到 p[20] = 7;  时，就会提示内存越界了。