Visual Studio调试之断点技巧篇补遗

原文链接地址：http://blog.csdn.net/Donjuan/article/details/4649372

讲完Visual Studio调试之断点技巧篇以后，翻翻以前看得一些资料和自己写的一些文章，发现还有几个关于中断程序的技巧在前面的文章里面遗漏了，决定还是在这里总结一下。当然啦，如果你知道这些技巧，忽略这篇文章好了，:)

在程序启动的时候将调试器附加上去

可能有人会对这个问题有一些争议,因为大部分情况下我们只需要在调试器(Debugger)里面直接启动被调试程序(Debuggee)就可以在程序启动前调试程序了。

但有些情况下，你是不能控制被调试程序(Debuggee)在什么时候启动的。例如在DCOM环境里面，DCOM客户端(Client)可以通过调用CoCreateInstanceEx(…, CTX_LOCAL_SERVER, …)启动DCOM服务器(Server)，启动DCOM服务器的过程是在COM库中进行的，你没有办法将在DCOM服务器的WinMain函数之前将你的调试器附加(Attach)上去。Windows提供了一个功能就是在一个程序启动的时候，自动将设置好的调试器附加到这个新启动的程序上去。这里我就是要介绍这个功能：

或者说你需要调试一个Windows服务的启动部分，在服务启动的时候，让调试器附加上去岂不是比在Start()函数里面打印很多跟踪信息要好很多？

在程序启动的时候将调试器附加上去实际上是Windows操作系统提供的功能，呃……当然，调试器之所以能工作，也是CPU和操作系统通力合作的结果，:)。因此你需要修改一些操作系统里面的设置：

1. 打开注册表编辑器（regedit.exe）.

2. 找到键值HKEY_LOCAL_MACHINE/SOFTWARE/Microsoft/Windows NT/CurrentVersion/Image File Execution Options/。

3. 新建一个键（Key），键名就是你要调试的程序的文件名，例如notepad.exe。

4. 然后在这个新建的键值（Key）下，在我们的例子里，这个键值是notepad.exe。新建一个字符串值（String Value）Debugger，值设置为你喜欢的调试器：

a. 如果选择Visual Studio的话，就是D:/Program Files/Microsoft Visual Studio 9.0/Common7/IDE/devenv.exe（假设你的Visual Studio安装在D盘）

b. 选择Windbg的话，就是c:/debuggers/windbg.exe（假设你的Windbg拷贝在c:/debuggers/目录里）。

设置好了以后，启动notepad.exe，这个时候你选择的调试器就会被Windows先启动起来，然后在notepad.exe的入口处中断。换句话说，所有的程序，都可以使用这种方法在启动的时候自动激活调试器，当然啦，如果你已经修复了你的问题，不需要调试器在程序启动之前启动的话，在注册表里面删掉那个键值就好了。

如何设置验尸调试(POSTMORTEM DEBUGGER)

首先先讲一下什么叫做验尸调试，大家应该都有这个体验，当一个程序突然崩溃的时候，Windows会不失时机弹出一个对话框，问你是否要发送错误报告给微软。其实这个对话框叫做Watson，是Windows自带的一个非常简单的调试器，它的工作就是将程序的内存拷贝下来保存到一个文件当中。这个过程就是验尸调试的准备步骤，因为程序加载进内存以后，术语叫做进程，当进程崩溃的时候，就是意外死亡嘛，当然进程正常结束那叫做自然死亡。一般我们只对意外死亡的进程比较感兴趣，就跟电视里警匪片里面描写的那样，一个无辜的配角死掉了，警察第一步总是要保护现场，带尸体回去，让法医验尸。进程意外死亡的时候，Windows区别进程是否是意外死亡的方式很简单，就是看进程里面是否有未处理的异常。Windows也提供了一个选项，可以让你把犯罪现场--进程发生异常的时候的内存保留下来（进程的尸体），你可以在晚一点的时候来慢慢分析这个内存（比如看一看堆栈，一些变量什么的）--这个过程就叫做验尸。

验尸调试对下面这种情况很有帮助：

1. 重现很难重现的bug，比如说你有一个bug是随机出现，但是每次出现都会把程序搞死，与其绞尽脑汁去回忆重现步骤，还不如直接把犯罪现场保留下来，慢慢分析。

启动非托管程序的验尸调试功能

跟在程序启动时将调试器附加上去类似，验尸调试实际上也是Windows提供的功能，启动验尸调试，你需要修改下面的注册表设置：

在//HKEY_LOCAL_MACHINE/Software/Microsoft/Windows NT/CurrentVersion/AeDebug里面，分别创建下面两个键：

如图所示：

里面的键值说明一下：

Debugger：指定了用来执行验尸调试的调试器文件名的完整路径，-p和-e是调试器的一些命令行参数，而%ld则是一个占位符，Windows会把死亡的进程的PID替换%ld这个值（读者如果熟悉批处理编程的话，就应该知道%ld实际上是批处理程序的参数的声明方式）。vsjitdebugger.exe是Visual Studio用来处理验尸调试的调试器名称，如果你安装了Visual Studio，VS的安装程序应该会自动为你设置好这个键。
Auto：如果值是1的话，那么windows就会自动在进程死亡的时候，启动调试器；如果为0的话，就会打开一个对话框问你是否要执行验尸调试—但是Windows 7如果是这个选项的话，会直接禁用验尸调试，因此我推荐将Auto的值总是设置成1。

备注：对于偏好windbg的读者，你有两个方案将Windbg设置成默认的验尸调试程序：

直接执行 windbg –I 这个命令，注意I要大写。
将Debugger的键值设置为："c:/Debuggers/windbg.exe" -p %ld -e %ld –g

设置好了以后，我们可以写一个测试程序来试一下刚才的设置：

Test.cpp

#include "stdafx.h"

int _tmain(int argc, _TCHAR* argv[])

{

int *p = NULL;

// 触发一个异常

*p = 0;

return 0;

}

使用命令cl.exe /Zi test.cpp编译好程序以后，执行test.exe，你应该就可以看到类似下面的现象了：

启动托管程序的验尸调试功能

然而，上面的设置仅对native程序有效，如果要设置托管程序的默认验尸调试器，在//HKEY_LOCAL_MACHINE/Software/Microsoft/.NETFramework里面，分别创建下面两个键：

使用上面的设置，你应该可以做所有非Winform托管程序的验尸调试了。

启动Winform程序的验尸调试功能

然而，当你的Win form程序崩溃(Crash)的时候,你会发现你设置的默认验尸调试器没有运行起来,原因是因为Win form程序默认禁用了即时调试(JIT Debug)的功能。因此要设置Win form程序的默认验尸调试器，你除了做上面的步骤以外，你还要将Win form程序的即时调试功能打开。打开的方法：

1. 修改你机器的machine.config文件，这样机器上所有的Win form程序都会将这个即时调试功能打开。在<configuration>里面添加下面一行：

<system.windows.forms jitDebugging="true" />

2. 修改单独程序的的app.config文件打开单个Win form程序的即时调试功能。在<configuration>里面添加下面一行：

<system.windows.forms jitDebugging="true" />

例如：

<?xml version="1.0" encoding="utf-8" ?>

<configuration>

  <system.windows.forms jitDebugging="true" />

</configuration>

使用Visual Studio的RPC调试功能同时调试COM程序的客户端和服务端

参看我以前的文章：

http://blog.csdn.net/Donjuan/archive/2009/01/23/3851586.aspx