在DirectX11下用Stencil Buffer绘制可视化Depth Complexity

这是一道在《Introduction to 3D Game Programming with DirectX 11》上的练习题。

要求把某个像素点上的Depth Complexity(深度复杂度?)可视化输出。Depth Complexity即某个点上有多少次depth test。

根据题目中的提示，我们可以用stencil buffer完成。

简要步骤如下：

1. 绘制场景，设置DepthStencilState为stencil test永远通过，通过后stencil buffer中的值+1。这样每个点绘制后在stencil buffer中的点就会+1。

2. 根据stencil buffer中的值绘制深度信息。
   
   要做到这一点，我们只需要置StencilFunc为D3D11_COMPARISON_EQUAL，此时只有在stencil buffer中的值和stencilRef中的值相同的像素点会通过测试。接着对所有的可能的深度值（比如0~5），把整个屏幕用设定的颜色重新绘制一遍即可。这里的绘制不需要具体的顶点信息，只需要覆盖整个屏幕即可（我们会绘制一个覆盖屏幕的四边形，在接下来的shader中可以看到我们是如何做到这一点的）

综上所述，我们需要创建两个depth stencil state，第一个用来绘制场景，同时给stencil buffer中对应的点+1。注意，这个depth stencil state应该设置为在不通过或者通过depth test时都为stencil buffer +1。

建立一个名为DepthCounterDSS的depth stencil state

	D3D11_DEPTH_STENCIL_DESC dsdesc = { 0 };
	dsdesc.DepthEnable = true;										//深度测试无所谓
	dsdesc.DepthFunc = D3D11_COMPARISON_LESS;
	dsdesc.DepthWriteMask = D3D11_DEPTH_WRITE_MASK_ALL;
	dsdesc.StencilEnable = true;
	dsdesc.StencilReadMask = 0xff;
	dsdesc.StencilWriteMask = 0xff;
	dsdesc.FrontFace.StencilFunc = D3D11_COMPARISON_ALWAYS;			//Stencil test永远通过
	dsdesc.FrontFace.StencilDepthFailOp = D3D11_STENCIL_OP_INCR;	//depth fail失败了也+1
	dsdesc.FrontFace.StencilPassOp = D3D11_STENCIL_OP_INCR;
	dsdesc.FrontFace.StencilFailOp = D3D11_STENCIL_OP_KEEP;			//不会失败，这项无意义。
	//背面被剔除了，下面这些设置无意义。
	dsdesc.BackFace.StencilDepthFailOp = D3D11_STENCIL_OP_INCR;
	dsdesc.BackFace.StencilFailOp = D3D11_STENCIL_OP_KEEP;
	dsdesc.BackFace.StencilFunc = D3D11_COMPARISON_ALWAYS;
	dsdesc.BackFace.StencilPassOp = D3D11_STENCIL_OP_INCR;

	HR(device->CreateDepthStencilState(&dsdesc, &DepthCounterDSS));

第二个depth stencil state用于绘制深度信息。需要做的工作就是让stencil buffer中的值和stencilRef相等时通过stencil test，否则不通过即可。

注意，此时我们要绘制的图形只有一个覆盖整个屏幕的四边形（两个三角形组成）。

建立一个名为DepthVisualDSS的depth stencil state

	D3D11_DEPTH_STENCIL_DESC dvdesc = { 0 };
	dvdesc.DepthEnable = false;										//深度测试无所谓
	dvdesc.DepthFunc = D3D11_COMPARISON_LESS;
	dvdesc.DepthWriteMask = D3D11_DEPTH_WRITE_MASK_ALL;
	dvdesc.StencilEnable = true;
	dvdesc.StencilReadMask = 0xff;
	dvdesc.StencilWriteMask = 0xff;
	dvdesc.FrontFace.StencilFunc = D3D11_COMPARISON_EQUAL;			//相等时才通过
	dvdesc.FrontFace.StencilDepthFailOp = D3D11_STENCIL_OP_KEEP;	//不管成功失败都不修改stencil buffer
	dvdesc.FrontFace.StencilPassOp = D3D11_STENCIL_OP_KEEP;
	dvdesc.FrontFace.StencilFailOp = D3D11_STENCIL_OP_KEEP;
	//背面无所谓。
	dvdesc.BackFace.StencilDepthFailOp = D3D11_STENCIL_OP_KEEP;
	dvdesc.BackFace.StencilFailOp = D3D11_STENCIL_OP_KEEP;
	dvdesc.BackFace.StencilFunc = D3D11_COMPARISON_EQUAL;
	dvdesc.BackFace.StencilPassOp = D3D11_STENCIL_OP_KEEP;
	HR(device->CreateDepthStencilState(&dvdesc, &DepthVisualDSS));

接下来我们修改DrawScene()函数，使其在绘制场景前设置stencil depth state为我们的DepthCounterDSS，然后照常绘制即可。（注意在绘制中途stencil depth state有无改变）

void BlendApp::DrawScene()
{
	md3dImmediateContext->ClearRenderTargetView(mRenderTargetView, reinterpret_cast<const float*>(&Colors::Silver));
	md3dImmediateContext->ClearDepthStencilView(mDepthStencilView, D3D11_CLEAR_DEPTH|D3D11_CLEAR_STENCIL, 1.0f, 0);
	md3dImmediateContext->OMSetDepthStencilState(RenderStates::DepthCounterDSS, 0); //StencilRef没有用
	//普通绘制
    //……
    //绘制结束，此时stencil buffer中存的就是每个像素的深度复杂度

    DrawComplexity();
}

再实现DrawComplexity函数

void BlendApp::DrawComplexity()
{

	ID3DX11EffectTechnique* quadTech = Effects::BasicFX->DepthVisual;
	D3DX11_TECHNIQUE_DESC techDesc;
	quadTech->GetDesc(&techDesc);
	for (UINT p = 0; p<techDesc.Passes; ++p)
	{
		for (int i = 0; i<10; ++i)			//假设最多有10层深度
		{
			md3dImmediateContext->OMSetDepthStencilState(RenderStates::DepthVisualDSS, i);	//设置stencilref=i

			Effects::BasicFX->SetDVColor(Colors::White/10*i);		//设置绘制颜色,i越大白色越浓

			quadTech->GetPassByIndex(p)->Apply(0, md3dImmediateContext);

			md3dImmediateContext->Draw(3, 0);		//绘制一个四边形，具体的顶点信息由vertex shader自己给出
		}
	}
}

以上代码中的DepthVisual是一个简单的对全屏幕进行一次指定颜色绘制的technique，shader代码如下。

cbuffer quadColor
{
    float4 gDVColor;
}

VertexOut VSfullscreenQuad(uint id : SV_VERTEXID)		//SV_VERTEXID由gpu给出，指定当前顶点序号
{
    VertexOut output;

	// 计算齐次坐标
    output.PosH.x = (float) (id / 2) * 4.0 - 1.0f;
    output.PosH.y = (float) (id % 2) * 4.0 - 1.0f;
    output.PosH.z = 0.0f;
    output.PosH.w = 1.0f;

    return output;
}

float4 PScolorOnly(VertexOut pin) : SV_Target
{
    return gDVColor;
}

technique11 DepthVisual
{
    pass P0
    {
        SetVertexShader(CompileShader(vs_5_0, VSfullscreenQuad()));
        SetGeometryShader(NULL);
        SetPixelShader(CompileShader(ps_5_0, PScolorOnly()));
    }
}

完成效果如下