OpenGL shader 中关于顶点坐标值的思考

今天工作中需要做一个事情：

在shader内部做一些空间距离上的计算，而且需要对所有的点进行计算，符合条件的显示，不符合条件的点不显示。

思路很简单，在vertex shader内知道顶点坐标，进行计算，算好以后判断是否需要显示，例如设置alpha值，那么再将alpha值传给fragment shader，在里面设置alpha的值就好了。

基本代码如下

// vertex shader
#version 300 es
in vec4 vPosition;
in vec2 vTexCoord;
out float alpha;
void main() {
    alpha = 1.0f;
    if (vPosition...) {
        alpha = 0.0f;
    }
}

// fragment shader
#version 300 es
in float alpha;
void main() {
    // set the color..
}

看起来天衣无缝，逻辑合理，实际运行出现问题。由于我绘制的是一个球形，然后希望部分球面不显示，仅显示部分球面，基本功能确实实现了，但是显示与隐藏的边缘特别的粗糙，有特别大的锯齿。仔细思考一下，绘制球形是从上到下绘制三角形带得到的，出现的锯齿很有可能就是三角形的边。也就是说在计算的时候，很有可能是取了上传的顶点数据来进行计算，而没有对每一个点进行计算，所以只能判断若干顶点，而不是每一个点。

回顾一下 OpenGL 渲染管线的知识,在光栅化阶段，如何根据三个点画出三角形？如何获得每个点的纹理坐标？

通过光栅化将顶点按照拓扑结构渲染到屏幕上。例如，如果我们要绘制一个三角形那就意味着要找出位于三角形内部的所有点。对于这样每一个点，在光栅化过程中都会调用片元处理器对其进行处理。在片元处理器中我们可以通过对纹理进行取样或者使用其他技术来确定像素的颜色。

光栅器在三角形的三个顶点之间执行插值（比如说扫描线算法或者其他技术），并且通过执行片元着色器来“访问”三角形内的每一个像素点。片元着色器会返回此片元的颜色值，光栅器会将这个颜色值更新到颜色缓冲区内并最终显示出来（在通过一些其他测试例如深度测试之后），而从顶点着色器中传出的其他任何变量都不会经历上述步骤。如果片元着色器没有明确的表示要使用那个变量（对于同一个顶点着色器，我们可以有多个片元着色器与之对应），那么一个驱动优化程序将对 VS 进行优化，并丢弃 VS 中的任何只影响该变量的指令（这个特定的程序指的是由一个 VS 和 FS 组合成的 Shader 程序）。然而如果 FS 确实用到这个变量，那么光栅器在光栅化过程会对这个变量进行插值。这通常意味着紧挨着的两个像素之间的值会有一点差异（尽管三角形离相机越远，这种现象会越来越不明显）。

来源

结论：在vertex shader内对顶点做计算是错误的，一定要在fragment shader内，利用OpenGL插值的功能，拿到每一个点的坐标值，再进行计算。