【视频处理】YUV与RGB格式转换

YUV格式具有亮度信息和色彩信息分离的特点，但大多数图像处理操作都是基于RGB格式。

因此当要对图像进行后期处理显示时，需要把YUV格式转换成RGB格式。

RGB与YUV的变换公式如下：

　　

YUV(256 级别) 可以从8位 RGB 直接计算：

Y = 0.299 R + 0.587 G + 0.114 B

U = - 0.1687 R - 0.3313 G + 0.5 B + 128

V = 0.5 R - 0.4187 G - 0.0813 B + 128

反过来，RGB 也可以直接从YUV (256级别) 计算:

R = Y + 1.402 (Cr-128)

G = Y - 0.34414 (Cb-128) - 0.71414 (Cr-128)

B = Y + 1.772 (Cb-128)

YUV格式比较多，下面以YV12格式为例，说明YV12格式转化成RGB24格式的方法。

其基本思路是按照RGB与YUV的变换公式进行逐像素的计算，但具体实现过程中，优化方法和技巧影响最终的转换效率。

说明：为了方便查看转换后的结果，在实现过程中，是BGR24格式代替RGB24格式，其转换过程是不变。

1. 基本实现

按照YUV与RGB的变换公式，逐像素访问Y、U、V分量的值，并转换成RGB。

bool YV12ToBGR24_Native(unsigned char* pYUV,unsigned char* pBGR24,int width,int height)
{
    if (width <  || height <  || pYUV == NULL || pBGR24 == NULL)
        return false;
    const long len = width * height;
    unsigned char* yData = pYUV;
    unsigned char* vData = &yData[len];
    unsigned char* uData = &vData[len >> ];

    int bgr[];
    int yIdx,uIdx,vIdx,idx;
    for (int i = ;i < height;i++){
        for (int j = ;j < width;j++){
            yIdx = i * width + j;
            vIdx = (i/) * (width/) + (j/);
            uIdx = vIdx;

            bgr[] = (int)(yData[yIdx] + 1.732446 * (uData[vIdx] - ));                                    // b分量
            bgr[] = (int)(yData[yIdx] - 0.698001 * (uData[uIdx] - ) - 0.703125 * (vData[vIdx] - ));    // g分量
            bgr[] = (int)(yData[yIdx] + 1.370705 * (vData[uIdx] - ));                                    // r分量

            for (int k = ;k < ;k++){
                idx = (i * width + j) *  + k;
                if(bgr[k] >=  && bgr[k] <= )
                    pBGR24[idx] = bgr[k];
                else
                    pBGR24[idx] = (bgr[k] < )?:;
            }
        }
    }
    return true;
}

2. 基于查表法的实现

逐一访问像素，进行浮点运算，比较耗时，因而利用空间换时间思路，以查找表来替代转换过程中的一些计算。

优化过程可参考：http://blog.csdn.net/colorant/article/details/1913162/

static int Table_fv1[] = { -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -,  -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -,  -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -,-, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -,  -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,  , , , , , , , , , , , , , , , , , , , ,  };
static int Table_fv2[] = { -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,  };
static int Table_fu1[] = { -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,  };
static int Table_fu2[] = { -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, -, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,  };

bool YV12ToBGR24_Table(unsigned char* pYUV,unsigned char* pBGR24,int width,int height)
{
    if (width <  || height <  || pYUV == NULL || pBGR24 == NULL)
        return false;
    const long len = width * height;
    unsigned char* yData = pYUV;
    unsigned char* vData = &yData[len];
    unsigned char* uData = &vData[len >> ];

    int bgr[];
    int yIdx,uIdx,vIdx,idx;
    int rdif,invgdif,bdif;
    for (int i = ;i < height;i++){
        for (int j = ;j < width;j++){
            yIdx = i * width + j;
            vIdx = (i/) * (width/) + (j/);
            uIdx = vIdx;

            rdif = Table_fv1[vData[vIdx]];
            invgdif = Table_fu1[uData[uIdx]] + Table_fv2[vData[vIdx]];
            bdif = Table_fu2[uData[uIdx]];

            bgr[] = yData[yIdx] + bdif;
            bgr[] = yData[yIdx] - invgdif;
            bgr[] = yData[yIdx] + rdif;

            for (int k = ;k < ;k++){
                idx = (i * width + j) *  + k;
                if(bgr[k] >=  && bgr[k] <= )
                    pBGR24[idx] = bgr[k];
                else
                    pBGR24[idx] = (bgr[k] < )?:;
            }
        }
    }
    return true;
}

3. 基于OpenCV的实现

利用OpenCV提供的转换函数实现YUV到RGB的转换，实现简单方便。实现过程，只需要合理构造包含YUV数据的Mat，具体实现方法如下。

bool YV12ToBGR24_OpenCV(unsigned char* pYUV,unsigned char* pBGR24,int width,int height)
{
    if (width <  || height <  || pYUV == NULL || pBGR24 == NULL)
        return false;
    Mat dst(height,width,CV_8UC3,pBGR24);
    Mat src(height + height/,width,CV_8UC1,pYUV);
    cvtColor(src,dst,CV_YUV2BGR_YV12);
    return true;
}

4. 基于FFmpeg的实现

利用FFmpeg中swscale实现YUV到RGB的转换，实现过程中，需要构造AVPicture结构，具体实现方法如下。

bool YV12ToBGR24_FFmpeg(unsigned char* pYUV,unsigned char* pBGR24,int width,int height)
{
    if (width <  || height <  || pYUV == NULL || pBGR24 == NULL)
        return false;
    //int srcNumBytes,dstNumBytes;
    //uint8_t *pSrc,*pDst;
    AVPicture pFrameYUV,pFrameBGR;

    //pFrameYUV = avpicture_alloc();
    //srcNumBytes = avpicture_get_size(PIX_FMT_YUV420P,width,height);
    //pSrc = (uint8_t *)malloc(sizeof(uint8_t) * srcNumBytes);
    avpicture_fill(&pFrameYUV,pYUV,PIX_FMT_YUV420P,width,height);

    //U,V互换
    uint8_t * ptmp=pFrameYUV.data[];
    pFrameYUV.data[]=pFrameYUV.data[];
    pFrameYUV.data []=ptmp;

    //pFrameBGR = avcodec_alloc_frame();
    //dstNumBytes = avpicture_get_size(PIX_FMT_BGR24,width,height);
    //pDst = (uint8_t *)malloc(sizeof(uint8_t) * dstNumBytes);
    avpicture_fill(&pFrameBGR,pBGR24,PIX_FMT_BGR24,width,height);

    struct SwsContext* imgCtx = NULL;
    imgCtx = sws_getContext(width,height,PIX_FMT_YUV420P,width,height,PIX_FMT_BGR24,SWS_BILINEAR,,,);

    if (imgCtx != NULL){
        sws_scale(imgCtx,pFrameYUV.data,pFrameYUV.linesize,,height,pFrameBGR.data,pFrameBGR.linesize);
        if(imgCtx){
            sws_freeContext(imgCtx);
            imgCtx = NULL;
        }
        return true;
    }
    else{
        sws_freeContext(imgCtx);
        imgCtx = NULL;
        return false;
    }
}

5. 基于Pinknoise的实现

参考资料：http://wss.co.uk/pinknoise/yuv2rgb/

下载上述网站提供的yuv2rgb代码，利用yuv420_2_rgb888函数即可实现YUV到RGB的转换。

bool YV12ToBGR24_Pinknoise(unsigned char* pYUV,unsigned char* pBGR24,int width,int height)
{
    if (width <  || height <  || pYUV == NULL || pBGR24 == NULL)
        return false;
    unsigned char *yData = pYUV;
    unsigned char *vData = &pYUV[width * height];
    unsigned char *uData = &vData[width * height >> ];
    yuv420_2_rgb888(pBGR24,yData,uData,vData,width,height,width,width>>,width*,yuv2rgb565_table,);
    return true;
}

6. 转换效率分析 

测试序列：1920*1080

测试环境：OpenCV2.4.8, FFmpeg2.0, YUV2RGB v0.03

Method	Time(ms)
YV12ToBGR24_Native	83.7263
YV12ToBGR24_Table	54.2376
YV12ToBGR24_OpenCV	26.0529
YV12ToBGR24_FFmpeg	3.41499
YV12ToBGR24_Pinknoise	14.1215

由上述表格可以看出，基于FFmpeg的格式转换效率最高，利用查找表法可以提高转换效率，但基于查找表法的转换效率有待进一步优化提升。

后续应关注于FFmpeg其格式转换的算法实现，抽取其实现代码，使格式转换不依赖于FFmpeg库。

参考资料：

https://code.google.com/p/libyuv/