OpenCV开发笔记（七十九）：基于Stitcher类实现全景图片拼接

前言

  一个摄像头视野不大的时候，我们希望进行两个视野合并，这样让正视的视野增大，从而可以看到更广阔的标准视野。拼接的方法分为两条路，第一条路是stitcher类，第二条思路是特征点匹配。
  本篇使用stitcher匹配，进行两张图来视野合并拼接。

 

Demo

  

 

两张图拼接过程

步骤一：打开图片

  

cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");
cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");

步骤二：加入图片进入队列

  

std::vector<cv::Mat> vectorMat;
vectorMat.push_back(mat);
vectorMat.push_back(mat2);

步骤三：创建拼接类

  

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);

步骤四：拼接

  

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);
LOG;
cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);
LOG;
if(status != cv::Stitcher::OK)
{
    std::cout << "Failed to stitch, status =" << status << std::endl;
    return;
}

  对拼接后显示所有：
  

cv::namedWindow("mat", cv::WINDOW_NORMAL);
cv::imshow("mat", mat);
cv::resizeWindow("mat", cv::Size(400, 300));

cv::namedWindow("mat2", cv::WINDOW_NORMAL);
cv::imshow("mat2", mat2);
cv::resizeWindow("mat2", cv::Size(400, 300));

cv::namedWindow("resultMat", cv::WINDOW_NORMAL);
cv::imshow("resultMat", resultMat);
cv::resizeWindow("resultMat", cv::Size(400, 300));

步骤五：对图像进行宽高黑边裁剪（略）

  直接写个算法对周边黑色区域进行矩形探测，然后裁剪即可，方法很多，一般我们拍照的图片都不是全黑的，而黑边是全黑的，这个算法写起来有明显的特征。

 

耗时测试

原始图像1701x1280像素，耗时477ms左右

  

  

  原始图片1701x1280像素，拼接消耗的时间约477ms：

图像缩小至400x300像素，耗时390ms左右

  然后对其图片进行缩放后测试其耗时：
  

  

  将图片统一缩放为800x600分辨率，其拼接耗时在390ms左右。

图像放大至1920x1080像素，耗时530ms左右

  

  

  将图片放大至1920x1080分辨率，其拼接耗时在530ms左右

注意

  本次测试并不严谨，基于同样图的缩放，单纯控制像素缩放来比较，但是得出的结论可以反应图像大小的影响，最终的耗时是受多方因素影响，包括但不限于检测特征电的数量、重叠区域的大小、像素分辨率、多图。

结论

  这种方式适合对照片进行拼接，对黑边处理之后，效果很不错，但是，调用stitcher类实现时对图片的特征匹配有要求，一些特征点不够的图片无法拼接，并且，当图片较大或多张图片拼接时，速度慢。所以，倘若放到视频上，一秒钟25-60fps，那就肯定不行了。
  SIFT算法拼接，SIFT算法可以提供较高的准确率，得到的图片需要经过再次处理，才能得到相对较好的图片，
  ORB算法拼接，算法的速度非常快，但是最容易出现问题，且得到的图片需要经过再次处理，才能得到相对较好的图片，

 

函数原型

函数cv::Stitcher::create

static Ptr<Stitcher> create(Mode mode = PANORAMA, bool try_use_gpu = false);

• 参数一：拼接模式枚举，只有2个值PANORAMA和SCANS
  PANORAMA：创建照片全景的模式，期望图像处于透视状态；
  SCANS：合成扫描的模式。期望仿射变换下的图像，默认情况下不补偿曝光。（由于咱们一般总归有角度偏移，所以这个方式对拼接图像有较高要求）
• 参数二：是否使用gpu，这种方式编译opencv得带上gpu编译，编译opencv的时候开启支持gpu，在arm上的话，需要先确认芯片是否支持GPU，然后安装GPU驱动，然后编译opencv支持GPU选项，才可以。

函数cv::Stitcher:: stitch

CV_WRAP Status stitch(InputArrayOfArrays images, OutputArray pano);

• 参数一：输入图像列表
• 参数二：输出拼接结果

Status stitch(InputArrayOfArrays images, const std::vector<std::vector<Rect> > &rois, OutputArray pano);

• 参数一：输入图像列表
• 参数二：输入图像列表依次需要拼接的区域
• 参数三：输出拼接结果

 

Demo源码

void OpenCVManager::testStitchImages()
{
    cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");

#if 0
    // 拼接环视全景，特征点是完全不够，无法使用该方法，同时就算能拼也无法达到新能要求
    cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/front_2024-08-22_17-15-08_result.png");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/left_2024-08-22_17-15-10_result.png");
    cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/right_2024-08-22_17-15-11_result.png");
#endif

#if 1
    // 对图片进行缩放，测试其拼接耗时
    cv::resize(mat, mat, cv::Size(1920, 1080));
    cv::resize(mat2, mat2, cv::Size(1920, 1080));
#endif

    std::vector<cv::Mat> vectorMat;
    vectorMat.push_back(mat);
    vectorMat.push_back(mat2);

    cv::Mat resultMat;

    cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//    cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);
    LOG;
    cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);
    LOG;
    if(status != cv::Stitcher::OK)
    {
        std::cout << "Failed to stitch, status =" << status << std::endl;
        return;
    }

    cv::namedWindow("mat", cv::WINDOW_NORMAL);
    cv::imshow("mat", mat);
    cv::resizeWindow("mat", cv::Size(400, 300));

    cv::namedWindow("mat2", cv::WINDOW_NORMAL);
    cv::imshow("mat2", mat2);
    cv::resizeWindow("mat2", cv::Size(400, 300));

    cv::namedWindow("resultMat", cv::WINDOW_NORMAL);
    cv::imshow("resultMat", resultMat);
    cv::resizeWindow("resultMat", cv::Size(400, 300));

    cv::waitKey(0);
}

 

对应工程模板v1.69.0