OpenCV开发笔记（七十九）：基于Stitcher类实现全景图片拼接

news/2024/9/20 17:34:37/文章来源:https://www.cnblogs.com/qq21497936/p/18380860

前言

一个摄像头视野不大的时候，我们希望进行两个视野合并，这样让正视的视野增大，从而可以看到更广阔的标准视野。拼接的方法分为两条路，第一条路是stitcher类，第二条思路是特征点匹配。
本篇使用stitcher匹配，进行两张图来视野合并拼接。

Demo

在这里插入图片描述

两张图拼接过程

步骤一：打开图片

在这里插入图片描述

cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");
cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");

步骤二：加入图片进入队列

在这里插入图片描述

std::vector<cv::Mat> vectorMat;
vectorMat.push_back(mat);
vectorMat.push_back(mat2);

步骤三：创建拼接类

在这里插入图片描述

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);

步骤四：拼接

在这里插入图片描述

cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);
LOG;
cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);
LOG;
if(status != cv::Stitcher::OK)
{std::cout << "Failed to stitch, status =" << status << std::endl;return;
}

对拼接后显示所有：
在这里插入图片描述

cv::namedWindow("mat", cv::WINDOW_NORMAL);
cv::imshow("mat", mat);
cv::resizeWindow("mat", cv::Size(400, 300));cv::namedWindow("mat2", cv::WINDOW_NORMAL);
cv::imshow("mat2", mat2);
cv::resizeWindow("mat2", cv::Size(400, 300));cv::namedWindow("resultMat", cv::WINDOW_NORMAL);
cv::imshow("resultMat", resultMat);
cv::resizeWindow("resultMat", cv::Size(400, 300));

步骤五：对图像进行宽高黑边裁剪（略）

直接写个算法对周边黑色区域进行矩形探测，然后裁剪即可，方法很多，一般我们拍照的图片都不是全黑的，而黑边是全黑的，这个算法写起来有明显的特征。

耗时测试

原始图像1701x1280像素，耗时477ms左右

在这里插入图片描述

原始图片1701x1280像素，拼接消耗的时间约477ms：

图像缩小至400x300像素，耗时390ms左右

然后对其图片进行缩放后测试其耗时：
在这里插入图片描述

在这里插入图片描述

将图片统一缩放为800x600分辨率，其拼接耗时在390ms左右。

图像放大至1920x1080像素，耗时530ms左右

在这里插入图片描述

将图片放大至1920x1080分辨率，其拼接耗时在530ms左右

注意

本次测试并不严谨，基于同样图的缩放，单纯控制像素缩放来比较，但是得出的结论可以反应图像大小的影响，最终的耗时是受多方因素影响，包括但不限于检测特征电的数量、重叠区域的大小、像素分辨率、多图。

结论

这种方式适合对照片进行拼接，对黑边处理之后，效果很不错，但是，调用stitcher类实现时对图片的特征匹配有要求，一些特征点不够的图片无法拼接，并且，当图片较大或多张图片拼接时，速度慢。所以，倘若放到视频上，一秒钟25-60fps，那就肯定不行了。
SIFT算法拼接，SIFT算法可以提供较高的准确率，得到的图片需要经过再次处理，才能得到相对较好的图片，
ORB算法拼接，算法的速度非常快，但是最容易出现问题，且得到的图片需要经过再次处理，才能得到相对较好的图片，

函数原型

函数cv::Stitcher::create

static Ptr<Stitcher> create(Mode mode = PANORAMA, bool try_use_gpu = false);

参数一：拼接模式枚举，只有2个值PANORAMA和SCANS
PANORAMA：创建照片全景的模式，期望图像处于透视状态；
SCANS：合成扫描的模式。期望仿射变换下的图像，默认情况下不补偿曝光。（由于咱们一般总归有角度偏移，所以这个方式对拼接图像有较高要求）
参数二：是否使用gpu，这种方式编译opencv得带上gpu编译，编译opencv的时候开启支持gpu，在arm上的话，需要先确认芯片是否支持GPU，然后安装GPU驱动，然后编译opencv支持GPU选项，才可以。

函数cv::Stitcher:: stitch

CV_WRAP Status stitch(InputArrayOfArrays images, OutputArray pano);

参数一：输入图像列表
参数二：输出拼接结果

Status stitch(InputArrayOfArrays images, const std::vector<std::vector<Rect> > &rois, OutputArray pano);

参数一：输入图像列表
参数二：输入图像列表依次需要拼接的区域
参数三：输出拼接结果

Demo源码

void OpenCVManager::testStitchImages()
{cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/29.jpg");cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/30.jpg");#if 0// 拼接环视全景，特征点是完全不够，无法使用该方法，同时就算能拼也无法达到新能要求cv::Mat mat = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/front_2024-08-22_17-15-08_result.png");cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/left_2024-08-22_17-15-10_result.png");cv::Mat mat2 = cv::imread("D:/qtProject/openCVDemo/openCVDemo/modules/openCVManager/images/right_2024-08-22_17-15-11_result.png");
#endif#if 1// 对图片进行缩放，测试其拼接耗时cv::resize(mat, mat, cv::Size(1920, 1080));cv::resize(mat2, mat2, cv::Size(1920, 1080));
#endifstd::vector<cv::Mat> vectorMat;vectorMat.push_back(mat);vectorMat.push_back(mat2);cv::Mat resultMat;cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::PANORAMA, false);
//    cv::Ptr<cv::Stitcher> pStitcher = cv::Stitcher::create(cv::Stitcher::SCANS, false);LOG;cv::Stitcher::Status status = pStitcher->stitch(vectorMat, resultMat);LOG;if(status != cv::Stitcher::OK){std::cout << "Failed to stitch, status =" << status << std::endl;return;}cv::namedWindow("mat", cv::WINDOW_NORMAL);cv::imshow("mat", mat);cv::resizeWindow("mat", cv::Size(400, 300));cv::namedWindow("mat2", cv::WINDOW_NORMAL);cv::imshow("mat2", mat2);cv::resizeWindow("mat2", cv::Size(400, 300));cv::namedWindow("resultMat", cv::WINDOW_NORMAL);cv::imshow("resultMat", resultMat);cv::resizeWindow("resultMat", cv::Size(400, 300));cv::waitKey(0);
}