Infrared Image Mosaic Method for Improving the Best Seam-line
-
摘要: 变电站场景的红外图像受噪声干扰大、纹理信息不明显,拼接过程中易出现拼接痕迹或重影现象。针对上述问题,本文提出一种改进最佳缝合线的红外图像拼接方法。该方法首先采用SIFT算法提取图像区域特征,实现图像配准;然后在两幅图像的重合区域上引入局部权重系数,并对图像颜色差异强度进行形态学操作,减少红外图像的噪声干扰,以此改善能量函数图的纹理信息。最后,利用动态规划改进缝合线搜索准则,在图像重叠区域搜索出最佳缝合线。实验结果表明,与渐入渐出法和最佳缝合线法比较,本文方法在拼接后图像的平均梯度、图像清晰度和图像边缘强度均有所提高,融合区域过渡更平滑自然,拼接痕迹明显减少。Abstract: The infrared image of a substation is significantly disturbed by noise and the texture information is unclear. Therefore, stitching traces or the ghosting phenomenon may appear in the process of stitching. To overcome these challenges, this study proposes an infrared image splicing method that improves the best seam-line. First, this method uses the SIFT algorithm to extract the image area features to achieve image registration, then introduces local weight coefficients in the overlapping area of the two images. Subsequently, morphological operations are performed on the intensity of the image color difference, which reduces the noise interference of the infrared image and improves the texture information of the energy function graph. Finally, dynamic programming is used to improve the seam-line search criteria and search for the best seam-line in the image overlapping area. The experimental results show that compared with the gradual fusion method and the best seam-line method, the average gradient, image clarity and image edge strength of the stitched image are improved, the transition of the fusion region is smoother and more natural, and the stitching trace is significantly reduced.
-
Keywords:
- best seam-line /
- image mosaic /
- infrared image /
- energy function
-
0. 引言
红外热像仪在变电设备的热故障监测具有广泛的应用,但单帧红外图像普遍存在视场窄、分辨率低等缺点,难以准确、及时地获取变电设备的整体状态[1]。通过图像拼接可将若干存在重叠区域的图像拼接成一幅无缝、无重影的宽视场图像,有助于监测变电设备整体的状态,提高巡检效率。但传统最佳缝合线或渐入渐出融合法进行融合时,往往会导致重叠区域存在明显的拼接痕迹或重影现象。因此研究一种适用于变电设备的红外图像拼接方法具有十分重要的意义。
针对成像场景不同而导致红外图像间存在亮度差异问题,文献[2]等提出了一种改进的红外图像拼接算法,该算法采用平台直方图均衡化提高红外图像对比度,解决了因图像亮度差异而导致的拼接痕迹,但该算法对变电站复杂场景的适应性并不强。而文献[3]通过在感兴趣区域中提取SIFT特征点并结合KLT(Kanade-Lucas-Tomasi)跟踪算法确定特征点的位置信息并进行匹配,采用渐入渐出融合算法消除拼接痕迹,使得配准率提高了3.491%。文献[4]引入图像梯度信息,利用像素亮度差计算重叠区域的边权值,并采用图切割法寻求最佳缝合线,最后利用渐入渐出方法融合过渡,对于序列遥感图像的拼接取得了较好效果,但对于变电站红外图像拼接存在鬼影现象。文献[5]为解决图像融合中运动物体与缝合线过于靠近而造成鬼影的问题,引入颜色饱和度S改进能量函数,并在最佳缝合线搜索准则中加入局部信息权重来提高搜索灵活度,一定程度上消除了因运动物体靠近缝合线而产生的鬼影,但对于噪声严重的变电站红外图像拼接存在一定的局限性。
上述研究成果为变电站红外图像拼接提供较好的参考思路,但由于成像环境复杂、红外图像噪声干扰大,导致部分图像拼接出现明显的拼接痕迹或重影现象。因此,本文提出一种改进最佳缝合线的红外图像拼接方法,该方法在拼接区域上引入局部权重系数,并对图像颜色差异强度进行形态学操作抑制噪声干扰,并通过动态规划改进缝合线搜索准则,搜索出最佳缝合线。
1. 改进的最佳缝合线算法
为改善因成像环境复杂而造成配准效果不佳的问题,本文首先使用SIFT算法对图像进行配准,从而实现图像的一次拼接[6],然后再采用最佳缝合线算法进行图像融合[7]。
1.1 最佳缝合线获取
最佳缝合线的目的是使得拼接线从两幅图像重叠区域中差异最小的位置穿过,以尽可能地减少图像的偏差而带来拼接痕迹。其求解准则E(x, y)为:
$$ E(x, y) = E_{\text{c}}^2(x, y) + {E_{{\text{geometry}}}}(x, y) $$ (1) 式中:Ec(x, y)为图像颜色差异强度值;Egeometry(x, y)为图像结构差异强度值。Ec(x, y)表达式为:
$$ {E_{\rm{c}}}(x,y) = {I_{{\rm{gray}}}}_1(x,y) - {I_{{\rm{gray}}}}_2(x,y) $$ (2) 式中:Igray1(x, y)和Igray2(x, y)分别表示两幅待拼接图像I1和I2对应的灰度图。
而Egeometry(x, y)表达式为:
$$ {E_{{\text{geometry}}}}(x, y){{ = }}{\rm{Diff}}{\text{(}}{I_1}{\text{(}}x, y{\text{) , }}{I_2}{\text{(}}x, y{\text{))}} $$ (3) 式中:Diff为计算I1和I2两幅图像在x和y方向梯度差的乘积因子。
1.2 能量函数的改进
红外图像相较于可见光图像而言,其边界模糊,信噪比低,采用式(1)求解准则所得到的能量函数图存在较多噪声,图像的边缘信息模糊,如图 1(a)所示,搜索到的最佳缝合线往往不是从能量差异值最小的位置穿过,容易导致拼接重叠区域存在明显拼缝或重影。
因此,对能量函数改进,在式(1)中引入权重系数ωxy,并对图像颜色差异强度值Ecolor(x, y)的求解进行改进,求解准则Ea(x, y)定义为:
$$ {E_{\rm{a}}}(x, y) = {\omega _{xy}}(E_{{\text{color}}}^2(x, y) + {E_{{\text{geometry}}}}(x, y)) $$ (4) 式中:Ecolor(x, y)为改进后的图像颜色差异强度值;而Egeometry(x, y)通过式(3)求解;ωxy为I1和I2重叠区域上点(x, y)处加权值。
$$ {\omega _{xy}} = \left\{ {\begin{array}{*{20}{c}} {k\frac{{{\delta _{xy}}}}{{{\delta _{\text{M}}}}}}&{{\delta _{xy}} < 0.7{\delta _{\text{M}}}} \\ { + \infty }&{{\text{others}}} \end{array}} \right. $$ (5) 式中:k为差异图像加权系数;δxy为I1和I2重叠区域上点(x, y)处的差异值,δM=max(δxy)。δxy定义为:
$$ {\delta _{xy}}{\text{ = }}\frac{{\left| {{I_1}{\text{(}}x, y{\text{) }} - {I_2}{\text{(}}x, y{\text{)}}} \right|}}{{\max {\text{(}}{I_1}{\text{(}}x, y{\text{) , }}{I_2}{\text{(}}x, y{\text{))}}}} $$ (6) 引入形态学操作对Ecolor(x, y)的求解进行改进,采用灰度差图像的绝对值来近似计算,则:
$$ E_{{\text{color}}}^{}(x, y) = \left\{ \begin{gathered} {I_{12}}(x, y) \times {W_{{\text{color}}}}\quad {I_{\text{bin}}}(x, y) = 1 \hfill \\ {I_{12}}(x, y)\quad \quad \quad \;\, \, {I_{\text{bin}}}(x, y) = 0\; \hfill \\ \end{gathered} \right. $$ (7) 式中:I12为灰度差图像;Ibin为二值图像;Wcolor为权重系数。
灰度差图像I12通过式(8)求解:
$$ {I_{12}}(x, y) = {\text{abs(}}{I_{\text{gray}}}_1(x, y) - {I_{\text{gray}}}_2(x, y){\text{)}} $$ (8) 二值图像Ibin根据式(9)求解:
$$ {I_{{\rm{bin}}}}(x,y)= \left\{ {\begin{array}{*{20}{c}} 1&{({I_{12}}(x, y) \geqslant 1.5 \times {\rm{Imag}}{{\rm{e}}_{{\rm{avg}}}})} \\ 0&{({I_{12}}(x, y) < 1.5 \times {\rm{Imag}}{{\rm{e}}_{{\rm{avg}}}})} \end{array}} \right. $$ (9) 式中:Imageavg为灰度差图像I12重叠区域内(x, y)像素的平均值。
图 1(a)和图 1(b)分别为改进前与本文改进后的能量函数图。通过对比可以发现,图 1(a)噪声较多,纹理不清晰;图 1(b)图像中大量噪声已经被滤除,同时也保留了图像重要的纹理信息,图像目标边缘和结构信息更清晰,更能突显红外图像的颜色差异与结构差异。
1.3 动态规划搜索
传统的最佳缝合线搜索路径时,仅搜索所在位置下一行中的3个紧邻点,最大仅能向下方45°方向扩展,搜索路径上存在一定限制。因此,本文对搜索方法进行改进,由原来只搜索3个紧邻点扩展至搜索下一行中9个紧邻点,改进的搜索流程图,如图 2所示。
① 设两幅待拼接图像I1和I2的重叠区域列数为m,把图像重叠区域中第一行的每个像素点作为缝合线的初始点,即m列对应m条缝合线;
② 搜索缝合线的扩展点。选择每条缝合线当前点(x, k)下一行的9个紧邻点作为备选扩展点,当前点与备选扩展点之间路径的能量值计算公式为:
$$ {E_{{\text{sum}}}}(x, y){\text{ = }}\left\{ {\begin{array}{*{20}{c}} {\sum\limits_{i{\text{ = }}k + 1}^y {{E_{\text{N}}}(x, i)} }&{0 < y - k \leqslant 4} \\ 0&{y = k} \\ {\sum\limits_{i{\text{ = }}y}^{k - 1} {{E_{\text{N}}}(x, i)} }&{ - 4 \leqslant y - k < 0} \end{array}} \right. $$ (10) 式中:Esum(x, y)表示第x行中的第y列到第k列之间所有点的能量值之和。EN(x, i)为点(x, i)的能量值。
将每个备选扩展点的能量值与式(10)计算路径的能量值Esum(x, y)相加,得到备选扩展点总的能量值。进而一一比较每个备选扩展点总的能量值,选择最小值Es(x+1, y)的备选扩展点作为缝合线的扩展点。Es(x+1, y)的计算式为:
$$ {E_{\text{s}}}(x{\text{ + }}1, y){\text{ = }}\mathop {\min }\limits_{k - 4 \leqslant y \leqslant k + 4} ({E_{\text{N}}}(x + 1, y) + {E_{{\text{sum}}}}(x, y)) $$ (11) 式中:k为缝合线扩展当前点(x, k)前所在的列,x+1、y为当前点在下一行备选扩展点的行、列。确定新扩展点后,更新得到缝合线扩展后的能量值S(x+1, y),即:
$$ S(x+1, y)=S(x, k)+E_{2}(x+1, y) $$ (12) 式中:S(x, k)表示缝合线扩展前的能量值。
③ 完成当前行后继续返回步骤②扩展下一行的点,直至扩展至图像最后一行,跳转到步骤④;
④ 经过前面3个步骤,得到m条缝合线。从m条缝合线中,将能量值最小的缝合线选定为最佳缝合线。
1.4 算法实现流程
改进最佳缝合线的红外图像拼接算法流程图,如图 3所示。
先采用SIFT算法提取图像区域特征,实现图像配准;然后在重合区域上引入局部权重系数对图像颜色差异强度进行形态学操作,抑制噪声干扰进而改善能量函数图的纹理信息;最后通过动态规划改进缝合线搜索准则,搜索出最佳缝合线,进而完成图像拼接。
2. 红外图像拼接实验验证与分析
为了验证算法的有效性,将本文方法与渐入渐出法、ORB算法、基于颜色校正的全景图像拼接方法[8]、传统最佳缝合线法进行对比实验,实验平台为PyCharm2019+Python3.6。
2.1 红外图像拼接效果分析
2.1.1 绝缘子红外图像拼接
使用红外热像仪采集绝缘子图像,分辨率为384×288。绝缘子图像如图 4所示。
对图 4的红外图像进行初步拼接,然后由最佳缝合线求解准则得到能量函数图,再通过动态规划方法搜索到缝合线,如图 5所示。
由图 5(a)和图 5(b)可知,改进前能量函数图的噪声严重,缝合线受噪声干扰较大,改进后能量函数图的噪声得到了明显抑制,使得图像重叠区域的结构和边缘更清晰,缝合线很好地沿着能量最低的区域经过,避免拼接图像出现局部错位。
不同算法的拼接效果如图 6所示。由图得知,通过渐入渐出法拼接后的图像,在电缆处出现明显重影。采用ORB算法拼接的图像,在绝缘子顶部的电缆接头处存在噪声斑点。基于颜色校正的全景图像拼接方法得到的图像,虽然噪声斑点较少,但是在电缆处存在明显的重叠和错位现象。采用传统最佳缝合线法拼接的图像同样存在错位现象。
相对于以上算法的拼接结果,采用本文改进最佳缝合线法拼接的图像,图像中局部放大区域未出现重影,融合的过渡区域无错位现象,细节更加清晰。这有助于后续获取变电设备的细节信息,从而更加高效地监测电气设备的整体状态。
2.1.2 变压器红外图像拼接
使用红外热像仪采集的变压器图像如图 7所示。
对图 7的红外图像进行初步拼接,然后由最佳缝合线求解准则得到能量函数图,再通过动态规划方法搜索找到缝合线,如图 8所示。
通过图 8(a)和图 8(b)对比可知,改进前能量函数图的噪声严重,缝合线受噪声干扰较大;改进后能量函数图去除了大部分干扰信息,图像重叠区域的结构和边缘更清晰,使得缝合线能很好地沿着能量最低的区域经过,能有效避免拼接图像局部出现变形错位。
不同算法的拼接效果如图 9所示。由图得知,采用渐入渐出法拼接后的图像,虽然没有明显的拼接缝隙,但在图像重叠区域边缘出现了重影现象。基于ORB算法的拼接图像同样出现重影现象。基于颜色校正的全景图像拼接方法拼接后的图像,由于图像配准存在偏差,导致图像出现错位现象。传统最佳缝合线法拼接后的图像,虽然没有明显的重影现象,但在融合区域存在拼接痕迹。
本文改进最佳缝合线法拼接后的图像,由于最大限度地避免缝合线穿过两幅图像差异较大的区域,相对以上算法的拼接结果,均未出现重影和错位现象,整体视觉效果更好。
2.2 红外图像拼接质量评价
为评价改进算法的效果,反映红外图像的细节信息,选取了文献[9]所用的平均梯度AG、图像清晰度FD和图像边缘强度EI指标衡量改进算法的图像拼接效果。
平均梯度AG表示图像平滑程度,反映图像细节反差能力,其数值越高,表示图像信息更丰富,图像细节保留更好,拼接效果过渡更自然。计算式为:
$$ {A_{\rm{G}}} = \frac{1}{{M \times N}}\sum\limits_{i = 1}^M {\sum\limits_{j = 1}^N {\sqrt {\frac{1}{2}\left( {{{\left( {{{\partial f} / {\partial x}}} \right)}^2} + {{\left( {{{\partial f} / {\partial y}}} \right)}^2}} \right)} } } $$ (13) 式中:M×N为图像的尺寸;∂f/∂x表示图像在水平方向的梯度,而∂f/∂y表示图像在垂直方向的梯度。
图像清晰度FD反映细节纹理信息,数值越高,表示图像的清晰程度越好,细节保留得越好。图像边缘强度EI则反映图像的边缘信息,其数值越高,表示图像边缘越清晰。
表 1给出了平均梯度AG、图像清晰度FD和图像边缘强度EI的评价结果,从表中的数据可以看出:在绝缘子和变压器图像拼接实验中,采用本文改进的最佳缝合线方法与渐入渐出法、ORB算法、基于颜色校正的全景图像拼接方法和传统最佳缝合线方法相比,平均梯度AG的均值分别提高了2.74%、14.84%、8.54%和1.18%,这表明图像的信息更丰富,图像细节保留更好。图像清晰度FD的均值分别提高了3.27%、21.03%、8.75%和1.5%,即改进算法的拼接图像效果清晰度更好。边缘强度EI的均值分别提高了2.40%、5.7%、0.93%和1.05%,这表明改进算法在红外图像拼接中,图像边缘清晰度更好。
表 1 拼接效果性能评价指标Table 1. Performance evaluation of image fusion algorithmsExperiment Algorithm AG FD EI Insulator image Fade in and fade out algorithm 7.0990 9.5881 70.8824 Image stitching based on ORB algorithm 6.6598 8.4017 68.6762 Fast Panorama Stitching method based on color correction 7.0382 9.4342 70.6413 The traditional best seam-line method 7.1702 9.6849 71.4189 The improved best seam-line method 7.1971 9.7345 71.6704 The transformer image Fade in and fade out algorithm 5.9331 6.8986 63.6720 Image stitching based on ORB algorithm 5.0789 5.7405 61.6745 Fast Panorama Stitching method based on color correction 5.3790 6.3366 65.7563 The traditional best seam-line method 6.0560 7.0687 64.8862 The improved best seam-line method 6.1768 7.2439 66.0150 3. 结论
本文针对变电站场景的红外图像,提出了一种改进最佳缝合线的红外图像拼接方法。利用改进的算法进行图像拼接后,图像融合区域过渡更平滑,拼接痕迹明显减少,且拼接后的图像在平均梯度、图像清晰度和图像边缘强度均有所提高,有效地避免了结果图像出现明显拼接痕迹等问题,有助于后续获取变电设备整体的准确状态,对提高巡检效率具有重要意义。
-
表 1 拼接效果性能评价指标
Table 1 Performance evaluation of image fusion algorithms
Experiment Algorithm AG FD EI Insulator image Fade in and fade out algorithm 7.0990 9.5881 70.8824 Image stitching based on ORB algorithm 6.6598 8.4017 68.6762 Fast Panorama Stitching method based on color correction 7.0382 9.4342 70.6413 The traditional best seam-line method 7.1702 9.6849 71.4189 The improved best seam-line method 7.1971 9.7345 71.6704 The transformer image Fade in and fade out algorithm 5.9331 6.8986 63.6720 Image stitching based on ORB algorithm 5.0789 5.7405 61.6745 Fast Panorama Stitching method based on color correction 5.3790 6.3366 65.7563 The traditional best seam-line method 6.0560 7.0687 64.8862 The improved best seam-line method 6.1768 7.2439 66.0150 -
[1] WANG B. Automatic fault diagnosis of infrared insulator images based on image instance segmentation and temperature analysis[J]. IEEE Transactions on Instrumentation and Measurement, 2020, 69(8): 5345-5355. DOI: 10.1109/TIM.2020.2965635
[2] 宋振坤, 徐超, 王霞, 等. 应用于无人机平台的红外图像拼接技术研究[J]. 红外技术, 2018, 40(4): 355-361. http://hwjs.nvir.cn/article/id/hwjs201804009 SONG Zhenkun, XU Chao, WANG Xia, et al. Study of infrared image mosaic technology applied to a UAV platform[J]. Infrared Technology, 2018, 40(4): 355-361. http://hwjs.nvir.cn/article/id/hwjs201804009
[3] 代少升, 姚俐. 基于ROI的高精度红外全景拼接算法研究[J]. 半导体光电, 2020, 41(4): 572-577. https://www.cnki.com.cn/Article/CJFDTOTAL-BDTG202004023.htm DAI Shaosheng, YAO Li. Research on the method of infrared panoramic image mosaic based on ROI[J]. Semiconductor Optoelectronics, 2020, 41(4): 572-577. https://www.cnki.com.cn/Article/CJFDTOTAL-BDTG202004023.htm
[4] 秦绪佳, 王琪, 王慧玲, 等. 基于最佳缝合线的序列遥感图像拼接融合方法[J]. 计算机科学, 2015, 42(10): 306-310. https://www.cnki.com.cn/Article/CJFDTOTAL-JSJA201510063.htm QIN Xujia, WANG Qi, WANG Huiling, et al. Image fusion method based on best seam-line for serial remote sensing images mosaic[J]. Computer Science, 2015, 42(10): 306-310. https://www.cnki.com.cn/Article/CJFDTOTAL-JSJA201510063.htm
[5] 张翔, 王伟, 肖迪. 基于改进最佳缝合线的图像拼接方法[J]. 计算机工程与设计, 2018, 39(7): 1964-1970. https://www.cnki.com.cn/Article/CJFDTOTAL-SJSJ201807028.htm ZHANG Xiang, WANG Wei, XIAO Di. Image mosaic method based on improved best seam-line[J]. Computer Engineering and Design, 2018, 39(7): 1964-1970. https://www.cnki.com.cn/Article/CJFDTOTAL-SJSJ201807028.htm
[6] Lowe D G. Distinctive image features from scale-invariant keypoints[J]. International Journal of Computer Vision, 2004, 60(2): 91-110. DOI: 10.1023/B:VISI.0000029664.99615.94
[7] 谷雨, 周阳, 任刚, 等. 结合最佳缝合线和多分辨率融合的图像拼接[J]. 中国图象图形学报, 2017, 22(6): 842-851. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGTB201706014.htm GU Yu, ZHOU Yang, REN Gang, et al. Image stitching by combining optimal seam and multi-resolution fusion[J]. Journal of Image and Graphics, 2017, 22(6): 842-851. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGTB201706014.htm
[8] XIONG Yingen, Kari Pulli. Fast panorama stitching for high-quality panoramic images on mobile phones[J]. IEEE Transactions on Consumer Electronics, 2010, 56(2): 298-306.
[9] 谢颖贤, 武迎春, 王玉梅, 等. 基于小波域清晰度评价的光场全聚焦图像融合[J]. 北京航空航天大学学报, 2019, 45(9): 1848-1854. https://www.cnki.com.cn/Article/CJFDTOTAL-BJHK201909018.htm XIE Yinxian, WU Yingchun, WANG Yumei, et al. Light field all-in-focus image fusion based on wavelet domain sharpness evaluation[J]. Journal of Beijing University of Aeronautics and Astronautics, 2019, 45(9): 1848-1854. https://www.cnki.com.cn/Article/CJFDTOTAL-BJHK201909018.htm
-
期刊类型引用(1)
1. 曹世超,刘晓营,梁舒. 基于双密度双树复小波变换的红外图像降噪算法. 邢台职业技术学院学报. 2022(03): 93-97 . 百度学术
其他类型引用(5)