Defect Detection System Based on UAV Images for Wind Turbine Blades
-
摘要: 本文针对目前风机叶片人工检测工作量大、效率低、缺陷检测准确率不高的问题，提出并设计了一种基于无人机图像的缺陷自动化检测系统。本文介绍了系统的图像采集系统、采集方法、缺陷检测原理及检测效果：系统以无人机为飞行载体实现了（风机叶片的）自动巡检，从而提高了巡检效率，降低了人工的工作量；通过图像分割及缺陷检测算法设计实现了缺陷可疑区域的自动检测；可见光加红外光双光融合提高了叶片缺陷自动识别的准确性。经过多次现场测试验证，本系统可以精确、快速地实现鼓包，裂纹和褶皱等缺陷的自动识别与检测。Abstract: This study proposes and designs an automatic defect detection system based on UAV images for wind turbine blades, aimed at alleviating problems with manual detection methods, such as low efficiency and inaccurate defect detection. This paper introduces the system's image acquisition system, acquisition method, defect detection principle, and detection result. This system uses a UAV as the flying carrier to realize automatic inspection of wind turbine blades, thereby improving the inspection efficiency and reducing the manual workload. Through image segmentation and defect detection algorithm design, automatic detection of suspicious defect areas is achieved. Double light fusion of visible and infrared light improves the accuracy of automatic blade defect recognition. After multiple field tests and verification, the system is shown to accurately and quickly realize the automatic identification and detection of defects, such as bulges, cracks, and wrinkles.
-
Keywords:
- UAV /
- wind turbine blade /
- defect defection /
- image processing
-
0. 引言
红外热像仪在变电设备的热故障监测具有广泛的应用，但单帧红外图像普遍存在视场窄、分辨率低等缺点，难以准确、及时地获取变电设备的整体状态[1]。通过图像拼接可将若干存在重叠区域的图像拼接成一幅无缝、无重影的宽视场图像，有助于监测变电设备整体的状态，提高巡检效率。但传统最佳缝合线或渐入渐出融合法进行融合时，往往会导致重叠区域存在明显的拼接痕迹或重影现象。因此研究一种适用于变电设备的红外图像拼接方法具有十分重要的意义。
针对成像场景不同而导致红外图像间存在亮度差异问题，文献[2]等提出了一种改进的红外图像拼接算法，该算法采用平台直方图均衡化提高红外图像对比度，解决了因图像亮度差异而导致的拼接痕迹，但该算法对变电站复杂场景的适应性并不强。而文献[3]通过在感兴趣区域中提取SIFT特征点并结合KLT（Kanade-Lucas-Tomasi）跟踪算法确定特征点的位置信息并进行匹配，采用渐入渐出融合算法消除拼接痕迹，使得配准率提高了3.491%。文献[4]引入图像梯度信息，利用像素亮度差计算重叠区域的边权值，并采用图切割法寻求最佳缝合线，最后利用渐入渐出方法融合过渡，对于序列遥感图像的拼接取得了较好效果，但对于变电站红外图像拼接存在鬼影现象。文献[5]为解决图像融合中运动物体与缝合线过于靠近而造成鬼影的问题，引入颜色饱和度S改进能量函数，并在最佳缝合线搜索准则中加入局部信息权重来提高搜索灵活度，一定程度上消除了因运动物体靠近缝合线而产生的鬼影，但对于噪声严重的变电站红外图像拼接存在一定的局限性。
上述研究成果为变电站红外图像拼接提供较好的参考思路，但由于成像环境复杂、红外图像噪声干扰大，导致部分图像拼接出现明显的拼接痕迹或重影现象。因此，本文提出一种改进最佳缝合线的红外图像拼接方法，该方法在拼接区域上引入局部权重系数，并对图像颜色差异强度进行形态学操作抑制噪声干扰，并通过动态规划改进缝合线搜索准则，搜索出最佳缝合线。
1. 改进的最佳缝合线算法
为改善因成像环境复杂而造成配准效果不佳的问题，本文首先使用SIFT算法对图像进行配准，从而实现图像的一次拼接[6]，然后再采用最佳缝合线算法进行图像融合[7]。
1.1 最佳缝合线获取
最佳缝合线的目的是使得拼接线从两幅图像重叠区域中差异最小的位置穿过，以尽可能地减少图像的偏差而带来拼接痕迹。其求解准则E(x, y)为：
$$ E(x, y) = E_{\text{c}}^2(x, y) + {E_{{\text{geometry}}}}(x, y) $$ (1) 式中：Ec(x, y)为图像颜色差异强度值；Egeometry(x, y)为图像结构差异强度值。Ec(x, y)表达式为：
$$ {E_{\rm{c}}}(x,y) = {I_{{\rm{gray}}}}_1(x,y) - {I_{{\rm{gray}}}}_2(x,y) $$ (2) 式中：Igray1(x, y)和Igray2(x, y)分别表示两幅待拼接图像I1和I2对应的灰度图。
而Egeometry(x, y)表达式为：
$$ {E_{{\text{geometry}}}}(x, y){{ = }}{\rm{Diff}}{\text{(}}{I_1}{\text{(}}x, y{\text{) , }}{I_2}{\text{(}}x, y{\text{))}} $$ (3) 式中：Diff为计算I1和I2两幅图像在x和y方向梯度差的乘积因子。
1.2 能量函数的改进
红外图像相较于可见光图像而言，其边界模糊，信噪比低，采用式(1)求解准则所得到的能量函数图存在较多噪声，图像的边缘信息模糊，如图 1(a)所示，搜索到的最佳缝合线往往不是从能量差异值最小的位置穿过，容易导致拼接重叠区域存在明显拼缝或重影。
因此，对能量函数改进，在式(1)中引入权重系数ωxy，并对图像颜色差异强度值Ecolor(x, y)的求解进行改进，求解准则Ea(x, y)定义为：
$$ {E_{\rm{a}}}(x, y) = {\omega _{xy}}(E_{{\text{color}}}^2(x, y) + {E_{{\text{geometry}}}}(x, y)) $$ (4) 式中：Ecolor(x, y)为改进后的图像颜色差异强度值；而Egeometry(x, y)通过式(3)求解；ωxy为I1和I2重叠区域上点(x, y)处加权值。
$$ {\omega _{xy}} = \left\{ {\begin{array}{*{20}{c}} {k\frac{{{\delta _{xy}}}}{{{\delta _{\text{M}}}}}}&{{\delta _{xy}} < 0.7{\delta _{\text{M}}}} \\ { + \infty }&{{\text{others}}} \end{array}} \right. $$ (5) 式中：k为差异图像加权系数；δxy为I1和I2重叠区域上点(x, y)处的差异值，δM=max(δxy)。δxy定义为：
$$ {\delta _{xy}}{\text{ = }}\frac{{\left| {{I_1}{\text{(}}x, y{\text{) }} - {I_2}{\text{(}}x, y{\text{)}}} \right|}}{{\max {\text{(}}{I_1}{\text{(}}x, y{\text{) , }}{I_2}{\text{(}}x, y{\text{))}}}} $$ (6) 引入形态学操作对Ecolor(x, y)的求解进行改进，采用灰度差图像的绝对值来近似计算，则：
$$ E_{{\text{color}}}^{}(x, y) = \left\{ \begin{gathered} {I_{12}}(x, y) \times {W_{{\text{color}}}}\quad {I_{\text{bin}}}(x, y) = 1 \hfill \\ {I_{12}}(x, y)\quad \quad \quad \;\, \, {I_{\text{bin}}}(x, y) = 0\; \hfill \\ \end{gathered} \right. $$ (7) 式中：I12为灰度差图像；Ibin为二值图像；Wcolor为权重系数。
灰度差图像I12通过式(8)求解：
$$ {I_{12}}(x, y) = {\text{abs(}}{I_{\text{gray}}}_1(x, y) - {I_{\text{gray}}}_2(x, y){\text{)}} $$ (8) 二值图像Ibin根据式(9)求解：
$$ {I_{{\rm{bin}}}}(x,y)= \left\{ {\begin{array}{*{20}{c}} 1&{({I_{12}}(x, y) \geqslant 1.5 \times {\rm{Imag}}{{\rm{e}}_{{\rm{avg}}}})} \\ 0&{({I_{12}}(x, y) < 1.5 \times {\rm{Imag}}{{\rm{e}}_{{\rm{avg}}}})} \end{array}} \right. $$ (9) 式中：Imageavg为灰度差图像I12重叠区域内(x, y)像素的平均值。
图 1(a)和图 1(b)分别为改进前与本文改进后的能量函数图。通过对比可以发现，图 1(a)噪声较多，纹理不清晰；图 1(b)图像中大量噪声已经被滤除，同时也保留了图像重要的纹理信息，图像目标边缘和结构信息更清晰，更能突显红外图像的颜色差异与结构差异。
1.3 动态规划搜索
传统的最佳缝合线搜索路径时，仅搜索所在位置下一行中的3个紧邻点，最大仅能向下方45°方向扩展，搜索路径上存在一定限制。因此，本文对搜索方法进行改进，由原来只搜索3个紧邻点扩展至搜索下一行中9个紧邻点，改进的搜索流程图，如图 2所示。
![]()
图 2 基于动态规划搜索准则的改进搜索流程图Figure 2. Improved search flow chart is based on dynamic programming search criteria① 设两幅待拼接图像I1和I2的重叠区域列数为m，把图像重叠区域中第一行的每个像素点作为缝合线的初始点，即m列对应m条缝合线；
② 搜索缝合线的扩展点。选择每条缝合线当前点(x, k)下一行的9个紧邻点作为备选扩展点，当前点与备选扩展点之间路径的能量值计算公式为：
$$ {E_{{\text{sum}}}}(x, y){\text{ = }}\left\{ {\begin{array}{*{20}{c}} {\sum\limits_{i{\text{ = }}k + 1}^y {{E_{\text{N}}}(x, i)} }&{0 < y - k \leqslant 4} \\ 0&{y = k} \\ {\sum\limits_{i{\text{ = }}y}^{k - 1} {{E_{\text{N}}}(x, i)} }&{ - 4 \leqslant y - k < 0} \end{array}} \right. $$ (10) 式中：Esum(x, y)表示第x行中的第y列到第k列之间所有点的能量值之和。EN(x, i)为点(x, i)的能量值。
将每个备选扩展点的能量值与式(10)计算路径的能量值Esum(x, y)相加，得到备选扩展点总的能量值。进而一一比较每个备选扩展点总的能量值，选择最小值Es(x+1, y)的备选扩展点作为缝合线的扩展点。Es(x+1, y)的计算式为：
$$ {E_{\text{s}}}(x{\text{ + }}1, y){\text{ = }}\mathop {\min }\limits_{k - 4 \leqslant y \leqslant k + 4} ({E_{\text{N}}}(x + 1, y) + {E_{{\text{sum}}}}(x, y)) $$ (11) 式中：k为缝合线扩展当前点(x, k)前所在的列，x+1、y为当前点在下一行备选扩展点的行、列。确定新扩展点后，更新得到缝合线扩展后的能量值S(x+1, y)，即：
$$ S(x+1, y)=S(x, k)+E_{2}(x+1, y) $$ (12) 式中：S(x, k)表示缝合线扩展前的能量值。
③ 完成当前行后继续返回步骤②扩展下一行的点，直至扩展至图像最后一行，跳转到步骤④；
④ 经过前面3个步骤，得到m条缝合线。从m条缝合线中，将能量值最小的缝合线选定为最佳缝合线。
1.4 算法实现流程
改进最佳缝合线的红外图像拼接算法流程图，如图 3所示。
![]()
图 3 改进最佳缝合线的红外图像拼接方法流程Figure 3. Improved infrared image Mosaic algorithm flow of the best seam-line先采用SIFT算法提取图像区域特征，实现图像配准；然后在重合区域上引入局部权重系数对图像颜色差异强度进行形态学操作，抑制噪声干扰进而改善能量函数图的纹理信息；最后通过动态规划改进缝合线搜索准则，搜索出最佳缝合线，进而完成图像拼接。
2. 红外图像拼接实验验证与分析
为了验证算法的有效性，将本文方法与渐入渐出法、ORB算法、基于颜色校正的全景图像拼接方法[8]、传统最佳缝合线法进行对比实验，实验平台为PyCharm2019+Python3.6。
2.1 红外图像拼接效果分析
2.1.1 绝缘子红外图像拼接
使用红外热像仪采集绝缘子图像，分辨率为384×288。绝缘子图像如图 4所示。
对图 4的红外图像进行初步拼接，然后由最佳缝合线求解准则得到能量函数图，再通过动态规划方法搜索到缝合线，如图 5所示。
由图 5(a)和图 5(b)可知，改进前能量函数图的噪声严重，缝合线受噪声干扰较大，改进后能量函数图的噪声得到了明显抑制，使得图像重叠区域的结构和边缘更清晰，缝合线很好地沿着能量最低的区域经过，避免拼接图像出现局部错位。
不同算法的拼接效果如图 6所示。由图得知，通过渐入渐出法拼接后的图像，在电缆处出现明显重影。采用ORB算法拼接的图像，在绝缘子顶部的电缆接头处存在噪声斑点。基于颜色校正的全景图像拼接方法得到的图像，虽然噪声斑点较少，但是在电缆处存在明显的重叠和错位现象。采用传统最佳缝合线法拼接的图像同样存在错位现象。
相对于以上算法的拼接结果，采用本文改进最佳缝合线法拼接的图像，图像中局部放大区域未出现重影，融合的过渡区域无错位现象，细节更加清晰。这有助于后续获取变电设备的细节信息，从而更加高效地监测电气设备的整体状态。
2.1.2 变压器红外图像拼接
使用红外热像仪采集的变压器图像如图 7所示。
对图 7的红外图像进行初步拼接，然后由最佳缝合线求解准则得到能量函数图，再通过动态规划方法搜索找到缝合线，如图 8所示。
通过图 8(a)和图 8(b)对比可知，改进前能量函数图的噪声严重，缝合线受噪声干扰较大；改进后能量函数图去除了大部分干扰信息，图像重叠区域的结构和边缘更清晰，使得缝合线能很好地沿着能量最低的区域经过，能有效避免拼接图像局部出现变形错位。
不同算法的拼接效果如图 9所示。由图得知，采用渐入渐出法拼接后的图像，虽然没有明显的拼接缝隙，但在图像重叠区域边缘出现了重影现象。基于ORB算法的拼接图像同样出现重影现象。基于颜色校正的全景图像拼接方法拼接后的图像，由于图像配准存在偏差，导致图像出现错位现象。传统最佳缝合线法拼接后的图像，虽然没有明显的重影现象，但在融合区域存在拼接痕迹。
本文改进最佳缝合线法拼接后的图像，由于最大限度地避免缝合线穿过两幅图像差异较大的区域，相对以上算法的拼接结果，均未出现重影和错位现象，整体视觉效果更好。
2.2 红外图像拼接质量评价
为评价改进算法的效果，反映红外图像的细节信息，选取了文献[9]所用的平均梯度AG、图像清晰度FD和图像边缘强度EI指标衡量改进算法的图像拼接效果。
平均梯度AG表示图像平滑程度，反映图像细节反差能力，其数值越高，表示图像信息更丰富，图像细节保留更好，拼接效果过渡更自然。计算式为：
$$ {A_{\rm{G}}} = \frac{1}{{M \times N}}\sum\limits_{i = 1}^M {\sum\limits_{j = 1}^N {\sqrt {\frac{1}{2}\left( {{{\left( {{{\partial f} / {\partial x}}} \right)}^2} + {{\left( {{{\partial f} / {\partial y}}} \right)}^2}} \right)} } } $$ (13) 式中：M×N为图像的尺寸；∂f/∂x表示图像在水平方向的梯度，而∂f/∂y表示图像在垂直方向的梯度。
图像清晰度FD反映细节纹理信息，数值越高，表示图像的清晰程度越好，细节保留得越好。图像边缘强度EI则反映图像的边缘信息，其数值越高，表示图像边缘越清晰。
表 1给出了平均梯度AG、图像清晰度FD和图像边缘强度EI的评价结果，从表中的数据可以看出：在绝缘子和变压器图像拼接实验中，采用本文改进的最佳缝合线方法与渐入渐出法、ORB算法、基于颜色校正的全景图像拼接方法和传统最佳缝合线方法相比，平均梯度AG的均值分别提高了2.74%、14.84%、8.54%和1.18%，这表明图像的信息更丰富，图像细节保留更好。图像清晰度FD的均值分别提高了3.27%、21.03%、8.75%和1.5%，即改进算法的拼接图像效果清晰度更好。边缘强度EI的均值分别提高了2.40%、5.7%、0.93%和1.05%，这表明改进算法在红外图像拼接中，图像边缘清晰度更好。
表 1 拼接效果性能评价指标Table 1. Performance evaluation of image fusion algorithmsExperiment Algorithm AG FD EI Insulator image Fade in and fade out algorithm 7.0990 9.5881 70.8824 Image stitching based on ORB algorithm 6.6598 8.4017 68.6762 Fast Panorama Stitching method based on color correction 7.0382 9.4342 70.6413 The traditional best seam-line method 7.1702 9.6849 71.4189 The improved best seam-line method 7.1971 9.7345 71.6704 The transformer image Fade in and fade out algorithm 5.9331 6.8986 63.6720 Image stitching based on ORB algorithm 5.0789 5.7405 61.6745 Fast Panorama Stitching method based on color correction 5.3790 6.3366 65.7563 The traditional best seam-line method 6.0560 7.0687 64.8862 The improved best seam-line method 6.1768 7.2439 66.0150 3. 结论
本文针对变电站场景的红外图像，提出了一种改进最佳缝合线的红外图像拼接方法。利用改进的算法进行图像拼接后，图像融合区域过渡更平滑，拼接痕迹明显减少，且拼接后的图像在平均梯度、图像清晰度和图像边缘强度均有所提高，有效地避免了结果图像出现明显拼接痕迹等问题，有助于后续获取变电设备整体的准确状态，对提高巡检效率具有重要意义。
-
表 1 可见光机芯参数表
Table 1 Parameters of visible light module
Parameters Value Pixels 5280×3956 CMOS 4"/3" Frame ratio 16:9 
下载: 导出CSV
表 2 红外光机芯参数表
Table 2 Parameters of infrared light module
Parameters Value Wavelength range 7.5-14 μm Pixels 640×480 Temperature range 0℃-150℃ Measurement accuracy 2℃
下载: 导出CSV
-
[1] 贺斌, 贾建华, 赵峰, 等.无人机在风机叶片检测中的应用[J]. 电工技术, 2019(13): 64-65. DOI: 10.3969/j.issn.1002-1388.2019.13.023 HE Bin, JIA Jianhua, ZHAO Feng, et al. Application of UAV in detection of wind turbine blade[J]. Electric Engineering, 2019(13): 64-65. DOI: 10.3969/j.issn.1002-1388.2019.13.023
[2] Menon S, Schoess J N, Hamza R, et al. Wavelet-based acoustic emission detection method with adaptive thresholding[C]//Proc. of SPIE, 2000, 3986: 71-78.
[3] CUI Hongyu, DING Ning, HONG Ming. Crack diagnosis of wind turbine blades based on MD method[J]. IOP Conference Series: Materials Science and Engineering, 2016, 157(1): 012003. http://adsabs.harvard.edu/abs/2016MS&E..157a2003H
[4] WANG Long, ZHANG Zijun. Automatic detection of wind turbine blade surface cracks based on UAV-taken images[J]. IEEE Transactions on Industrial Electronics, 2017, 64(9): 7293-7303. DOI: 10.1109/TIE.2017.2682037
[5] 王凯, 韦宏利, 陈超波, 等.基于红外和可见光融合的目标跟踪[J]. 计算机系统应用, 2018, 27(1): 149-153. http://d.old.wanfangdata.com.cn/Periodical/gxsfdxxb201804007 WANG Kai, WEI Hongli, CHEN Chaobo, et al. Target tracking based on infrared and visible light fusion[J]. Computer Systems & Applications, 2018, 27(1): 149-153. http://d.old.wanfangdata.com.cn/Periodical/gxsfdxxb201804007
[6] 翟永杰, 刘金龙, 程海燕.基于机器视觉的汽车工件抓取定位系统设计与开发[J]. 现代电子技术, 2018, 41(20): 6-9. http://www.cqvip.com/main/zcps.aspx?c=1&id=7000859221 ZHAI Yongjie, LIU Jinlong, CHENG Haiyan. Design and development of automobile workpiece grasping and positioning system based on machine vision[J]. Modern Electronics Technique, 2018, 41(20): 6-9. http://www.cqvip.com/main/zcps.aspx?c=1&id=7000859221
-
期刊类型引用(5)
1. 苑朝，黄诺飞，蒋阳，赵亚冬，赵振兵. 基于改进旋转不变性二进制描述算法的电力场景图像拼接. 电力科学与工程. 2024(01): 31-38 . 
百度学术
2. 张旭辉，王悦，杨文娟，陈鑫，张超，黄梦瑶，刘彦徽，杨骏豪. 基于改进最佳缝合线的矿井图像拼接方法. 工矿自动化. 2024(04): 9-17 . 百度学术
3. 吴润国，刘晓东，费继友，赵兴，姚梦涛. 基于最佳缝合线的电力设备红外图像拼接算法. 电子测量技术. 2024(23): 162-170 . 百度学术
4. 周登科，郭星辰，史凯特，汤鹏，郑开元，马鹏阁. 风电场无人机巡检红外叶片图像拼接算法. 红外技术. 2023(12): 1161-1168 . 本站查看
5. 周登科，郭星辰，史凯特，汤鹏，郑开元，马鹏阁. 风电场无人机巡检红外叶片图像拼接算法. 红外技术. 2023(11): 1161-1168 . 本站查看
其他类型引用(6)
计量
- 文章访问数: 672
- HTML全文浏览量: 164
- PDF下载量: 117
- 被引次数: 11
