Deep Residual UNet Network-based Infrared Image Segmentation Method for Electrical Equipment
-
摘要: 红外图像处理是实现电气故障诊断的有效手段,而电气设备分割是故障检测的关键环节。针对复杂背景下红外图像电气设备分割难问题,本文采用深度残差网络与UNet网络相结合,深度残差网络替代VGG16对UNet网络进行特征提取和编码,构建深度残差系列Res-Unet网络实现对电气设备的分割。以电流互感器和断路器两种电气设备红外图像分割为例测试Res-Unet网络分割效果,并与传统的UNet网络和Deeplabv3+网络进行对比。通过对数量为876的样本进行测试,实验结果表明,Res18-UNet能够准确地分割电气设备,对电流互感器和断路器的分割准确率超93%,平均交并比大于89%,且分割准确性优于UNet及Deeplabv3+网络模型,为实现电气故障智能诊断奠定基础。Abstract: Infrared thermal image processing is an effective method for detecting defects in electrical equipment. Aiming at the problem of electrical equipment segmentation in infrared thermal images with a complex background, in this study we propose a deep residual UNet network for infrared thermal image segmentation. Using a deep residual network to replace VGG16 to perform feature extraction and coding for the UNet network, a deep residual series UNET network was constructed to segment electrical equipment. To validate the effectiveness of the Res-UNet network, infrared images, including current transformers and circuit breakers, were used to test the segmentation results and were compared with the traditional UNet and Deeplabv3+ networks. The networks were tested using 876 images. The experimental results show that RES18-UNET can accurately segment electrical equipment; the segmentation precision of current transformers and circuit breakers is greater than 93%, and the mean intersection over union (MIoU) is greater than 89%. Our method obtains more accurate segmentation results than UNet and Deeplabv3+, setting the basis for intelligent diagnosis of electrical faults.
-
Keywords:
- infrared image /
- electrical fault diagnosis /
- image segmentation /
- UNet
-
0. 引言
红外成像具有非接触直接测量输变电设备状态的特征,无需停电,在电力领域具有广泛的应用[1-3]。输变电设备在野外严峻环境中长期运行,由于材料老化、污秽闪络、机械受损等因素,常伴随有局部放电、温度增高等现象。绝缘子作为输电线路重要部件,起到电气隔离和机械支撑的作用,当红外图像显示的温度较高,表明其有异常缺陷,这是因为场强不均匀发生局部放电,严重时可能导致线路故障,甚至造成停电故障。文献[4-5]开展了变压器高压套管的红外诊断研究,通过热像特征谱图分析了故障原因。红外图像可应用于交流滤波器的故障分析中,提取其跳闸的典型故障特征[6-8]。
输变电设备红外图谱特征提取主要为图像处理方法,诸如纹理、色彩、边框等图像特征[9-10]。随着无人机航拍技术的发展,输变电设备红外图谱呈现爆发式增长,深度学习提供了一种良好的手段[11-13],采用卷积神经网络(Convolutional Neural Networks,CNN)的方法,对海量图片进行训练学习,提取特征进行测试和验证。CNN通过卷积层计算,输入较深层的特征图,对于小目标绝缘子、套管,权重值相对较少,无法实现小目标的有效提取[14-15]。针对这一缺点,本文对Faster R-CNN方法进行改进,提高绝缘子红外图谱诊断的精度。
1. 改进的Faster R-CNN方法
1.1 Faster R-CNN原理
区别于普通的CNN,Faster R-CNN增加了一个区域提取网络(Region Proposal Network,RPN),即图 1中的候选区域,摒弃传统的滑动窗口,可在GPU直接运行计算,极大地加快了计算速度。RPN判断每个像素点对应的多个不同尺度和宽高比的锚框是否为前景目标的二分类,形成候选区域。
Faster R-CNN一般采用随机梯度下降法(Stochastic Gradient Descent,SGD)训练神经网络,见式(1):
$$ h(x) = \sum\limits_{i = 0}^n {{w_i}} {x_i} = {\mathit{\boldsymbol{W}}^{\rm{T}}}\mathit{\boldsymbol{X}} $$ (1) 式中:X为输入;W为权重;wi、xi分别表示第i个权重和输入;h(x)为对应的输出。
损失函数S(W)基于平方误差实现,见式(2):
$$ S(\mathit{\boldsymbol{W}}) = \frac{1}{2}\sum\limits_{i = 0}^m {{{({h_W}({x_i}) - {y_i})}^2}} $$ (2) 式中:yi为真实输出。
W的更新函数见式(3):
$$ {W_j} = {W_j} - \alpha \frac{\partial }{{\partial {W_j}}}S(\mathit{\boldsymbol{W}}) $$ (3) 式中:α为学习率,可设置步长。W通过梯度下降法进行求解,首先正向计算样本输出值,接着根据反向传递的误差迭代计算,常用在CNN训练中。
RPN的选择本质是通过平移或者尺度变化的方法将合适的区域提取网络R变成$\hat C$,从而接近实际的候选框C:
$$ f({R_x}, {R_y}, {R_w}, {R_h}) = \left( {{{\hat C}_x}, {{\hat C}_y}, {{\hat C}_w}, {{\hat C}_h}} \right) \approx \left( {{C_x}, {C_y}, {C_w}, {C_h}} \right) $$ (4) 式中:(x, y)、(w, h)分别为矩形区域的中心坐标和宽、高。
令${t_*}$为矩形区域的平移和缩放量,则有:
$$ \left\{ {\begin{array}{*{20}{l}} {{t_x} = ({C_x} - {R_x})/{R_{\rm{w}}}}\\ {{t_y} = ({C_y} - {R_y})/{R_{\rm{h}}}}\\ {{t_{\rm{w}}} = \lg ({C_{\rm{w}}}/{R_{\rm{w}}})}\\ {{t_{\rm{h}}} = \lg ({C_{\rm{h}}}/{R_{\rm{h}}})} \end{array}} \right. $$ (5) 式中:tx、ty为矩形区域的中心坐标平移量;tw、th分别为矩形区域的宽、高的缩放量。
预测值计算过程为:
$$ {d_*}(R) = w_*^{\rm{T}}\phi (R) $$ (6) 式中:ϕ是最后一次卷积计算。
损失函数的目标值计算见式(7),通过调整平移和缩放的尺度,确定最终的候选区域[16]:
$$ {L_{{\rm{oss}}}} = \sum\limits_{i = 1}^N {{{(t_*^i - w_*^{\rm{T}}\phi ({C^i}))}^2}} $$ (7) 1.2 压缩激励结构
为了增强Faster R-CNN的小目标特征提取能力,引入压缩激励结构,即压缩和激励两大操作,设图像的特征参数设置为(H, W, K),分别表示为长、宽和通道数。
压缩操作Fsq(·)基于各个通道实现特征图空间信息的压缩,见式(8):
$$ {h_c} = {F_{{\rm{sq}}}}\left( {{k_c}} \right) = \frac{1}{{H \times W}}\sum\limits_{i = 1}^H {\sum\limits_{j = 1}^W {{k_c}(i, j)} } $$ (8) 式中:kc表示第c个通道;hc表示经过压缩后输出向量h的第c个元素。
激励操作分为激励Fex(·)和校准Fscale(·)两个过程,分别见式(9)和式(10):
$$ s = {F_{{\rm{ex}}}}(h, w) = \sigma (g(z, w)) = \sigma ({w_2}\delta ({w_1}z)) $$ (9) 式中:σ是sigmoid激活函数;w1为$\frac{c}{r} \times \vec C$的实数矩阵,表示通道的缩减,r为缩减因子;δ是ReLU激活函数,w2为$\vec C \times \frac{c}{r}$的实数矩阵,表示通道的恢复。
$$ {\tilde h_c} = {F_{{\rm{scale}}}}({h_c}, {s_c}) = {s_c}.{h_c} $$ (10) 式中:sc表示激活向量s的第c个元素;${\tilde h_c}$表示校准后的对应元素。
2. 绝缘子红外图像的深度学习
2.1 环境搭建
本文基于改进的Faster R-CNN方法,对平台的环境搭建要求较高,具体配置见表 1。操作系统为开源Linux,数据库为MySQL;硬件配置较高,CPU采用Intel高端系列,内存和硬盘容量均较大,保证大量数据的高效运算。框架采用2018年初公开的目标检测平台Detectron,包含最具代表性的目标检测、图像分割、关键点检测算法。
表 1 软硬件配置Table 1. Hardware and software configurationName Model Operating system Ubuntu 16.04.1 Database mysql 5.5.20 CPU Intel Xeon Silver 4114T 12C GPU NVIDIA GTX1080Ti Memory 32 G Hard disk 1 T Frame Detectron 2.2 数据准备
图像数据来源于多条输电线路无人机拍摄的大量绝缘子照片。在神经网络的训练过程中,对正负样本的判定见图 2,主要基于锚框映射图与真实目标框的交并比(Intersection over Union,IoU)来进行计算分类。首先对RPN形成的锚框进行排序筛选形成锚框序列,接着利用边框回归参数向量修正锚框的位置形成候选区域集合,然后计算所有感兴趣区域(Region of Interest,RoI)与真实目标框的IoU,求最大值,并判断其是否大于0.5,若满足,则为正样本,否则为负样本。
完成正负样本的判定后,为了使样本的采样尽量均衡,保证双方的训练集和验证集数量一致,同时采用迁移学习的方法,经过相关修正与补偿,扩充样本总量至2375,样本信息配置见表 2。
表 2 样本配置信息Table 2. Information of sample configurationsample type training set verification set test set total positive 500 250 750 1500 negative 500 250 125 875 total 1000 500 875 2375 2.3 改进模型的建立
普通的CNN方法,原始图像经过卷积层和池化层后,全链接层输出结果,本文方法的结构如图 3所示,引入压缩激励的过程,压缩特征图的空间信息,并通过激励操作学习通道间的依赖关系,可自适应分配每个通道的权重值,提取有利于任务的重要特征通道,最终能进一步增强网络模型的特征提取能力,采用SE-DenseNet-169框架的Faster R-CNN模型。
改进模型主要完成绝缘子异常状态的精准识别,首先对红外原始图像进行相关修正与补偿实现样本扩充,然后采用本文方法进行训练,收敛后,获得最终的改进Faster R-CNN模型。
3. 实验分析
3.1 精确度衡量
CNN学习中,精确度的衡量一般会采用准确率(Precision)和召回率(Recall),其计算过程分别见式(11)和式(12):
$$ {P_{{\rm{re}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP}} + {\rm{FP}}}} $$ (11) $$ {P_{{\rm{ca}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP + FN}}}} $$ (12) 式中:TP表示是实际值和预测值均是异常绝缘子的个数;FP表示预测值是异常绝缘子,实际值却不是的个数;FN表示是实际值是异常绝缘子,预测值却不是的个数。
为进一步衡量改进模型的优劣,这里采用平均检测精度(mean Average Precision,mAP),其中AP等价于召回率和准确率形成曲线与横轴包围的几何图形的面积,对所有类别的AP求平均值即可得到mAP。
3.2 不同方法的对比研究
基于样本数据,开展BP、Faster R-CNN以及本文方法的精确度和效率对比研究,不同方法的实验结果统计见表 3。Faster R-CNN和本文方法在Precision方面均明显优于BP方法,本文方法的Recall最高,mAP也最高,相对于BP提高了近10%,这说明经过改进的Faster R-CNN对于小目标的特征提取具有明显的优势。本文方法通过压缩激励结果,减少了数据量的计算,所以相对于其他方法,有更高的效率。
表 3 不同方法的实验结果统计Table 3. Statistics of experimental results by different methodsName Precision Recall mAP Time/s BP 93.5% 90.4% 80.3% 2.3 Faster R-CNN 98.7% 95.3% 88.7% 1.2 BFEM 99.2% 97.6% 90.2% 0.9 绘制其准确率-召回率关系曲线,如图 4所示,可更加形象直观地反映出本文方法对绝缘子异常特征的提取优势,因为另外两种方法的曲线均被完整的覆盖,说明本文方法改进效果明显。
3.3 不同类型绝缘子对比研究
常见绝缘子排列有单Ⅰ型、双Ⅰ型以及Ⅴ型。本文开展这3类绝缘子的红外图像研究,比较不同排列方式的诊断准确率,如图 5所示。根据电力标准DL/T 664-2008[19],图(b)和图(c)绝缘子端部明显发热,属于异常情况。
不同类型绝缘子的异常诊断准确率见表 4,准确率均较高,均在90%以上;Ⅰ型和Ⅴ型绝缘子的准确率明显优于双Ⅰ型绝缘子,这是因为双Ⅰ型绝缘子会出现两排绝缘子重叠的情况,对红外图像的研究造成一定的影响,为此无人机对于该种类型绝缘子的线路需开展多种角度的拍摄。
表 4 绝缘子异常诊断的准确率Table 4. Accuracy of insulator anomaly diagnosisInsulator type Abnormal total Detected number Accuracy Single Ⅰ 62 61 98.4% Double Ⅰ 47 44 93.6% Ⅴ 31 31 100.0% 4. 结论
本文提出一种改进的Faster R-CNN方法,引入激励压缩环节,搭建训练模型,完成绝缘子红外图像的异常诊断,并成功应用于电力现场运维。本文方法可高效并精准地识别出绝缘子的异常缺陷,mAP达到90.2%。研究结果可为输电线路绝缘子缺陷识别研究提供一定的参考。
-
表 1 不同分割方法得到的MIOU值
Table 1 The MIOU values based on different segmentation methods
表 2 测试数据集的准确率
Table 2 The accuracy of the test dataset
network Segmentation object IoU MIoU Precision Deeplabv3+ Current transformer 0.79 0.8011 0.90 Circuit breaker 0.67 0.84 Background 0.95 0.97 UNet Current transformer 0.8023 0.8272 0.9150 Circuit breaker 0.7179 0.8960 Background 0.9615 0.9805 Res18-UNet Current transformer 0.8623 0.8963 0.9470 Circuit breaker 0.8579 0.9347 Background 0.9686 0.9907 Res34-UNet Current transformer 0.6306 0.7139 0.7110 Circuit breaker 0.6064 0.7396 Background 0.9047 0.9872 Res50-UNet Current transformer 0.4747 0.5906 0.5174 Circuit breaker 0.4249 0.3700 Background 0.8722 0.9689 -
[1] 康龙. 基于红外图像处理的变电站设备故障诊断[D]. 北京: 华北电力大学, 2016. KANG Long. Substation Equipment Fault Diagnosis Based on Infrared Image[D]. Beijing: North China Electric Power University, 2016.
[2] 曾亮. 基于红外图像的变电站设备故障精准定位方法的研究[D]. 重庆: 重庆理工大学, 2019. ZENG Liang. Research on Precise Fault Location Method of Substation Equipment Based on Infrared Image[D]. Chongqing: Chongqing University of Technology, 2019.
[3] ZOU H, HUANG F. A novel intelligent fault diagnosis method for electrical equipment using infrared thermography[J]. Infrared Physics & Technology, 2015, 73: 29-35.
[4] 周建国, 雷民, 杨褚明, 等. 带电设备红外诊断应用规范: DL/T 664-2008. [S]. 国家能源局, [2016-12-05]. ZHOU Jianguo, LEI Min, YANG Chuming, et al. Application Specification for Infrared Diagnosis of Live Equipment[S]. National Energy Administration, [2016-12-05].
[5] 许志浩, 郑诗泉, 康兵, 等. 基于三相自搜寻比较法的电气设备过热故障识别方法[J]. 红外技术, 2021, 43(11): 1112-1118. http://hwjs.nvir.cn/article/id/35d8419e-d42a-4472-bc86-a4292e5976a4 XU Zhihao, ZHENG Shiquan, KANG Bing, et al. Overheat fault identification method for electrical equipment based on three-phase self-searching comparison method[J]. Infrared Technology, 2021, 43(11): 1112-1118. http://hwjs.nvir.cn/article/id/35d8419e-d42a-4472-bc86-a4292e5976a4
[6] Rahmani A, Haddadnia J, SeryasatO. Intelligent fault detection of electrical equipment in ground substations using thermo vision technique[C]//2010 2nd International Conference on Mechanical and Electronics Engineering, 2010: V2-150-V2-154.
[7] LIN K C, LAI C S. Fault recognition system of electrical components in scrubber using infrared images[C]//International Conference on Knowledge-Based and Intelligent Information and Engineering Systems, 2003: 1303-1310.
[8] 王晶, 姚邹静, 赵春晖. 基于红外图像时空特征的电力设备故障诊断[J]. 控制工程, 2021, 28(8): 1683-1690. https://www.cnki.com.cn/Article/CJFDTOTAL-JZDF202108025.htm WANG Jing, YAO Zoujing, ZHAO Chunhui. A fault diagnosis method for power equipment based on spatiotemporal features of infrared images[J]. Control Engineering of China, 2021, 28(8): 1683-1690. https://www.cnki.com.cn/Article/CJFDTOTAL-JZDF202108025.htm
[9] 李文璞, 谢可, 廖逍, 等. 基于Faster RCNN变电设备红外图像缺陷识别方法[J]. 南方电网技术, 2019, 13(12): 79-84. https://www.cnki.com.cn/Article/CJFDTOTAL-NFDW201912012.htm LI Wenpu, XIE Ke, LIAO Xiao, et al. Intelligent diagnosis method of infrared image for transformer equipment based on improved faster RCNN[J]. Southern Power System Technology, 2019, 13(12): 79-84. https://www.cnki.com.cn/Article/CJFDTOTAL-NFDW201912012.htm
[10] 王旭红, 李浩, 樊绍胜, 等. 基于改进SSD的电力设备红外图像异常自动检测方法[J]. 电工技术学报, 2020, 35(S1): 302-310. https://www.cnki.com.cn/Article/CJFDTOTAL-DGJS2020S1034.htm WANG Xuhong, LI Hao, FAN Shaosheng, et al. Infrared image anomaly automatic detection method for power equipment based on improved single shot multi box detection[J]. Transactions of China Electrotechnical Society, 2020, 35(S1): 302-310. https://www.cnki.com.cn/Article/CJFDTOTAL-DGJS2020S1034.htm
[11] 郑含博, 李金恒, 刘洋, 等. 基于改进YOLOv3的电力设备红外目标检测模型[J]. 电工技术学报, 2021, 36(7): 1389-1398. https://www.cnki.com.cn/Article/CJFDTOTAL-DGJS202107009.htm ZHENG Hanbo, LI Jinheng, LIU Yang, et al. Infrared object detection model for power equipment based on improved YOLOv3[J]. Transactions of China Electrotechnical Society, 2021, 36(7): 1389-1398. https://www.cnki.com.cn/Article/CJFDTOTAL-DGJS202107009.htm
[12] 黄新宇, 张洋, 王黎明, 等. 基于Mask-RCNN算法的复合绝缘子串红外图像分割与温度读取[J]. 高压电器, 2021, 57(9): 87-94. https://www.cnki.com.cn/Article/CJFDTOTAL-GYDQ202109012.htm HUANG Xinyu, ZHANG Yang, WANG Liming, et al. Infrared image segmentation and temperature reading of composite insulator strings based on mask⁃RCNN algorithm[J]. High Voltage Apparatus, 2021, 57(9): 87-94. https://www.cnki.com.cn/Article/CJFDTOTAL-GYDQ202109012.htm
[13] 李文璞, 毛颖科, 廖逍, 等. 基于旋转目标检测的变电设备红外图像电压致热型缺陷智能诊断方法[J]. 高电压技术, 2021, 47(9): 3246-3253. https://www.cnki.com.cn/Article/CJFDTOTAL-GDYJ202109022.htm LI Wenpu, MAO Yingke, LIAO Xiao, et al. Intelligent diagnosis method of infrared image for substation equipment voltage type thermal defects based on rotating target detection [J]. High Voltage Apparatus, 2021, 47(9): 3246-3253. https://www.cnki.com.cn/Article/CJFDTOTAL-GDYJ202109022.htm
[14] 刘云鹏, 张喆, 裴少通, 等. 基于深度学习的红外图像中劣化绝缘子片的分割方法[J]. 电测与仪表, 2022, 59(9): 63-68. https://www.cnki.com.cn/Article/CJFDTOTAL-DCYQ202209009.htm LIU Yunpeng, ZHANG Zhe, PEI Shaotong, et al. Faulty insulator segmentation method in infrared image based on deep learning[J]. Electrical Measurement & Instrumentation, 2022, 59(9): 63-68. https://www.cnki.com.cn/Article/CJFDTOTAL-DCYQ202209009.htm
[15] 袁刚, 许志浩, 康兵, 等. 基于DeepLabv3+网络的电流互感器红外图像分割方法[J]. 红外技术, 2021, 43(11): 1127-1134. http://hwjs.nvir.cn/article/id/b9df2f53-2244-471b-b0ec-42159cfaa654 YUAN Gang, XU Zhihao, KANG Bing, et al. Deep Labv3+ network-based infrared image segmentation method for current transformer[J]. Infrared Technology, 2021, 43(11): 1127-1134. http://hwjs.nvir.cn/article/id/b9df2f53-2244-471b-b0ec-42159cfaa654
[16] 谷世举, 卜雄洙, 靳建伟, 等. 基于改进Unet网络的炮口火焰分割方法[J]. 国外电子测量技术, 2021, 40(4): 16-21. https://www.cnki.com.cn/Article/CJFDTOTAL-GWCL202104006.htm GU Shiju, BU Xingzhu, JIN Jianwei, et al. Muzzle flame segmentation method based on improved Unet network[J]. Foreign Electronic Measurement Technology, 2021, 40(4): 16-21. https://www.cnki.com.cn/Article/CJFDTOTAL-GWCL202104006.htm
[17] CHEN Z, ZHU H. Visual quality evaluation for semantic segmentation: subjective assessment database and objective assessment measure[J]. IEEE Transactions on Image Processing, 2019, 28(12): 5785-5796.
-
期刊类型引用(8)
1. 李明超,闫宽,张聪,胡记伟,欧锴,陈绪兵. 用于激光软钎焊温度测量的高精度红外辐射测温装置. 红外技术. 2025(01): 108-114 . 本站查看
2. 秦沛强,聂传杰,吝曼卿,卢永雄,张岸勤,何家冰. 磷矿巷道岩爆风险的可视化及特征增强研究. 矿业研究与开发. 2025(02): 123-131 . 百度学术
3. 李贞,魏勇. 基于BP神经网络的红外测温补偿算法研究. 机械制造与自动化. 2023(01): 170-172+176 . 百度学术
4. 曾飞,胡文祥,高彦鑫,宋杰杰. 基于激光扫描的输送带横向跑偏检测系统. 制造业自动化. 2023(05): 21-24 . 百度学术
5. 杨帆,徐军,吴振生,孙明晓,金添. 基于Web端多节点红外热成像传感系统设计. 激光杂志. 2022(02): 154-157 . 百度学术
6. 何翔. 非接触式检测装置综合实验设计. 电子技术与软件工程. 2022(07): 148-151 . 百度学术
7. 谢彬棽. 基于双CAN总线的露天矿带式输送机速度自动化控制方法. 煤矿机械. 2022(12): 214-217 . 百度学术
8. 武存喜. 回转窑焚烧设备退火温度模糊自适应控制技术. 工业加热. 2022(12): 27-31 . 百度学术
其他类型引用(2)