Application of Deep Learning in Abnormal Insulator Infrared Image Diagnosis
-
摘要: 绝缘子的红外图像分析一般采用图像处理的方法,易受背景环境和数据量的影响,准确率和效率均较低,本文提出一种深度学习的异常诊断方法,基于改进的Faster R-CNN方法搭建检测网络,开展不同类型的绝缘子测试。研究结果表明:相对于神经网络(Back Propagation,BP)、Faster R-CNN方法,本文方法可高效地诊断出绝缘子的异常缺陷,平均检测精度达到90.2%;单Ⅰ型和Ⅴ型绝缘子的异常诊断准确率高于双Ⅰ型绝缘子。研究结果可为输电线路绝缘子异常诊断提供一定的参考。Abstract: Because of the effects of the background environment and data volume, the accuracy and efficiency of abnormal defects in traditional infrared images of insulators are generally low. In this study, a deep-learning anomaly diagnosis method is proposed. Based on the improved faster region-based convolutional neural network (R-CNN) method, a detection network is built to test different types of insulators. Results show that compared with the back propagation neural network and faster R-CNN methods, the proposed method can diagnose abnormal defects of insulators efficiently with a mean average precision of 90.2%. In addition, the diagnostic accuracy of single type Ⅰ and type Ⅴ insulators is higher than that of double type Ⅰ insulators. The results can provide a reference for insulator defect identification in transmission lines.
-
Keywords:
- insulator /
- abnormal diagnosis /
- deep learning /
- Faster R-CNN /
- mAP /
- infrared image
-
0. 引言
红外成像具有非接触直接测量输变电设备状态的特征,无需停电,在电力领域具有广泛的应用[1-3]。输变电设备在野外严峻环境中长期运行,由于材料老化、污秽闪络、机械受损等因素,常伴随有局部放电、温度增高等现象。绝缘子作为输电线路重要部件,起到电气隔离和机械支撑的作用,当红外图像显示的温度较高,表明其有异常缺陷,这是因为场强不均匀发生局部放电,严重时可能导致线路故障,甚至造成停电故障。文献[4-5]开展了变压器高压套管的红外诊断研究,通过热像特征谱图分析了故障原因。红外图像可应用于交流滤波器的故障分析中,提取其跳闸的典型故障特征[6-8]。
输变电设备红外图谱特征提取主要为图像处理方法,诸如纹理、色彩、边框等图像特征[9-10]。随着无人机航拍技术的发展,输变电设备红外图谱呈现爆发式增长,深度学习提供了一种良好的手段[11-13],采用卷积神经网络(Convolutional Neural Networks,CNN)的方法,对海量图片进行训练学习,提取特征进行测试和验证。CNN通过卷积层计算,输入较深层的特征图,对于小目标绝缘子、套管,权重值相对较少,无法实现小目标的有效提取[14-15]。针对这一缺点,本文对Faster R-CNN方法进行改进,提高绝缘子红外图谱诊断的精度。
1. 改进的Faster R-CNN方法
1.1 Faster R-CNN原理
区别于普通的CNN,Faster R-CNN增加了一个区域提取网络(Region Proposal Network,RPN),即图 1中的候选区域,摒弃传统的滑动窗口,可在GPU直接运行计算,极大地加快了计算速度。RPN判断每个像素点对应的多个不同尺度和宽高比的锚框是否为前景目标的二分类,形成候选区域。
Faster R-CNN一般采用随机梯度下降法(Stochastic Gradient Descent,SGD)训练神经网络,见式(1):
$$ h(x) = \sum\limits_{i = 0}^n {{w_i}} {x_i} = {\mathit{\boldsymbol{W}}^{\rm{T}}}\mathit{\boldsymbol{X}} $$ (1) 式中:X为输入;W为权重;wi、xi分别表示第i个权重和输入;h(x)为对应的输出。
损失函数S(W)基于平方误差实现,见式(2):
$$ S(\mathit{\boldsymbol{W}}) = \frac{1}{2}\sum\limits_{i = 0}^m {{{({h_W}({x_i}) - {y_i})}^2}} $$ (2) 式中:yi为真实输出。
W的更新函数见式(3):
$$ {W_j} = {W_j} - \alpha \frac{\partial }{{\partial {W_j}}}S(\mathit{\boldsymbol{W}}) $$ (3) 式中:α为学习率,可设置步长。W通过梯度下降法进行求解,首先正向计算样本输出值,接着根据反向传递的误差迭代计算,常用在CNN训练中。
RPN的选择本质是通过平移或者尺度变化的方法将合适的区域提取网络R变成$\hat C$,从而接近实际的候选框C:
$$ f({R_x}, {R_y}, {R_w}, {R_h}) = \left( {{{\hat C}_x}, {{\hat C}_y}, {{\hat C}_w}, {{\hat C}_h}} \right) \approx \left( {{C_x}, {C_y}, {C_w}, {C_h}} \right) $$ (4) 式中:(x, y)、(w, h)分别为矩形区域的中心坐标和宽、高。
令${t_*}$为矩形区域的平移和缩放量,则有:
$$ \left\{ {\begin{array}{*{20}{l}} {{t_x} = ({C_x} - {R_x})/{R_{\rm{w}}}}\\ {{t_y} = ({C_y} - {R_y})/{R_{\rm{h}}}}\\ {{t_{\rm{w}}} = \lg ({C_{\rm{w}}}/{R_{\rm{w}}})}\\ {{t_{\rm{h}}} = \lg ({C_{\rm{h}}}/{R_{\rm{h}}})} \end{array}} \right. $$ (5) 式中:tx、ty为矩形区域的中心坐标平移量;tw、th分别为矩形区域的宽、高的缩放量。
预测值计算过程为:
$$ {d_*}(R) = w_*^{\rm{T}}\phi (R) $$ (6) 式中:ϕ是最后一次卷积计算。
损失函数的目标值计算见式(7),通过调整平移和缩放的尺度,确定最终的候选区域[16]:
$$ {L_{{\rm{oss}}}} = \sum\limits_{i = 1}^N {{{(t_*^i - w_*^{\rm{T}}\phi ({C^i}))}^2}} $$ (7) 1.2 压缩激励结构
为了增强Faster R-CNN的小目标特征提取能力,引入压缩激励结构,即压缩和激励两大操作,设图像的特征参数设置为(H, W, K),分别表示为长、宽和通道数。
压缩操作Fsq(·)基于各个通道实现特征图空间信息的压缩,见式(8):
$$ {h_c} = {F_{{\rm{sq}}}}\left( {{k_c}} \right) = \frac{1}{{H \times W}}\sum\limits_{i = 1}^H {\sum\limits_{j = 1}^W {{k_c}(i, j)} } $$ (8) 式中:kc表示第c个通道;hc表示经过压缩后输出向量h的第c个元素。
激励操作分为激励Fex(·)和校准Fscale(·)两个过程,分别见式(9)和式(10):
$$ s = {F_{{\rm{ex}}}}(h, w) = \sigma (g(z, w)) = \sigma ({w_2}\delta ({w_1}z)) $$ (9) 式中:σ是sigmoid激活函数;w1为$\frac{c}{r} \times \vec C$的实数矩阵,表示通道的缩减,r为缩减因子;δ是ReLU激活函数,w2为$\vec C \times \frac{c}{r}$的实数矩阵,表示通道的恢复。
$$ {\tilde h_c} = {F_{{\rm{scale}}}}({h_c}, {s_c}) = {s_c}.{h_c} $$ (10) 式中:sc表示激活向量s的第c个元素;${\tilde h_c}$表示校准后的对应元素。
2. 绝缘子红外图像的深度学习
2.1 环境搭建
本文基于改进的Faster R-CNN方法,对平台的环境搭建要求较高,具体配置见表 1。操作系统为开源Linux,数据库为MySQL;硬件配置较高,CPU采用Intel高端系列,内存和硬盘容量均较大,保证大量数据的高效运算。框架采用2018年初公开的目标检测平台Detectron,包含最具代表性的目标检测、图像分割、关键点检测算法。
表 1 软硬件配置Table 1. Hardware and software configurationName Model Operating system Ubuntu 16.04.1 Database mysql 5.5.20 CPU Intel Xeon Silver 4114T 12C GPU NVIDIA GTX1080Ti Memory 32 G Hard disk 1 T Frame Detectron 2.2 数据准备
图像数据来源于多条输电线路无人机拍摄的大量绝缘子照片。在神经网络的训练过程中,对正负样本的判定见图 2,主要基于锚框映射图与真实目标框的交并比(Intersection over Union,IoU)来进行计算分类。首先对RPN形成的锚框进行排序筛选形成锚框序列,接着利用边框回归参数向量修正锚框的位置形成候选区域集合,然后计算所有感兴趣区域(Region of Interest,RoI)与真实目标框的IoU,求最大值,并判断其是否大于0.5,若满足,则为正样本,否则为负样本。
完成正负样本的判定后,为了使样本的采样尽量均衡,保证双方的训练集和验证集数量一致,同时采用迁移学习的方法,经过相关修正与补偿,扩充样本总量至2375,样本信息配置见表 2。
表 2 样本配置信息Table 2. Information of sample configurationsample type training set verification set test set total positive 500 250 750 1500 negative 500 250 125 875 total 1000 500 875 2375 2.3 改进模型的建立
普通的CNN方法,原始图像经过卷积层和池化层后,全链接层输出结果,本文方法的结构如图 3所示,引入压缩激励的过程,压缩特征图的空间信息,并通过激励操作学习通道间的依赖关系,可自适应分配每个通道的权重值,提取有利于任务的重要特征通道,最终能进一步增强网络模型的特征提取能力,采用SE-DenseNet-169框架的Faster R-CNN模型。
改进模型主要完成绝缘子异常状态的精准识别,首先对红外原始图像进行相关修正与补偿实现样本扩充,然后采用本文方法进行训练,收敛后,获得最终的改进Faster R-CNN模型。
3. 实验分析
3.1 精确度衡量
CNN学习中,精确度的衡量一般会采用准确率(Precision)和召回率(Recall),其计算过程分别见式(11)和式(12):
$$ {P_{{\rm{re}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP}} + {\rm{FP}}}} $$ (11) $$ {P_{{\rm{ca}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP + FN}}}} $$ (12) 式中:TP表示是实际值和预测值均是异常绝缘子的个数;FP表示预测值是异常绝缘子,实际值却不是的个数;FN表示是实际值是异常绝缘子,预测值却不是的个数。
为进一步衡量改进模型的优劣,这里采用平均检测精度(mean Average Precision,mAP),其中AP等价于召回率和准确率形成曲线与横轴包围的几何图形的面积,对所有类别的AP求平均值即可得到mAP。
3.2 不同方法的对比研究
基于样本数据,开展BP、Faster R-CNN以及本文方法的精确度和效率对比研究,不同方法的实验结果统计见表 3。Faster R-CNN和本文方法在Precision方面均明显优于BP方法,本文方法的Recall最高,mAP也最高,相对于BP提高了近10%,这说明经过改进的Faster R-CNN对于小目标的特征提取具有明显的优势。本文方法通过压缩激励结果,减少了数据量的计算,所以相对于其他方法,有更高的效率。
表 3 不同方法的实验结果统计Table 3. Statistics of experimental results by different methodsName Precision Recall mAP Time/s BP 93.5% 90.4% 80.3% 2.3 Faster R-CNN 98.7% 95.3% 88.7% 1.2 BFEM 99.2% 97.6% 90.2% 0.9 绘制其准确率-召回率关系曲线,如图 4所示,可更加形象直观地反映出本文方法对绝缘子异常特征的提取优势,因为另外两种方法的曲线均被完整的覆盖,说明本文方法改进效果明显。
3.3 不同类型绝缘子对比研究
常见绝缘子排列有单Ⅰ型、双Ⅰ型以及Ⅴ型。本文开展这3类绝缘子的红外图像研究,比较不同排列方式的诊断准确率,如图 5所示。根据电力标准DL/T 664-2008[19],图(b)和图(c)绝缘子端部明显发热,属于异常情况。
不同类型绝缘子的异常诊断准确率见表 4,准确率均较高,均在90%以上;Ⅰ型和Ⅴ型绝缘子的准确率明显优于双Ⅰ型绝缘子,这是因为双Ⅰ型绝缘子会出现两排绝缘子重叠的情况,对红外图像的研究造成一定的影响,为此无人机对于该种类型绝缘子的线路需开展多种角度的拍摄。
表 4 绝缘子异常诊断的准确率Table 4. Accuracy of insulator anomaly diagnosisInsulator type Abnormal total Detected number Accuracy Single Ⅰ 62 61 98.4% Double Ⅰ 47 44 93.6% Ⅴ 31 31 100.0% 4. 结论
本文提出一种改进的Faster R-CNN方法,引入激励压缩环节,搭建训练模型,完成绝缘子红外图像的异常诊断,并成功应用于电力现场运维。本文方法可高效并精准地识别出绝缘子的异常缺陷,mAP达到90.2%。研究结果可为输电线路绝缘子缺陷识别研究提供一定的参考。
-
表 1 软硬件配置
Table 1 Hardware and software configuration
Name Model Operating system Ubuntu 16.04.1 Database mysql 5.5.20 CPU Intel Xeon Silver 4114T 12C GPU NVIDIA GTX1080Ti Memory 32 G Hard disk 1 T Frame Detectron 表 2 样本配置信息
Table 2 Information of sample configuration
sample type training set verification set test set total positive 500 250 750 1500 negative 500 250 125 875 total 1000 500 875 2375 表 3 不同方法的实验结果统计
Table 3 Statistics of experimental results by different methods
Name Precision Recall mAP Time/s BP 93.5% 90.4% 80.3% 2.3 Faster R-CNN 98.7% 95.3% 88.7% 1.2 BFEM 99.2% 97.6% 90.2% 0.9 表 4 绝缘子异常诊断的准确率
Table 4 Accuracy of insulator anomaly diagnosis
Insulator type Abnormal total Detected number Accuracy Single Ⅰ 62 61 98.4% Double Ⅰ 47 44 93.6% Ⅴ 31 31 100.0% -
[1] 陈俊佑, 金立军, 段绍辉, 等.基于Hu不变矩的红外图像电力设备识别[J].机电工程, 2013, 30(1): 5-8. https://www.cnki.com.cn/Article/CJFDTOTAL-JDGC201301003.htm CHEN Junyou, JIN Lijun, DUAN Shaohui, et al. Power equipment identification in infrared image based on Hu invariant moments[J]. Journal of Mechanical & Electrical Engineering, 2013, 30(1): 5-8. https://www.cnki.com.cn/Article/CJFDTOTAL-JDGC201301003.htm
[2] 邹辉, 黄福珍.基于改进Fast-Match算法的电力设备红外图像多目标定位[J].中国电机工程学报, 2017, 37(2): 591-598. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGDC201702027.htm ZOU Hui, HU Fuzhen. Multi-target localization for infrared images of electrical equipment based on improved fast-match algorithm[J]. Proceedings of the CSEE, 2017, 37(2): 591-598. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGDC201702027.htm
[3] 魏秀深.解析深度学习:卷积神经网络原理与视觉实践[M].北京:电子工业出版社, 2018. WEI Xiushen. Analytic Deep Learning: Convolutional Neural Network Theory And Visual Practice[M]. Beijing: Electronic Industry Press, 2018.
[4] 罗舜.电力变压器套管将军帽发热故障的红外诊断分析[J].变压器, 2018, 55(1): 50-53. https://www.cnki.com.cn/Article/CJFDTOTAL-BYQZ201801018.htm LUO Sun. Infrared diagnosis analysis of power transformer bushing coupler heating[J]. Transformer, 2018, 55(1): 50-53. https://www.cnki.com.cn/Article/CJFDTOTAL-BYQZ201801018.htm
[5] 张杰, 付泉泳, 袁野.变压器局部放电带电检测技术应用研究[J].变压器, 2018, 55(8): 66-71. https://www.cnki.com.cn/Article/CJFDTOTAL-BYQZ201808023.htm ZHANG Jie, FU Quanyong, YUAN Ye. Application research of electric detection technology of partial discharge for transformer[J]. Transformer, 2018, 55(8): 66-71. https://www.cnki.com.cn/Article/CJFDTOTAL-BYQZ201808023.htm
[6] 梁天明, 袁焯锋, 石延辉.高压交流滤波电容器局部过热诱因分析及预防[J].电力电容器与无功补偿, 2015, 36(6): 49-53. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201506011.htm LIANG Tianming, YUAN Daofeng, SHI Yanhui. Cause analysis and preventions on local overheating of high voltage ac filter capacitor[J]. Power Capacitor & Reactive Power Compensation, 2015, 36(6): 49-53. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201506011.htm
[7] 潘臻, 安立.一起35 kV并联电容器组事故爆炸原因分析[J].电力电容器与无功补偿, 2015, 36(3): 17-20. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201503005.htm PAN Zhen, AN Li. Analysis of 35 kV shunt capacitor banks explosion accident[J]. Power Capacitor & Reactive Power Compensation, 2015, 36(3): 17-20. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201503005.htm
[8] 黄斌, 李昊, 徐姗姗, 等.一起35 kV并联电容器组爆炸原因分析及防范措施[J].电力电容器与无功补偿, 2018, 39(1): 23-27. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201801005.htm HUANG Bin, LI Hao, XU Sansan, et al. Reason analysis and precautionary measures for a 35kv shunt capacitor bank explosion[J]. Power Capacitor & Reactive Power Compensation, 2018, 39(1): 23-27. https://www.cnki.com.cn/Article/CJFDTOTAL-DLDY201801005.htm
[9] 商俊平, 李储欣, 陈亮.基于视觉的绝缘子定位与自爆缺陷检测[J].电子测量与仪器学报, 2017, 31(6): 844-849. https://www.cnki.com.cn/Article/CJFDTOTAL-DZIY201706007.htm SHANG Junping, LI Chuxin, CHEN Liang. Location and detectionfor self-explode insulator based on vision[J]. Journal of Electronic Measurement and Instrumentation, 2017, 31(6): 844-849. https://www.cnki.com.cn/Article/CJFDTOTAL-DZIY201706007.htm
[10] 沈新平, 彭刚, 袁志强.基于霍夫变换和RANSAC算法的绝缘子定位方法[J].电子测量技术, 2017, 40(6): 132-137. https://www.cnki.com.cn/Article/CJFDTOTAL-DZCL201706031.htm SHEN Xinping, PENG Gang, YUAN Zhiqiang. Insulator location method based on hough transformation and RANSAC algorithm[J]. Electronic Measurement Technology, 2017, 40(6): 132-137. https://www.cnki.com.cn/Article/CJFDTOTAL-DZCL201706031.htm
[11] 李军锋, 王钦若, 李敏.结合深度学习和随机森林的电力设备图像识别[J].高电压技术, 2017, 43(11): 3705-3711. https://www.cnki.com.cn/Article/CJFDTOTAL-GDYJ201711028.htm LI Junfeng, WANG Qinruo, LI Min, et al. Electric Equipment Image Recognition Based on Deep Learning and Random Forest[J]. High Voltage Engineering, 2017, 43(11): 3705-3711. https://www.cnki.com.cn/Article/CJFDTOTAL-GDYJ201711028.htm
[12] 侯春萍, 章衡光, 张巍, 等.输电线路绝缘子自爆缺陷识别方法[J].电力系统及其自动化学报, 2019, 31(6): 1-6. HOU Chunping, ZHANG Hengguang, ZHANG Wei, et al. Recognition method for faults of insulators on transmission lines[C]//Proceedings of the CSU-EPSA, 2019, 31(6): 1-6.
[13] 左川.基于图像识别的输电线路绝缘子检测方法研究[D].北京: 华北电力大学, 2019. ZUO Chuang. Research on detection method of transmission line insulator based on image recognition[D]. Beijing: North China Electric Power University, 2019.
[14] 杨光俊.卷积神经网络在电力设备红外图像识别中的应用研究[D].广州: 华南理工大学, 2019. YANG Guangjun. Research on the application of convolutional neural network in infrared image recognition of power equipment[D]. Guangzhou: South CHINA University of Technology, 2019.
[15] 周可慧, 廖志伟, 肖异瑶, 等.基于改进CNN的电力设备红外图像分类模型构建研究[J].红外技术, 2019, 41(11): 1033-1038. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201911007.htm ZHOU Kehui, LIAO Zhiwei, XIAO Yiyao, et al. Construction of infrared image classification model for power equipments based on improved CNN[J]. Infrared Technology, 2019, 41(11): 1033-1038. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201911007.htm
[16] 许必宵.基于多尺度特征融合与上下文分析的目标检测技术研究[D].南京: 南京邮电大学, 2019. XU Bixiao. Research on object detection technology based on multi-scale feature fusion and context analysis[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2019.
[17] 张丹丹.基于航拍图像的绝缘子自爆位置的检测[D].成都: 西华大学, 2018. ZHANG Dandan. Detection of self-exploding position of insulator based on aerial image[D]. Chengdu: Xihua University, 2018.
[18] 王梦.基于绝缘子图像的缺陷检测方法研究[D].武汉: 华中科技大学, 2019. WANG Meng. A thesis submitted in partial fulfillment of the requirements[D]. Wuhan: Huazhong University of Science & Technology, 2019.
[19] 国家能源局.带电设备红外诊断应用规范: DL/T 664-2008[S].北京: 中国标准出版社, 2008. National Energy Administration. Application rules of infrared diagnosis for live electrical equipment: DL/T 664-2008[S]. Beijing: China Electric Power Press, 2008.
-
期刊类型引用(5)
1. 邱刚,高超,陈杰,谭笑,杨景刚,李鸿泽. 基于热成像技术的支柱瓷绝缘子实时故障诊断研究. 绝缘材料. 2023(06): 100-105 . 百度学术
2. 张玲玲,张继冉,许廒,任攀攀,丁立斌. 基于红外图像处理的建筑外窗缺陷能耗分析研究. 红外技术. 2023(09): 996-1004 . 本站查看
3. 尹林,胡京,王文彬,贺林轩,周恺,苏朝辉,闫磊,刘若溪,王博,屠幼萍. 环境条件对基于无人机红外检测的零值绝缘子检测判据的影响研究. 电瓷避雷器. 2023(05): 171-177 . 百度学术
4. 刘新伯,李昊,陈强,梁鉴如,郭梦茹. 复杂背景下多个绝缘子串红外图像分割方法. 计算技术与自动化. 2022(02): 125-130 . 百度学术
5. 刘志宏,刘艺林. 电气设备预防性维护技术综述. 科技资讯. 2021(31): 30-32 . 百度学术
其他类型引用(2)