Nonuniformity Correction of Infrared Scene Simulator Based on DMD
-
摘要: 非均匀性是影响数字微镜器件（Digital Micro-mirror Device，DMD）红外场景产生器投射红外场景质量的主要因素之一，DMD红外场景产生器必须经过非均匀性校正才能满足复杂环境下红外成像设备内场仿真试验的应用要求。给出了DMD红外场景产生器的非均匀性校正流程；提出了一种更适合于现有测试条件的变尺度稀疏网格非均匀性测量方法；采用线性化和分段校正进行离线数据处理；采用“在线查表法”进行实时非均匀性校正。仿真结果表明：经过变尺度稀疏网格测试法及非均匀性实时校正算法，可将非均匀性降低至0.5%左右，显著提高了DMD红外场景产生器的红外场景仿真质量。Abstract: The nonuniformity of an infrared scene simulator based on a digital micro-mirror device(DMD) is one of the major factors affecting its performance, and it must be corrected to satisfy the application requirements of the simulation testing of infrared imaging equipment in complex environments. The nonuniformity correction flow of an infrared scene simulator based on a DMD was investigated in detail. A method for measuring the nonuniformity of a variable scale sparse grid was used to fit the test conditions better. Offline data processing based on linearization and segmentation correction was introduced, and real-time nonuniformity correction based on online table lookup was adopted. The simulation shows that the nonuniformity can be reduced to approximately 0.5% by the variable scale sparse grid measurement and real-time nonuniformity correction. The infrared scene quality of the infrared scene simulator based on a DMD improved significantly.
-
0. 引言
红外成像具有非接触直接测量输变电设备状态的特征，无需停电，在电力领域具有广泛的应用[1-3]。输变电设备在野外严峻环境中长期运行，由于材料老化、污秽闪络、机械受损等因素，常伴随有局部放电、温度增高等现象。绝缘子作为输电线路重要部件，起到电气隔离和机械支撑的作用，当红外图像显示的温度较高，表明其有异常缺陷，这是因为场强不均匀发生局部放电，严重时可能导致线路故障，甚至造成停电故障。文献[4-5]开展了变压器高压套管的红外诊断研究，通过热像特征谱图分析了故障原因。红外图像可应用于交流滤波器的故障分析中，提取其跳闸的典型故障特征[6-8]。
输变电设备红外图谱特征提取主要为图像处理方法，诸如纹理、色彩、边框等图像特征[9-10]。随着无人机航拍技术的发展，输变电设备红外图谱呈现爆发式增长，深度学习提供了一种良好的手段[11-13]，采用卷积神经网络（Convolutional Neural Networks，CNN）的方法，对海量图片进行训练学习，提取特征进行测试和验证。CNN通过卷积层计算，输入较深层的特征图，对于小目标绝缘子、套管，权重值相对较少，无法实现小目标的有效提取[14-15]。针对这一缺点，本文对Faster R-CNN方法进行改进，提高绝缘子红外图谱诊断的精度。
1. 改进的Faster R-CNN方法
1.1 Faster R-CNN原理
区别于普通的CNN，Faster R-CNN增加了一个区域提取网络（Region Proposal Network，RPN），即图 1中的候选区域，摒弃传统的滑动窗口，可在GPU直接运行计算，极大地加快了计算速度。RPN判断每个像素点对应的多个不同尺度和宽高比的锚框是否为前景目标的二分类，形成候选区域。
Faster R-CNN一般采用随机梯度下降法（Stochastic Gradient Descent，SGD）训练神经网络，见式(1)：
$$ h(x) = \sum\limits_{i = 0}^n {{w_i}} {x_i} = {\mathit{\boldsymbol{W}}^{\rm{T}}}\mathit{\boldsymbol{X}} $$ (1) 式中：X为输入；W为权重；wi、xi分别表示第i个权重和输入；h(x)为对应的输出。
损失函数S(W)基于平方误差实现，见式(2)：
$$ S(\mathit{\boldsymbol{W}}) = \frac{1}{2}\sum\limits_{i = 0}^m {{{({h_W}({x_i}) - {y_i})}^2}} $$ (2) 式中：yi为真实输出。
W的更新函数见式(3)：
$$ {W_j} = {W_j} - \alpha \frac{\partial }{{\partial {W_j}}}S(\mathit{\boldsymbol{W}}) $$ (3) 式中：α为学习率，可设置步长。W通过梯度下降法进行求解，首先正向计算样本输出值，接着根据反向传递的误差迭代计算，常用在CNN训练中。
RPN的选择本质是通过平移或者尺度变化的方法将合适的区域提取网络R变成$\hat C$，从而接近实际的候选框C：
$$ f({R_x}, {R_y}, {R_w}, {R_h}) = \left( {{{\hat C}_x}, {{\hat C}_y}, {{\hat C}_w}, {{\hat C}_h}} \right) \approx \left( {{C_x}, {C_y}, {C_w}, {C_h}} \right) $$ (4) 式中：(x, y)、(w, h)分别为矩形区域的中心坐标和宽、高。
令${t_*}$为矩形区域的平移和缩放量，则有：
$$ \left\{ {\begin{array}{*{20}{l}} {{t_x} = ({C_x} - {R_x})/{R_{\rm{w}}}}\\ {{t_y} = ({C_y} - {R_y})/{R_{\rm{h}}}}\\ {{t_{\rm{w}}} = \lg ({C_{\rm{w}}}/{R_{\rm{w}}})}\\ {{t_{\rm{h}}} = \lg ({C_{\rm{h}}}/{R_{\rm{h}}})} \end{array}} \right. $$ (5) 式中：tx、ty为矩形区域的中心坐标平移量；tw、th分别为矩形区域的宽、高的缩放量。
预测值计算过程为：
$$ {d_*}(R) = w_*^{\rm{T}}\phi (R) $$ (6) 式中：ϕ是最后一次卷积计算。
损失函数的目标值计算见式(7)，通过调整平移和缩放的尺度，确定最终的候选区域[16]：
$$ {L_{{\rm{oss}}}} = \sum\limits_{i = 1}^N {{{(t_*^i - w_*^{\rm{T}}\phi ({C^i}))}^2}} $$ (7) 1.2 压缩激励结构
为了增强Faster R-CNN的小目标特征提取能力，引入压缩激励结构，即压缩和激励两大操作，设图像的特征参数设置为(H, W, K)，分别表示为长、宽和通道数。
压缩操作Fsq(·)基于各个通道实现特征图空间信息的压缩，见式(8)：
$$ {h_c} = {F_{{\rm{sq}}}}\left( {{k_c}} \right) = \frac{1}{{H \times W}}\sum\limits_{i = 1}^H {\sum\limits_{j = 1}^W {{k_c}(i, j)} } $$ (8) 式中：kc表示第c个通道；hc表示经过压缩后输出向量h的第c个元素。
激励操作分为激励Fex(·)和校准Fscale(·)两个过程，分别见式(9)和式(10)：
$$ s = {F_{{\rm{ex}}}}(h, w) = \sigma (g(z, w)) = \sigma ({w_2}\delta ({w_1}z)) $$ (9) 式中：σ是sigmoid激活函数；w1为$\frac{c}{r} \times \vec C$的实数矩阵，表示通道的缩减，r为缩减因子；δ是ReLU激活函数，w2为$\vec C \times \frac{c}{r}$的实数矩阵，表示通道的恢复。
$$ {\tilde h_c} = {F_{{\rm{scale}}}}({h_c}, {s_c}) = {s_c}.{h_c} $$ (10) 式中：sc表示激活向量s的第c个元素；${\tilde h_c}$表示校准后的对应元素。
2. 绝缘子红外图像的深度学习
2.1 环境搭建
本文基于改进的Faster R-CNN方法，对平台的环境搭建要求较高，具体配置见表 1。操作系统为开源Linux，数据库为MySQL；硬件配置较高，CPU采用Intel高端系列，内存和硬盘容量均较大，保证大量数据的高效运算。框架采用2018年初公开的目标检测平台Detectron，包含最具代表性的目标检测、图像分割、关键点检测算法。
表 1 软硬件配置Table 1. Hardware and software configurationName Model Operating system Ubuntu 16.04.1 Database mysql 5.5.20 CPU Intel Xeon Silver 4114T 12C GPU NVIDIA GTX1080Ti Memory 32 G Hard disk 1 T Frame Detectron 2.2 数据准备
图像数据来源于多条输电线路无人机拍摄的大量绝缘子照片。在神经网络的训练过程中，对正负样本的判定见图 2，主要基于锚框映射图与真实目标框的交并比（Intersection over Union，IoU）来进行计算分类。首先对RPN形成的锚框进行排序筛选形成锚框序列，接着利用边框回归参数向量修正锚框的位置形成候选区域集合，然后计算所有感兴趣区域（Region of Interest，RoI）与真实目标框的IoU，求最大值，并判断其是否大于0.5，若满足，则为正样本，否则为负样本。
完成正负样本的判定后，为了使样本的采样尽量均衡，保证双方的训练集和验证集数量一致，同时采用迁移学习的方法，经过相关修正与补偿，扩充样本总量至2375，样本信息配置见表 2。
表 2 样本配置信息Table 2. Information of sample configurationsample type training set verification set test set total positive 500 250 750 1500 negative 500 250 125 875 total 1000 500 875 2375 2.3 改进模型的建立
普通的CNN方法，原始图像经过卷积层和池化层后，全链接层输出结果，本文方法的结构如图 3所示，引入压缩激励的过程，压缩特征图的空间信息，并通过激励操作学习通道间的依赖关系，可自适应分配每个通道的权重值，提取有利于任务的重要特征通道，最终能进一步增强网络模型的特征提取能力，采用SE-DenseNet-169框架的Faster R-CNN模型。
改进模型主要完成绝缘子异常状态的精准识别，首先对红外原始图像进行相关修正与补偿实现样本扩充，然后采用本文方法进行训练，收敛后，获得最终的改进Faster R-CNN模型。
3. 实验分析
3.1 精确度衡量
CNN学习中，精确度的衡量一般会采用准确率（Precision）和召回率（Recall），其计算过程分别见式(11)和式(12)：
$$ {P_{{\rm{re}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP}} + {\rm{FP}}}} $$ (11) $$ {P_{{\rm{ca}}}} = \frac{{{\rm{TP}}}}{{{\rm{TP + FN}}}} $$ (12) 式中：TP表示是实际值和预测值均是异常绝缘子的个数；FP表示预测值是异常绝缘子，实际值却不是的个数；FN表示是实际值是异常绝缘子，预测值却不是的个数。
为进一步衡量改进模型的优劣，这里采用平均检测精度（mean Average Precision，mAP），其中AP等价于召回率和准确率形成曲线与横轴包围的几何图形的面积，对所有类别的AP求平均值即可得到mAP。
3.2 不同方法的对比研究
基于样本数据，开展BP、Faster R-CNN以及本文方法的精确度和效率对比研究，不同方法的实验结果统计见表 3。Faster R-CNN和本文方法在Precision方面均明显优于BP方法，本文方法的Recall最高，mAP也最高，相对于BP提高了近10%，这说明经过改进的Faster R-CNN对于小目标的特征提取具有明显的优势。本文方法通过压缩激励结果，减少了数据量的计算，所以相对于其他方法，有更高的效率。
表 3 不同方法的实验结果统计Table 3. Statistics of experimental results by different methodsName Precision Recall mAP Time/s BP 93.5% 90.4% 80.3% 2.3 Faster R-CNN 98.7% 95.3% 88.7% 1.2 BFEM 99.2% 97.6% 90.2% 0.9 绘制其准确率-召回率关系曲线，如图 4所示，可更加形象直观地反映出本文方法对绝缘子异常特征的提取优势，因为另外两种方法的曲线均被完整的覆盖，说明本文方法改进效果明显。
3.3 不同类型绝缘子对比研究
常见绝缘子排列有单Ⅰ型、双Ⅰ型以及Ⅴ型。本文开展这3类绝缘子的红外图像研究，比较不同排列方式的诊断准确率，如图 5所示。根据电力标准DL/T 664-2008[19]，图(b)和图(c)绝缘子端部明显发热，属于异常情况。
不同类型绝缘子的异常诊断准确率见表 4，准确率均较高，均在90%以上；Ⅰ型和Ⅴ型绝缘子的准确率明显优于双Ⅰ型绝缘子，这是因为双Ⅰ型绝缘子会出现两排绝缘子重叠的情况，对红外图像的研究造成一定的影响，为此无人机对于该种类型绝缘子的线路需开展多种角度的拍摄。
表 4 绝缘子异常诊断的准确率Table 4. Accuracy of insulator anomaly diagnosisInsulator type Abnormal total Detected number Accuracy Single Ⅰ 62 61 98.4% Double Ⅰ 47 44 93.6% Ⅴ 31 31 100.0% 4. 结论
本文提出一种改进的Faster R-CNN方法，引入激励压缩环节，搭建训练模型，完成绝缘子红外图像的异常诊断，并成功应用于电力现场运维。本文方法可高效并精准地识别出绝缘子的异常缺陷，mAP达到90.2%。研究结果可为输电线路绝缘子缺陷识别研究提供一定的参考。
-
表 1 不同分段点数非均匀性校正结果
Table 1 The NUC results about different segmentation points
Number of segment points Residual non-uniformity 3 8.52% 6 4.42% 9 0.52% 12 0.49% 
下载: 导出CSV
表 2 不同驱动占空比非均匀性校正结果
Table 2 The NUC results about different drive duty cycle
Drive duty cycle Residual non-uniformity (before correction) Residual non-uniformity (after correction) 10% 9.34% 0.42% 20% 9.77% 0.41% 30% 10.13% 0.45% 40% 10.32% 0.43% 50% 10.72% 0.52% 60% 10.71% 0.51% 70% 10.74% 0.52% 80% 10.42% 0.47% 90% 10.25% 0.43% 100% 10.11% 0.44%
下载: 导出CSV
-
[1] 李卓, 钱丽勋, 欧文.动态红外场景生成新技术[J]. 红外与激光工程, 2012, 41(1): 1-6. DOI: 10.3969/j.issn.1007-2276.2012.01.001 LI Zhuo, QIAN Lixun, OU Wen. New technologies of infrared scene projection[J]. Infrared and Laser Engineering, 2012, 41(1): 1-6. DOI: 10.3969/j.issn.1007-2276.2012.01.001
[2] 陆志沣, 高文, 洪泽华, 等.高逼真度红外复杂场景动态实时生成技术研究[J]. 系统仿真学报, 2017, 27(1): 76-81. https://www.cnki.com.cn/Article/CJFDTOTAL-XTFZ201501010.htm LU Zhifeng, GAO Wen, HONG Zehua, et al. Research on dynamic realtime infrared complicated scene generation technology[J]. Journal of System Simulation, 2017, 27(1): 76-81. https://www.cnki.com.cn/Article/CJFDTOTAL-XTFZ201501010.htm
[3] ZHANG Kai, HUANG Yong, YAN Jie, et al. Dynamic infrared scene simulation using grayscale modulation of digital micro-mirror device[J]. Chinese Journal of Aeronautics, 2013, 26(2): 394-400. DOI: 10.1016/j.cja.2013.02.017
[4] 徐正平.数字微镜器件在光电设备中的应用[J]. 激光与光电子学进展, 2014, 51: 051103. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ201405014.htm XU Zhengping. Application of digital micromirror device in photoelectric equipment[J]. Laser & Optoelectronics Progress, 2014, 51: 051103. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ201405014.htm
[5] 张颖新, 王云萍, 侯军燕.高帧频DMD红外景象仿真设备电路与光学系统设计[J]. 红外与激光工程, 2017, 46(4): 0404003 https://www.cnki.com.cn/Article/CJFDTOTAL-HWYJ201704013.htm ZHANG Yingxin, WANG Yunping, HOU Junyan. Circuit and optical system design for high frame rate DMD infrared scene simulation equipment[J]. Infrared and Laser Engineering, 2017, 46(4): 0404003. https://www.cnki.com.cn/Article/CJFDTOTAL-HWYJ201704013.htm
[6] 李艳, 孟庆虎, 吴永刚.国外电阻阵列非均匀性校正技术概述[J]. 红外技术, 2010, 32(8): 453-456. DOI: 10.3969/j.issn.1001-8891.2010.08.005 LI Yan, MEN Qinhu, WU Yonggang. Resistor array nonuniformity correction technology from foreign countries[J]. Infrared Technology, 2010, 32(8): 453-456. DOI: 10.3969/j.issn.1001-8891.2010.08.005
[7] Robert A Joyce, Leszek Swierkowski, Owen M. Williams. Resistor array infrared projectors nonuniformity correction: search for performance improvement Ⅲ[C]//Proc. of SPIE, 2008, 6942: 69420N.
[8] Tom Danielsona, Greg Franksa, Joe LaVeignea, et al. Advances in iterative non-uniformity correction techniques for infrared scene projection[C]//Proc. of SPIE, 2015, 9452: 945210.
[9] 苏德伦, 廖守亿, 张金生, 等.电阻阵列红外景象投射器非均匀性实时校正[J]. 红外技术, 2014, 36(7): 521-526. http://hwjs.nvir.cn/article/id/hwjs201407002 SU Delun, LIAO Shouyi, ZHANG Jinsheng, et al. Resistor array IR scene projector non-uniformity real-time correction[J]. Infrared Technology, 2014, 36(7): 521-526. http://hwjs.nvir.cn/article/id/hwjs201407002
[10] 耿旭, 冯晓晨, 李凡.基于MOS电阻阵列的红外目标模拟器非均匀性校正技术研究[J]. 光学与光电技术, 2012, 10(5): 57-62. https://www.cnki.com.cn/Article/CJFDTOTAL-GXGD201205016.htm GENG Xu, FENG Xiaochen, LI Fan. Infrared target simulator of non-uniformity correction based on MOS resistor arrays[J]. Optics & Optoelectronic Technology, 2012, 10(5): 57-62. https://www.cnki.com.cn/Article/CJFDTOTAL-GXGD201205016.htm
[11] 杨春伟, 廖守亿, 苏德伦, 等.电阻阵列非均匀性测试与校正[J].红外技术, 2013, 35(6): 345-349. http://hwjs.nvir.cn/article/id/hwjs201306007 YANG Chunwei, LIAO Shouyi, SU Delun, et al. Resistor array nonuniformity measurement and correction[J]. Infrared Technology, 2013, 35(6): 345-349. http://hwjs.nvir.cn/article/id/hwjs201306007
[12] 苏德伦, 王仕成, 张金生, 等.电阻阵列稀疏网格非均匀性修正[J].红外与激光工程, 2009, 38(4): 604-608. DOI: 10.3969/j.issn.1007-2276.2009.04.007 SU Delun, WANG Shicheng, ZHANG Jinsheng, et al. Sparse grid nonuniformity correction for resistor array[J]. Infrared and Laser Engineering, 2009, 38(4): 604-608. DOI: 10.3969/j.issn.1007-2276.2009.04.007
-
期刊类型引用(1)
1. 姚雪峰，高毅，龙兵，于晨阳，李文昊，于宏柱，张靖，李晓天. 数字微镜器件（DMD）杂散光特性测试方法及装置. 中国光学. 2022(02): 339-347 . 
百度学术
其他类型引用(0)
计量
- 文章访问数: 370
- HTML全文浏览量: 59
- PDF下载量: 61
- 被引次数: 1
