Superpixel-Based Improved Fuzzy C-Means Clustering for Electrical Equipment Infrared Image Segmentation
-
摘要:
针对传统模糊C均值（FCM）算法在图像分割中存在分割精度低、收敛速度慢、对初始聚类中心选取不佳而陷入局部最优等问题，提出一种适用于电力设备红外图像的基于超像素的改进FCM分割方法。首先，采用多特征融合的简单非迭代聚类（SNIC）超像素算法对图像进行预分割，用超像素代替像素表达图像特征，降低后续处理复杂度；其次，运用最大类间方差的思想，选取类间方差最大时灰度直方图最大值对应的灰度值作为改进算法的初始聚类中心，避免生成局部最优解；最后，将多特征融合的SNIC算法与FCM算法结合，实现电力设备红外图像分割。实验结果表明：该算法在设备轮廓和局部高温区域的分割上改善了对比算法存在的欠分割现象，提升了运算效率，为后期电力设备故障诊断奠定基础。
Abstract:An improved super-pixel based FCM segmentation method for infrared image of power equipment is presented to solve the problems of low segmentation accuracy, slow convergence, poor selection of initial cluster centers and local optimization in traditional fuzzy C-mean (FCM) algorithm. First, a simple non-iterative clustering (SNIC) superpixel algorithm based on multi-feature fusion is used to pre-segment the image, and superpixels are used instead of pixels to express the image features, which reduces the subsequent processing complexity. Secondly, using the idea of maximizing the variance between classes, the gray value corresponding to the maximum value of gray histogram when the variance between classes is maximized is selected as the initial cluster center of the improved algorithm to avoid generating local optimal solution. Finally, combining the SNIC algorithm of multi-feature fusion with the FCM algorithm, the infrared image of power equipment is segmented. The experimental results show that the algorithm improves the under segmentation of the comparison algorithm on the contour of the device and the local high temperature area, improves the operation efficiency, and lays a foundation for the later fault diagnosis of power equipment.
-
Keywords:
- infrared image /
- Fuzzy c-means clustering /
- super-pixel /
- initial clustering center
-
0. 引言
混凝土材料往往因为预埋钢筋的腐蚀、水的侵蚀、连续的冻融循环、荷载等多种因素共同作用，产生裂缝、孔洞和分层等缺陷[1]。这些内部缺陷随着时间的推移会逐渐积聚、扩展，严重威胁着结构的耐久性和安全性[2]。主动红外热像检测方法作为一种无损检测手段，由于具有检测面积大、非接触式和应用操作简单等优点在混凝土结构检测领域得到了广泛的关注，并逐渐被应用到了隧道、桥梁现场检测中。
主动红外热像检测技术是一种利用红外热像仪检测材料内部缺陷的无损检测方法，其检测的基本原理是：材料被热激励后其表面红外辐射量因内部缺陷的存在而表现出差异，红外热像仪通过记录该差异，以获得材料内部的缺陷信息[3]。红外图像的信息提取与分析是红外热像检测技术的核心内容。理论上，根据热图像缺陷区域和正常区域之间的红外辐射差异可获得缺陷的信息。但实际上，红外图像本质是根据缺陷与正常区域之间的温度和辐射率生成的灰度图，而且红外光辐射的能量远比可见光低，因此到达光学镜头的红外辐射能很小，导致了红外图像与可见光图像相比只有较低的对比度，分辨弱小目标和细节能力差[4]；另外，红外光子的随机性、红外成像系统的固有特性以及热激励不均匀等给红外图像引入了许多噪声，在一定程度上改变了图像的原始信息，增加了图像分割及后续图像处理的难度[5-6]。传统的基于空域的红外图像处理方法主要分为两个大的步骤：首先，是对红外图像进行降噪和增强，常用的方法有高斯滤波、中值滤波、引导滤波、小波变换、Contourlet变换、三维块匹配算法等[7-10]；其次，对红外图像进行边缘特征的提取，常用的方法有：基于边缘的检测算法、基于数学形态的检测算法和最近发展较快的基于网络模型的检测算等[11-12]。传统的基于单张空域的红外图像处理方法虽然在一定程度上可以消除噪声的影响、提高图像的对比度，但是仍存在一些问题。第一，采集的数据集包含大量的热图像，每一帧红外图像都对应着某一时刻，依靠视觉手动选择缺陷信息丰富的红外图像进行缺陷信息的提取的识别费时费力。第二，在图像降噪、增强和图像分割过程中设定阈值会引入主观成分，干扰红外图像的解释。第三，仅仅分析单张红外图像，忽略采集过程中的时序信息可能会导致忽略一些边缘的缺陷信息[13-14]。
针对上述问题，本文提出了一种基于时序信息的红外图像缺陷信息提取方法。首先，通过室内实验制作含缺陷分层的混凝土试块，其次利用主动红外热像检测技术进行红外数据的采集，提取每个像素点的温度特征曲线，然后采用基于时序信息的提取方法进行含分层缺陷混凝土的缺陷提取，并与传统的基于空域的处理方法进行对比分析。
1. 基本原理
1.1 主动红外热像检测技术原理和系统
主动红外热像检测技术中，当以一定的距离对混凝土材料表面持续加热时，物体会吸收入射波的能量并将其转化为热能，并以温度场的形式表现出来。如果试样存在缺陷（本研究采用的是隔热型缺陷，模拟混凝土内部的空气分层缺陷），到达缺陷的大部分能量将反射到试样表面，引起表面正常区域和有缺陷区域温度场的差异。
利用红外热像仪记录整个检测过程中物体表面温度场的空间和时间分布信息，通过对红外图像数据进行分析和处理进而可以提取材料近表层的分层缺陷信息。主动红外热像检测技术采集到的一系列红外图像组成了一个三维的图像数据集[15]（尺寸：Nx×Ny×Nt，见图 1(a)），在空间维度上，每一帧对应着某一时刻红外热像仪所采集到的物体表面温度场信息，其像素个数为Nx×Ny；在时间维度上，每个像素点可以看作是一条随时间变化的温度特征曲线（Nt时间点组成），如图 1(b)所示，其中标签NT11 DEFECT表示缺陷区域的温度特征曲线，标签NT11 NORMAL表示正常区域的温度特征曲线。
![]()
图 1 主动红外热成像采集的数据结构：(a) 三维红外数据；(b) 像素点温度特征曲线Figure 1. Active infrared thermal imaging acquisition of data structures (a) Three-dimensional infrared data; (b) Temperature characteristic curves of pixels1.2 基于时序信息的缺陷信息提取原理
主动红外热像技术采集到的三维红外图像数据，其正常区域和含缺陷的区域每个像素点的温度特征曲线在冷却阶段会存在差异，如图 1(b)所示，利用这个特点我们可以采用许多能够分辨这个特征曲线差异值的相关算法进行缺陷信息的提取，本文采用相对简单、容易实施的K-means方法来提取混凝土的缺陷信息。K-means聚类方法的原理是同一类内的实体是相似的，一个类是测试空间中点的集合，同一类内任意一个点到其类中心的距离小于其到其它类中心的距离，我们可以用此算法分辨正常区域和缺陷区域的温度特征曲线[16]。K-means方法的关键是核函数的选取，核函数决定了其分辨能力，本文采用常用的马氏距离进行度量。其具体算法原理如下[17]：
假设给定的数据集为Y={y1, y2, …, ym}，其中yi=[X1, X2, …, Xn]，将数据对象划分为k类C={c1, c2, …, ck}，每个类有一个类中心U={u1, u2, …, uk}。选取欧式距离作为相似性和距离判断准则，计算ck类内各点到聚类中心uk的距离平方和，见公式(1)：
$$ J\left( {{c_k}} \right) = \sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} $$ (1) 聚类的目标是使各类总的距离平方和最小，见公式(2)：
$$ J(C) = \sum\limits_{k = 1}^K J \left( {{c_k}} \right) = \sum\limits_{k = 1}^K {\sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} } $$ (2) 根据最小二乘法和拉格朗日原理，聚类中心uk应该取为类别ck类各数据点的平均值。
K-means算法是一个反复迭代过程，目的是使聚类域中所有的点到聚类中心距离的平方和最小。
2. 实验与数据分析
2.1 实验过程
本次实验混凝土试件的设计强度为C50，尺寸为50 cm×50 cm×20 cm，在混凝土中嵌入4块尺寸为10 cm×10 cm的聚苯乙烯材料（隔热型材料），模拟混凝土中的分层缺陷，混凝土试块见图 2(a)。试验采用美国FLIR公司的A655SC非制冷型红外热像仪，其热灵敏度为30 mK，图像分辨率为640×480，标准测温范围为－40℃~150℃，波长范围为7.5~14 μm，见图 2(b)。主动热激励系统采用自制的配有自动控制加热时间的碳化硅远红外加热板，共2块，每块加热板的加热功率为500 W，见图 2(c)。整个实验过程中加热时间为5 min，冷却时间为10 min；加热完成后，立即用红外热像仪采集试样表面的冷却温度场，整个采集系统见图 3所示，本文选用的是持续加热法。
![]()
图 2 实验试块和仪器：(a) 混凝土试块；(b) 红外热像仪；(c) 红外加热板Figure 2. Test blocks and instruments: (a) Concrete test block; (b) Infrared thermal imager; (c) Infrared heating plate2.2 红外图像数据
实验采集到的红外图像序列如图 4所示，根据红外图像可以发现一共存在4块分层缺陷，各个缺陷之间存在温度场相互影响的干扰区，而且各个缺陷的轮廓比较模糊，存在被隐藏的缺陷信息。整个采集的红外图像数据的第一帧（0 s）最清晰，其正常区域和缺陷区域存在较大的温差；之后随着冷却的进行，正常区域和缺陷区域的温差逐渐减小，缺陷信息逐渐模糊，至最后一帧很难用肉眼分辨。
3. 红外图像处理和对比分析
3.1 红外图像缺陷提取
主动红外热像检测技术所采集的图像每一帧都含有大量的噪声，为了测试基于时序信息红外图像缺陷信息提取的可行性以及性能，本次在图像特征提取前不对图像进行预处理。首先，将红外图像数据按像素点逐个提取时间序列，组成聚类数据集；然后将时序数据序列输入到K-means程序中，进而得到每一帧各个像素点的聚类信息。为了提高运算效率，本次在图像序列处理中采样间隔为1，其序列长度减小为原来的一半。聚类完成后得到图像中每一个像素点所属的类别，进而完成对图像缺陷信息的提取。
图 5为经过聚类后的提取结果，通过观察发现4个缺陷信息都被提取出来，与原始红外图像相比（图 4），其缺陷信息有了明显的增强，缺陷信息完全肉眼可见，每个识别出的缺陷区域呈近似正方形，完整性相当好，接近于预埋缺陷的形状，而且缺陷提取后的图像序列的时序信息得以保留。
3.2 对比分析
为了测试基于时序信息红外图像分层缺陷的信息提取效果，本文采用基于空域的二维K-means图像缺陷信息提取算法与其进行对比。由于采集的红外图像数据集第一帧（0 s）缺陷信息最清晰，因此选用第一帧红外图像进行基于空域的分层缺陷信息提取。两种方法的分层缺陷信息提取结果见图 6，由图 6(b)所示，基于时序信息的分层缺陷提取方法4个分层缺陷都被完全提取出来，图 6(a)中模糊、隐藏的信息也被提取出来，缺陷细节分辨能力较好。由图 6(c)所示，基于空域信息的分层缺陷信息提取方法4个分层缺陷被识别为一个缺陷，缺陷细节分辨能力较差。通过分析可能是受缺陷之间温度场叠加的相互影响，缺陷之间区域（图 6(a)中虚线框内部所示的无缺陷区域）的温度信息和分层缺陷的温度场信息较为接近，而和图 6(a)的无缺陷边缘温度场信息差异较大，导致基于空域信息的提取方法效果较差；根据含缺陷混凝土试块的物理特性可知，存在分层缺陷和正常区域的温度特征曲线是存在差异的，基于时序信息的提取方法主要是根据每个像素点的温度特征曲线差异来提取特征，其提取缺陷的分辨能力和效果更好。
![]()
图 6 处理结果对比分析：(a) 红外原图；(b) 基于时序K-means方法；(c) 基于空域K-means方法Figure 6. Comparative analysis of processing results: (a) Original infrared image; (b) K-means method based on temporal information; (c) K-means method based on spatial information4. 结论
主动红外热像检测技术中，传统的红外图像处理方法在一定程度上可以消除噪声、提高图像的对比度，但是仍存在一些问题。针对上述问题，本文根据主动红外热成像的数据特点提出了一种基于时序信息的红外图像缺陷信息提取方法。结果表明，基于时序信息的缺陷提取方法是可行的，其可以提取到隐藏的缺陷信息，分层缺陷信息提取效果优于基于空域的K-means方法。
-
![]()
图 2 各算法对隔离开关的分割结果
Figure 2. The segmentation results of the isolation switch of different algorithms
![]()
图 3 各算法对套管触头的分割结果
Figure 3. The segmentation results of the casing contact of different algorithms
![]()
图 4 各算法对发电机的分割结果
Figure 4. The segmentation results of the generator of different algorithms
![]()
图 5 各算法对设备线夹的分割结果
Figure 5. The segmentation results of the device clamp of different algorithms
表 1 各类红外图像分割效果
Table 1 Various infrared image segmentation effects
Image type FCM FCM_SICM FRFCM SFFCM Ours IOU DICE IOU DICE IOU DICE IOU DICE IOU DICE Isolation switch 0.7996 0.8587 0.9062 0.9368 0.8046 0.8649 0.9219 0.9548 0.9434 0.9765 Casing contact 0.8693 0.8947 0.8436 0.8768 0.9103 0.9471 0.9271 0.9528 0.9326 0.9573 Generator 0.8769 0.8945 0.8503 0.8793 0.8784 0.8972 0.9241 0.9451 0.9472 0.9642 Device clamp 0.8301 0.8794 0.8479 0.8839 0.2511 0.2949 0.2224 0.2648 0.9154 0.9547 
下载: 导出CSV
表 2 各算法平均运行时间
Table 2 Running mean time of different algorithms
Algorithm Mean time/s FCM 7.5763 FCM_SICM 23.6383 FRFCM 11.1746 SFFCM 5.4785 Ours 4.2954
下载: 导出CSV
-
[1] BU C, LIU T, LI R, et al. Infrared image segmentation algorithm based on multi structure morphology—pulse coupled neural network in application to the inspection of aerospace materials[J]. Russian Journal of Nondestructive Testing, 2022, 57(11): 1018-1026.
[2] FENG Hong, SONG Jie, HANG Meng, et al. A novel framework on intelligent detection for module defects of PV plant combining the visible and infrared images[J]. Solar Energy, 2022, 236: DOI: 10.1016/j.solener.2022.03.018
[3] 程子夜. 红外图像处理在架空线路故障诊断中的应用[D]. 淮南: 安徽理工大学, 2020. CHENG Ziye. Application of Infrared Image Processing in Fault Diagnosis of Overhead Lines[D]. Huainan: Anhui University of Science and Technology, 2020.
[4] 王晓飞, 胡凡奎, 黄硕. 基于分布信息直觉模糊c均值聚类的红外图像分割算法[J]. 通信学报, 2020, 41(5): 120-129. WANG Xiaofei, HU Fankui, HUANG Shuo. Infrared image segmentation algorithm based on distribution information intuitionistic fuzzy c-means clustering[J]. Journal on Communications, 2020, 41(5): 120-129.
[5] 刘沛津, 王曦, 贺宁. 改进GSO与二维OTSU融合的红外图像多阈值分割方法[J]. 应用光学, 2021, 42(4): 671-677. LIU Peijin, WANG Xi, HE Ning. Improved infrared image multi threshold segmentation method based on fusion of GSO and two-dimensional OTSU[J]. Journal of Applied Optics, 2021, 42(4): 671-677.
[6] 聂方彦, 李建奇, 屠添翼. 一种基于信息论距离的复杂图像分割方法[J]. 红外技术, 2018, 40(8): 786-791. http://hwjs.nvir.cn/article/id/hwjs201808011 NIE Fangyan, LI Jianqi, TU Tianyi. A complex image segmentation method based on information theory distance[J]. Infrared Technology, 2018, 40(8): 786-791. http://hwjs.nvir.cn/article/id/hwjs201808011
[7] XIAO Leyi, OUYANG Honglin, FAN Chaodong. An improved Otsu method for threshold segmentation based on set mapping and trapezoid region intercept histogram[J]. Optik, 2019, 196(C): 163106-163106.
[8] GUO H, CHEN P, HUANG S, et al. A threshold segmentation method for non-uniform illumination image based on brightness equalization[J]. IOP Conference Series: Materials Science and Engineering, 2019, 569: 052046. DOI: 10.1088/1757-899X/569/5/052046
[9] 戴若辰, 赵明富, 汤斌, 等. 基于Otsu分割与边缘检测的钢丝绳缺陷检测方法研究[J]. 激光与光电子学进展, 2021, 58(16): 566-573. DAI Ruochen, ZHAO Mingfu, TANG Bin, et al. Research on defect detection method of steel wire rope based on Otsu segmentation and edge detection[J]. Laser & Optoelectronics Progress, 2021, 58(16): 566-573.
[10] 陈露. 无人机载红外管道检测的研究与设计[D]. 芜湖: 安徽工程大学, 2018. CHEN Lu. Research and Design of Infrared Pipeline Detection for Unmanned Aerial Vehicles[D]. Wuhu: Anhui Polytechnic University, 2018.
[11] 黄新宇, 张洋, 王黎明, 等. 基于Mask-RCNN算法的复合绝缘子串红外图像分割与温度读取[J]. 高压电器, 2021, 57(9): 87-94. HUANG Xinyu, ZHANG Yang, WANG Liming, et al. Infrared image segmentation and temperature reading of composite insulator strings based on Mask RCNN algorithm[J]. High Voltage Apparatus, 2021, 57(9): 87-94.
[12] 袁刚, 许志浩, 康兵, 等. 基于DeepLabv3+网络的电流互感器红外图像分割方法[J]. 红外技术, 2021, 43(11): 1127-1134. http://hwjs.nvir.cn/article/id/b9df2f53-2244-471b-b0ec-42159cfaa654 YUAN Gang, XU Zhihao, KANG Bing, et al. Infrared image segmentation method for current transformers based on DeepLabv3+network[J]. Infrared Technology, 2021, 43(11): 1127-1134. http://hwjs.nvir.cn/article/id/b9df2f53-2244-471b-b0ec-42159cfaa654
[13] 赵祥宇, 陈沫涵. 基于聚类的图像分割方法综述[J]. 信息技术, 2018(6): 92-94, 99. ZHAO Xiangyu, CHEN Mohan. A review of clustering-based image segmentation methods[J]. Information Technology, 2018(6): 92-94, 99.
[14] 加小红. 聚类算法及其在图像分割中的应用研究[D]. 兰州: 兰州交通大学, 2017. JIA Xiaohong. Research on Clustering Algorithm and Its Application in Image Segmentation[D]. Lanzhou: Lanzhou Jiaotong University, 2017.
[15] ZADEH LA. Fuzzy sets[J]. Information and Control, 1965, 8(3): 338-353.
[16] WANG Qingsheng, WANG Xiaopeng, FANG Chao, et al. Robust fuzzy c-means clustering algorithm with adaptive spatial & intensity constraint and membership linking for noise image segmentation[J]. Applied Soft Computing Journal, 2020, 92: 106318.
[17] LEI Tao, JIA Xiaohong, ZHANG Yanning, et al. Significantly fast and robust fuzzy C-Means clustering algorithm based on morphological reconstruction and membership filtering[J]. IEEE Transactions on Fuzzy Systems, 2018, 26(5): 3027-3041.
[18] LEI Tao, JIA Xiaohong, ZHANG Yanning, et al. Superpixel-based fast fuzzy C-Means clustering for color image segmentation[J]. IEEE Trans. Fuzzy Systems, 2019, 27(9): 1753-1766.
[19] ACHANTA R, SUSSTRANK S. Superpixels and polygonsusing simple non-iterative clustering[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition, 2017: 4895-4904.
[20] 郑金云. 基于聚类的超像素分割方法研究[D]. 桂林: 桂林电子科技大学, 2021. ZHENG Jinyun. Research on Clustering-based Superpixel Segmentation Method[D]. Guilin: Guilin University Of Electronic Technology, 2021.
-
期刊类型引用(2)
1. 李环宇，冯国会，刘馨，蒲毅，王涵. 基于红外热成像的围护结构热工性能定量检测方法研究进展. 太阳能学报. 2024(07): 427-437 . 
百度学术
2. 张迁，王剑，楚瑞博，陈欢欢. 基于BRISK-BEBLID特征的无人机图像快速配准方法. 激光杂志. 2023(06): 92-98 . 百度学术
其他类型引用(1)
计量
- 文章访问数: 22
- HTML全文浏览量: 1
- PDF下载量: 8
- 被引次数: 3
