基于时序信息的红外图像缺陷信息提取

王东升, 王海龙, 张芳, 韩林芳, 赵怡琳

王东升, 王海龙, 张芳, 韩林芳, 赵怡琳. 基于时序信息的红外图像缺陷信息提取[J]. 红外技术, 2022, 44(6): 565-570.
引用本文: 王东升, 王海龙, 张芳, 韩林芳, 赵怡琳. 基于时序信息的红外图像缺陷信息提取[J]. 红外技术, 2022, 44(6): 565-570.
WANG Dongsheng, WANG Hailong, ZHANG Fang, HAN Linfang, ZHAO Yilin. Infrared Image Defect Information Extraction Based on Temporal Information[J]. Infrared Technology , 2022, 44(6): 565-570.
Citation: WANG Dongsheng, WANG Hailong, ZHANG Fang, HAN Linfang, ZHAO Yilin. Infrared Image Defect Information Extraction Based on Temporal Information[J]. Infrared Technology , 2022, 44(6): 565-570.

基于时序信息的红外图像缺陷信息提取

基金项目: 

国家自然科学基金项目 51878242

详细信息
    作者简介:

    王东升(1992-),男,博士研究生,研究方向为图像处理、深度学习。E-mail: wds0301@outlook.com

    通讯作者:

    张芳(1976-),女,博士,副教授,研究方向为深度学习、软岩水理作用,近红外光谱分析等。E-mail: zhangf76@126.com

  • 中图分类号: TN219

Infrared Image Defect Information Extraction Based on Temporal Information

  • 摘要: 主动红外热像检测技术中,红外图像的缺陷信息提取是其核心内容。传统的红外图像处理方法在一定程度上可以消除噪声、提高图像的对比度,但是仍存在一些问题,如:需要手动选择特征信息丰富的红外图像,红外图像增强和图像分割过程中会引入主观成分,仅仅分析单张红外图像可能存在信息丢失等问题。针对上述问题,本文根据主动红外热成像的数据特征提出了一种基于时序信息的红外图像缺陷信息提取方法。首先,通过室内实验制作含缺陷分层的混凝土试块;然后,利用主动红外热像检测技术进行三维红外图像数据的采集,提取每个像素点的时序信息;最后,采用基于时序信息的K-means方法进行缺陷特征提取。结果表明,基于时序信息的缺陷提取方法是可行的,其可以提取到隐藏的分层缺陷信息,提取效果优于基于空域信息的K-means方法。
    Abstract: In active infrared thermography technology, the extraction of defect information from infrared images is crucial. Traditional image processing methods can eliminate noise and improve image contrast, but several challenges remain, such as selecting the infrared image manually, subjectivity in the process of infrared image enhancement and segmentation, and information loss in the process of a single infrared image. To overcome these challenges, this study proposes a method for extracting defect information from infrared images based on time sequence information. First, concrete blocks with delamination are fabricated by indoor experiments. Then, active infrared thermal image detection technology is used to collect the infrared image data and temporal information is extracted for each pixel. Finally, the K-means method is used for defect feature extraction based on temporal information. The results show that the defect extraction method based on temporal information can extract hidden defect information. Furthermore, its hierarchical defect information extraction effect is better than that of the K-means method based on the spatial domain.
  • 混凝土材料往往因为预埋钢筋的腐蚀、水的侵蚀、连续的冻融循环、荷载等多种因素共同作用,产生裂缝、孔洞和分层等缺陷[1]。这些内部缺陷随着时间的推移会逐渐积聚、扩展,严重威胁着结构的耐久性和安全性[2]。主动红外热像检测方法作为一种无损检测手段,由于具有检测面积大、非接触式和应用操作简单等优点在混凝土结构检测领域得到了广泛的关注,并逐渐被应用到了隧道、桥梁现场检测中。

    主动红外热像检测技术是一种利用红外热像仪检测材料内部缺陷的无损检测方法,其检测的基本原理是:材料被热激励后其表面红外辐射量因内部缺陷的存在而表现出差异,红外热像仪通过记录该差异,以获得材料内部的缺陷信息[3]。红外图像的信息提取与分析是红外热像检测技术的核心内容。理论上,根据热图像缺陷区域和正常区域之间的红外辐射差异可获得缺陷的信息。但实际上,红外图像本质是根据缺陷与正常区域之间的温度和辐射率生成的灰度图,而且红外光辐射的能量远比可见光低,因此到达光学镜头的红外辐射能很小,导致了红外图像与可见光图像相比只有较低的对比度,分辨弱小目标和细节能力差[4];另外,红外光子的随机性、红外成像系统的固有特性以及热激励不均匀等给红外图像引入了许多噪声,在一定程度上改变了图像的原始信息,增加了图像分割及后续图像处理的难度[5-6]。传统的基于空域的红外图像处理方法主要分为两个大的步骤:首先,是对红外图像进行降噪和增强,常用的方法有高斯滤波、中值滤波、引导滤波、小波变换、Contourlet变换、三维块匹配算法等[7-10];其次,对红外图像进行边缘特征的提取,常用的方法有:基于边缘的检测算法、基于数学形态的检测算法和最近发展较快的基于网络模型的检测算等[11-12]。传统的基于单张空域的红外图像处理方法虽然在一定程度上可以消除噪声的影响、提高图像的对比度,但是仍存在一些问题。第一,采集的数据集包含大量的热图像,每一帧红外图像都对应着某一时刻,依靠视觉手动选择缺陷信息丰富的红外图像进行缺陷信息的提取的识别费时费力。第二,在图像降噪、增强和图像分割过程中设定阈值会引入主观成分,干扰红外图像的解释。第三,仅仅分析单张红外图像,忽略采集过程中的时序信息可能会导致忽略一些边缘的缺陷信息[13-14]

    针对上述问题,本文提出了一种基于时序信息的红外图像缺陷信息提取方法。首先,通过室内实验制作含缺陷分层的混凝土试块,其次利用主动红外热像检测技术进行红外数据的采集,提取每个像素点的温度特征曲线,然后采用基于时序信息的提取方法进行含分层缺陷混凝土的缺陷提取,并与传统的基于空域的处理方法进行对比分析。

    主动红外热像检测技术中,当以一定的距离对混凝土材料表面持续加热时,物体会吸收入射波的能量并将其转化为热能,并以温度场的形式表现出来。如果试样存在缺陷(本研究采用的是隔热型缺陷,模拟混凝土内部的空气分层缺陷),到达缺陷的大部分能量将反射到试样表面,引起表面正常区域和有缺陷区域温度场的差异。

    利用红外热像仪记录整个检测过程中物体表面温度场的空间和时间分布信息,通过对红外图像数据进行分析和处理进而可以提取材料近表层的分层缺陷信息。主动红外热像检测技术采集到的一系列红外图像组成了一个三维的图像数据集[15](尺寸:Nx×Ny×Nt,见图 1(a)),在空间维度上,每一帧对应着某一时刻红外热像仪所采集到的物体表面温度场信息,其像素个数为Nx×Ny;在时间维度上,每个像素点可以看作是一条随时间变化的温度特征曲线(Nt时间点组成),如图 1(b)所示,其中标签NT11 DEFECT表示缺陷区域的温度特征曲线,标签NT11 NORMAL表示正常区域的温度特征曲线。

    图  1  主动红外热成像采集的数据结构:(a) 三维红外数据;(b) 像素点温度特征曲线
    Figure  1.  Active infrared thermal imaging acquisition of data structures (a) Three-dimensional infrared data; (b) Temperature characteristic curves of pixels

    主动红外热像技术采集到的三维红外图像数据,其正常区域和含缺陷的区域每个像素点的温度特征曲线在冷却阶段会存在差异,如图 1(b)所示,利用这个特点我们可以采用许多能够分辨这个特征曲线差异值的相关算法进行缺陷信息的提取,本文采用相对简单、容易实施的K-means方法来提取混凝土的缺陷信息。K-means聚类方法的原理是同一类内的实体是相似的,一个类是测试空间中点的集合,同一类内任意一个点到其类中心的距离小于其到其它类中心的距离,我们可以用此算法分辨正常区域和缺陷区域的温度特征曲线[16]。K-means方法的关键是核函数的选取,核函数决定了其分辨能力,本文采用常用的马氏距离进行度量。其具体算法原理如下[17]

    假设给定的数据集为Y={y1, y2, …, ym},其中yi=[X1, X2, …, Xn],将数据对象划分为kC={c1, c2, …, ck},每个类有一个类中心U={u1, u2, …, uk}。选取欧式距离作为相似性和距离判断准则,计算ck类内各点到聚类中心uk的距离平方和,见公式(1):

    $$ J\left( {{c_k}} \right) = \sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} $$ (1)

    聚类的目标是使各类总的距离平方和最小,见公式(2):

    $$ J(C) = \sum\limits_{k = 1}^K J \left( {{c_k}} \right) = \sum\limits_{k = 1}^K {\sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} } $$ (2)

    根据最小二乘法和拉格朗日原理,聚类中心uk应该取为类别ck类各数据点的平均值。

    K-means算法是一个反复迭代过程,目的是使聚类域中所有的点到聚类中心距离的平方和最小。

    本次实验混凝土试件的设计强度为C50,尺寸为50 cm×50 cm×20 cm,在混凝土中嵌入4块尺寸为10 cm×10 cm的聚苯乙烯材料(隔热型材料),模拟混凝土中的分层缺陷,混凝土试块见图 2(a)。试验采用美国FLIR公司的A655SC非制冷型红外热像仪,其热灵敏度为30 mK,图像分辨率为640×480,标准测温范围为-40℃~150℃,波长范围为7.5~14 μm,见图 2(b)。主动热激励系统采用自制的配有自动控制加热时间的碳化硅远红外加热板,共2块,每块加热板的加热功率为500 W,见图 2(c)。整个实验过程中加热时间为5 min,冷却时间为10 min;加热完成后,立即用红外热像仪采集试样表面的冷却温度场,整个采集系统见图 3所示,本文选用的是持续加热法。

    图  2  实验试块和仪器:(a) 混凝土试块;(b) 红外热像仪;(c) 红外加热板
    Figure  2.  Test blocks and instruments: (a) Concrete test block; (b) Infrared thermal imager; (c) Infrared heating plate
    图  3  主动红外热像采集系统
    Figure  3.  Active infrared thermography acquisition system

    实验采集到的红外图像序列如图 4所示,根据红外图像可以发现一共存在4块分层缺陷,各个缺陷之间存在温度场相互影响的干扰区,而且各个缺陷的轮廓比较模糊,存在被隐藏的缺陷信息。整个采集的红外图像数据的第一帧(0 s)最清晰,其正常区域和缺陷区域存在较大的温差;之后随着冷却的进行,正常区域和缺陷区域的温差逐渐减小,缺陷信息逐渐模糊,至最后一帧很难用肉眼分辨。

    图  4  混凝土试块红外图像数据
    Figure  4.  Infrared image data of concrete block

    主动红外热像检测技术所采集的图像每一帧都含有大量的噪声,为了测试基于时序信息红外图像缺陷信息提取的可行性以及性能,本次在图像特征提取前不对图像进行预处理。首先,将红外图像数据按像素点逐个提取时间序列,组成聚类数据集;然后将时序数据序列输入到K-means程序中,进而得到每一帧各个像素点的聚类信息。为了提高运算效率,本次在图像序列处理中采样间隔为1,其序列长度减小为原来的一半。聚类完成后得到图像中每一个像素点所属的类别,进而完成对图像缺陷信息的提取。

    图 5为经过聚类后的提取结果,通过观察发现4个缺陷信息都被提取出来,与原始红外图像相比(图 4),其缺陷信息有了明显的增强,缺陷信息完全肉眼可见,每个识别出的缺陷区域呈近似正方形,完整性相当好,接近于预埋缺陷的形状,而且缺陷提取后的图像序列的时序信息得以保留。

    图  5  处理后的红外图像
    Figure  5.  Processed infrared image

    为了测试基于时序信息红外图像分层缺陷的信息提取效果,本文采用基于空域的二维K-means图像缺陷信息提取算法与其进行对比。由于采集的红外图像数据集第一帧(0 s)缺陷信息最清晰,因此选用第一帧红外图像进行基于空域的分层缺陷信息提取。两种方法的分层缺陷信息提取结果见图 6,由图 6(b)所示,基于时序信息的分层缺陷提取方法4个分层缺陷都被完全提取出来,图 6(a)中模糊、隐藏的信息也被提取出来,缺陷细节分辨能力较好。由图 6(c)所示,基于空域信息的分层缺陷信息提取方法4个分层缺陷被识别为一个缺陷,缺陷细节分辨能力较差。通过分析可能是受缺陷之间温度场叠加的相互影响,缺陷之间区域(图 6(a)中虚线框内部所示的无缺陷区域)的温度信息和分层缺陷的温度场信息较为接近,而和图 6(a)的无缺陷边缘温度场信息差异较大,导致基于空域信息的提取方法效果较差;根据含缺陷混凝土试块的物理特性可知,存在分层缺陷和正常区域的温度特征曲线是存在差异的,基于时序信息的提取方法主要是根据每个像素点的温度特征曲线差异来提取特征,其提取缺陷的分辨能力和效果更好。

    图  6  处理结果对比分析:(a) 红外原图;(b) 基于时序K-means方法;(c) 基于空域K-means方法
    Figure  6.  Comparative analysis of processing results: (a) Original infrared image; (b) K-means method based on temporal information; (c) K-means method based on spatial information

    主动红外热像检测技术中,传统的红外图像处理方法在一定程度上可以消除噪声、提高图像的对比度,但是仍存在一些问题。针对上述问题,本文根据主动红外热成像的数据特点提出了一种基于时序信息的红外图像缺陷信息提取方法。结果表明,基于时序信息的缺陷提取方法是可行的,其可以提取到隐藏的缺陷信息,分层缺陷信息提取效果优于基于空域的K-means方法。

  • 图  1   主动红外热成像采集的数据结构:(a) 三维红外数据;(b) 像素点温度特征曲线

    Figure  1.   Active infrared thermal imaging acquisition of data structures (a) Three-dimensional infrared data; (b) Temperature characteristic curves of pixels

    图  2   实验试块和仪器:(a) 混凝土试块;(b) 红外热像仪;(c) 红外加热板

    Figure  2.   Test blocks and instruments: (a) Concrete test block; (b) Infrared thermal imager; (c) Infrared heating plate

    图  3   主动红外热像采集系统

    Figure  3.   Active infrared thermography acquisition system

    图  4   混凝土试块红外图像数据

    Figure  4.   Infrared image data of concrete block

    图  5   处理后的红外图像

    Figure  5.   Processed infrared image

    图  6   处理结果对比分析:(a) 红外原图;(b) 基于时序K-means方法;(c) 基于空域K-means方法

    Figure  6.   Comparative analysis of processing results: (a) Original infrared image; (b) K-means method based on temporal information; (c) K-means method based on spatial information

  • [1]

    Tran Q H, Huh J, Mac V H, et al. Effects of rebars on the detectability of subsurface defects in concrete bridges using square pulse thermography[J]. NDT & E International, 2018, 100: 92-100.

    [2]

    Konishi S, Kawakami K, Taguchi M. Inspection method with infrared thermometry for detect void in subway tunnel lining[J]. Procedia Engineering, 2016, 165: 474-83. DOI: 10.1016/j.proeng.2016.11.723

    [3]

    GONG J L, LIU J Y, YU Y T, et al. Multi-characteristic combination based reliability enhancement of optical bidirectional thermal wave radar imaging for GFRP laminates with subsurface defects[J]. NDT & E International, 2021, 119: 102415.

    [4] 于龙姣, 于博, 李春庚, 等. 优化卷积网络及低分辨率热成像的夜间人车检测与识别[J]. 红外技术, 2020, 42(7): 651-659. http://hwjs.nvir.cn/article/id/hwjs202007008

    YU L J, YU B, LI C G, et al. Detection and recognition of persons and vehicles in low-resolution nighttime thermal images based on optimized convolutional neural network[J]. Infrared Technology, 2020, 42(7): 651-659. http://hwjs.nvir.cn/article/id/hwjs202007008

    [5] 王加, 周永康, 李泽民, 等. 非制冷红外图像降噪算法综述[J]. 红外技术, 2021, 43(6): 557-565. http://hwjs.nvir.cn/article/id/380dcf6e-de3d-4411-ab70-e246d5c8ea27

    WANG J, ZHOU Y K, LI Z M, et al. A survey of uncooled infrared image denoising algorithms[J]. Infrared Technology, 2021, 43(6): 557-565. http://hwjs.nvir.cn/article/id/380dcf6e-de3d-4411-ab70-e246d5c8ea27

    [6] 王书朋, 付程琳, 侯颖. 基于空时域级联滤波的红外焦平面条状噪声消除算法[J]. 红外技术, 2018, 40(4): 377-381. http://hwjs.nvir.cn/article/id/hwjs201804012

    WANG S P, FU L P, HOU Y. Destriping method of infrared images based on a concatenated spatial-temporal filter[J]. Infrared Technology, 2018, 40(4): 377-381. http://hwjs.nvir.cn/article/id/hwjs201804012

    [7]

    Heish M H, CHENG F C, Shie M C, et al. Fast and efficient median filter for removing 1%~99% levels of salt-and-pepper noise in images[J]. Engineering Applications of Artificial Intelligence, 2013, 26(4): 1333-1338. DOI: 10.1016/j.engappai.2012.10.012

    [8] 朱道广, 隋修宝, 朱才高, 等. 基于多尺度的高动态红外图像增强算法[J]. 红外技术, 2013, 35(8): 476-481, 486. http://hwjs.nvir.cn/article/id/hwjs201308005

    ZHU D G, SUI X B, ZHU C G, et al. Enhancement algorithm for high dynamic range infrared image based on multi-scale processing[J]. Infrared Technology, 2013, 35(8): 476-481, 486. http://hwjs.nvir.cn/article/id/hwjs201308005

    [9]

    Dabov K, Foi A, Katkovnik V, et al. Image denoising by sparse 3-D transform-domain collaborative filtering[J]. IEEE Transactions on Image Processing, 2007, 16(8): 2080-2095. DOI: 10.1109/TIP.2007.901238

    [10] 刘杰, 张建勋, 代煜. 基于多引导滤波的图像增强算法[J]. 物理学报, 2018, 67(23): 293-302. https://www.cnki.com.cn/Article/CJFDTOTAL-WLXB201823030.htm

    LIU J, ZHANG J X, DAI Yu. Image enhancement based on multi -guided filtering[J]. Acta Phys. Sin. , 2018, 67(23): 293-302. https://www.cnki.com.cn/Article/CJFDTOTAL-WLXB201823030.htm

    [11] 彭道刚, 尹磊, 戚尔江, 等. 基于OTSU和区域生长的电厂管道缺陷检测与分割[J]. 红外技术, 2021, 43(5): 502-509. http://hwjs.nvir.cn/article/id/0d4584a9-4405-4877-b4c5-4ab4e8adcbbb

    PENG D G, YIN L, QI E J, et al. Power plant pipeline defect detection and segmentation based on Otsu's and region growing algorithms[J]. Infrared Technology, 2021, 43(5): 502-509. http://hwjs.nvir.cn/article/id/0d4584a9-4405-4877-b4c5-4ab4e8adcbbb

    [12] 何谦, 刘伯运. 红外图像边缘检测算法综述[J]. 红外技术, 2021, 43(3): 199-207. http://hwjs.nvir.cn/article/id/f07883a2-f5b2-4521-b4ef-dceb94d24251

    HE Q, LIU B Y. Review of infrared image edge detection algorithms[J]. Infrared Technology, 2021, 43(5): 502-509. http://hwjs.nvir.cn/article/id/f07883a2-f5b2-4521-b4ef-dceb94d24251

    [13]

    ZHENG K, CHANG Y S, WANG K H, et al. Thermographic clustering analysis for defect detection in CFRP structures[J]. Polymer Testing, 2016, 49: 73-81. DOI: 10.1016/j.polymertesting.2015.11.009

    [14]

    LUO Q, GAO B, WOO W L, et al. Temporal and spatial deep learning network for infrared thermal defect detection[J]. NDT & E International, 2019, 108: 102164.

    [15]

    CHENG C, SHANG Z, SHEN Z. Bridge deck delamination segmentation based on aerial thermography through regularized grayscale morphological reconstruction and gradient statistics[J]. Infrared Physics & Technology, 2019, 98: 240-249.

    [16] 汪凌志, 雷正刚, 周浩, 等. 基于空-谱特征K-means的长波红外高光谱图像分类[J]. 红外技术, 2020, 42(4): 348-355. http://hwjs.nvir.cn/article/id/hwjs202004007

    WANG L Z, LEI Z G, ZHOU H, et al. Long-wave infrared hyperspectral image classification based on K-means of spatial-spectral features[J]. Infrared Technology, 2020, 42(4): 348-355. http://hwjs.nvir.cn/article/id/hwjs202004007

    [17] 苏洪超, 胡英, 洪少壮. 基于红外图像特征与K-means的边缘检测[J]. 红外技术, 2020, 42(1): 81-85. http://hwjs.nvir.cn/article/id/hwjs202001012

    SU H C, HU Y, HONG S Z. Edge detection based on characteristics of infrared image and K-means[J]. Infrared Technology, 2020, 42(1): 81-85. http://hwjs.nvir.cn/article/id/hwjs202001012

  • 期刊类型引用(2)

    1. 李环宇,冯国会,刘馨,蒲毅,王涵. 基于红外热成像的围护结构热工性能定量检测方法研究进展. 太阳能学报. 2024(07): 427-437 . 百度学术
    2. 张迁,王剑,楚瑞博,陈欢欢. 基于BRISK-BEBLID特征的无人机图像快速配准方法. 激光杂志. 2023(06): 92-98 . 百度学术

    其他类型引用(1)

图(6)
计量
  • 文章访问数:  249
  • HTML全文浏览量:  53
  • PDF下载量:  44
  • 被引次数: 3
出版历程
  • 收稿日期:  2021-07-11
  • 修回日期:  2021-08-21
  • 刊出日期:  2022-06-19

目录

/

返回文章
返回