Thermal Infrared Target Tracking Algorithm Based on KL Divergence and Channel Selection
-
摘要: 为了解决单一跟踪器无法有效应对复杂背景及目标外观的显著变化，对于热红外目标跟踪准确度不高的问题，基于全卷积孪生网络提出了一种多响应图集成的跟踪算法用于热红外跟踪。首先，使用预训练的卷积神经网络来提取热红外目标的多个卷积层的特征并进行通道选择，在此基础上分别构建3个对应的跟踪器，每个跟踪器独立执行跟踪并返回一个响应图。然后，利用Kullback–Leibler（KL）散度对多个响应图进行优化集成，得到一个更强的响应图。最后利用集成后的响应图来确定目标位置。为了评估所提算法的性能，在当前最全面的热红外跟踪基准LSOTB-TIR（Large-Scale Thermal Infrared Object Tracking Benchmark）上进行了实验。实验结果表明，所提算法能够适应复杂多样的红外跟踪场景，综合性能超过了现有的红外跟踪算法。Abstract: To solve the problem that a single tracker cannot effectively deal with the complex background and significant changes in target appearance, leading to the problem of low accuracy of thermal infrared target tracking, a tracking algorithm based on a fully-convolutional Siamese network is proposed for thermal infrared tracking. First, a pre-trained convolution neural network is used to extract the features of multiple convolution layers of thermal infrared targets and select channels. On this basis, three corresponding trackers are constructed, and each tracker performs tracking independently and returns a response map. Then, the Kullback Leibler (KL) divergence is used to optimize and integrate multiple response maps to obtain a stronger response map. Finally, the integrated response map is used to determine the target location. To evaluate the performance of the proposed algorithm, experiments were conducted using the most comprehensive thermal infrared tracking benchmark, LSOTB-TIR. The experimental results show that the proposed algorithm can adapt to complex and diverse infrared tracking scenes, and its comprehensive performance is better than that of existing infrared tracking algorithms.
-
0. 引言
偏振成像[1]是一种新型的光学成像手段，能够获取多个偏振方向图像，通过偏振信息解析，能够实现同场景多个不同偏振方向图像来表征目标的偏振信息，从而实现对目标的检测。偏振信息解析是偏振成像中的重要环节，目前有很多学者针对不同的应用场景提出了多种偏振信息解析的方法[2-5]，其中，沈洁[6]等人根据螳螂虾的复眼能充分利用偏振信息实现水下复杂环境的猎物捕获，提出了基于拮抗机制的偏振仿生信息解析方法，将0°、45°、90°、135°四个偏振方向图像分成2组拮抗图像，通过使2组图像的拮抗信息熵最大来获得偏振方向图像的加权系数，得到偏振拮抗图像，从而实现水下目标探测。但这种方法本质是偏振方向图像间的线性操作，存在计算效率低、解析结果不确定、目标不够突出等问题。
深度学习具有强大的表征能力，可以从高维、复杂以及非线性数据中提取有用的特征，目前在很多领域都有着广泛的应用，如自然语言处理[7]、语音识别[8]、图像处理[9]等。Li[10]等人提出一种基于卷积神经网络（Convolutional Neural Networks，CNN）和残差神经网络（Residual Networks，ResNets）的深度学习架构，用于红外和可见光图像的融合，较好地突显了目标信息，并解决了传统的基于CNN中随着网络深度增加特征信息退化的问题。
偏振图像拮抗过程属于偏振方向图像融合的范畴，本文充分利用深度学习在图像处理上的优势，提出了一种偏振方向图像的双支路拮抗融合网络，主要包括特征提取、特征融合和特征转化3个模块，输入4个不同方向的偏振图像，分成两个支路，低频支路通过合成图像来减少能量的损失，高频支路通过差分图像来突显图像的细节信息。将两个支路处理的结果分别通过深度融合网络进行处理，获取效果更好的融合图像，提高后续目标检测与识别效果。
1. 基本原理
1.1 分焦平面型偏振成像
偏振成像需要获取多个偏振方向图像，常用的获取方式可以分为：分时型、分振幅型、分孔径型和分焦平面型。相对于其他的成像方式，分焦平面型偏振成像具有体积小、重量轻、成本低、能同时获取多个偏振方向图像等优点，成为目前偏振成像获取方法的主流。其基本原理是：在探测器的芯片上集成微型偏振分析器（如图 1所示），在探测器的每4个像元上，耦合0°、45°、90°、135°等4个线偏振方向的偏振分析器，利用4个像元实现1个像素的偏振信息采集。按照微型偏振分析器排列顺序，对探测器输出图像进行重新整合，即可得到0°、45°、90°、135°四个偏振方向图像，如图 2(a)~(d)所示。
![]()
图 2 0°、45°、90°和135°的偏振方向图和合成强度图Figure 2. Polarization and intensity pictures of 0°, 45°, 90°and 135°利用偏振成像理论，可以得到合成强度图像I[6]，如图 2(e)所示：
$$ I=I\left(0^{\circ}\right)+I\left(90^{\circ}\right) $$ (1) 1.2 仿生偏振拮抗图像
根据螳螂虾复眼的偏振拮抗机制[6]，一对正交偏振图像的输入可以形成一个拮抗，如0°和90°偏振方向图像、45°和135°偏振方向图像，将采集到的4组正交偏振图像形成4个偏振拮抗通道，每个通道由相互正交的一对偏振信号组成，各组拮抗信号通过拮抗运算方式可以得到偏振拮抗图像，如下所示：
$$ S_{\mathrm{d}}=k_1 \times I\left(45^{\circ}\right)-k_2 \times I\left(135^{\circ}\right) $$ (2) $$ S_{\mathrm{dd}}=k_3 \times I\left(135^{\circ}\right)-k_4 \times I\left(45^{\circ}\right) $$ (3) $$ S_{\mathrm{h}}=k_5 \times I\left(0^{\circ}\right)-k_6 \times I\left(90^{\circ}\right) $$ (4) $$ S_{\mathrm{v}}=k_7 \times I\left(90^{\circ}\right)-k_8 \times I\left(0^{\circ}\right) $$ (5) 式中：I(0°)、I(90°)、I(45°)和I(135°)分别表示0°、90°、45°和135°的偏振方向图像，ki(i＝1, …, 8)为拮抗系数，起到对图像的增强和抑制作用，k的取值范围由人为设定，km≥1(m＝1, 3, 5, 7)，0＜kn≤1(n＝2, 4, 6, 8)，文献[6]中k是通过遍历所有范围内可能的值，求取偏振拮抗图像信息熵最大来确定，存在计算效率低、结果不确定的问题，使得求取的偏振拮抗图像目标可能不够突出。
1.3 基于深度学习的图像融合
图像融合就是通过处理不同传感器所拍摄的源图像，提取有用的信息或特征，将其整合来改善图像的品质和清晰度[11]。传统图像融合需要人工提取特征，指定融合规则，而基于深度学习的图像融合，利用深度网络对输入图像进行卷积，提取出目标高层特征，再利用卷积将融合后特征转换为融合图像，如图 3所示。相对于可监督图像融合的方法，无监督的方法通过约束融合图像和原图像之间的相似性，克服了大多数图像融合中无参考度量的普遍问题。
2. DANet网络设计
2.1 网络结构
由偏振成像机理可知，每个偏振方向图像能量损失一半。为了提高融合后的图像的亮度，如图 4所示，我们设计了一个低频支路，将4个偏振方向图像通过Concat操作进行连接输入，用于提取每个偏振方向图像的低频特征；根据Tyo[12]的研究结论，偏振差分成像可以突显目标细节信息，因此本文设计了另一个高频支路，将2组拮抗图像进行差分输入，用于提取差分图像的目标高频特征。Huang[13]等人提出了一种密集块结构，其中使用了从任何层到所有后续层的直接连接。这种体系结构可以保存尽可能多的信息，该模型可以改善网络中的信息流和梯度，使网络易于训练，同时，密集连接具有正则化效果，减少了任务的过拟合。受此启发，本文将密集连接加入到差分图像细节特征提取中，用于降低细节信息的损失。设计的网络结构主要包括特征提取、特征融合和特征转化3个模块。
图 4中，特征融合模块将两个支路提取的特征图进行对应像素融合，得到融合特征，特征转化模块利用1×1卷积将融合的特征整合得到输出图像。低频和高频支路均有3个3×3的卷积层，网络参数如表 1所示。
表 1 网络参数Table 1. Network parametersLayer Input channel Output channel Feature extraction Low frequency Conv1 4 128 Conv2 128 64 Conv3 64 50 High frequency Conv4 2 16 Conv5 18 16 Conv6 34 50 Feature fusion Fusion 50 50 Feature transformation Conv7 50 1 2.2 损失函数
在偏振拮抗图像获取中，利用信息熵最大作为评价标准[6]，因此本文将信息熵损失Lentropy加入到损失函数中，用于增大融合图像的信息量；结构相似性度量方法作为图像领域使用最广泛的指标之一，该方法基于图像的亮度、对比度和结构3部分来衡量图像之间的相似性，本文将结构相似性损失Lssim加入到损失函数中，用于保持融合图像结构特征；感知损失通常用于图像重建中，恢复出来的图像视觉效果较好，本文将感知损失Lperceptural加入到损失函数中，用于提高融合图像的人眼视觉效果。因此，本文的损失函数L计算公式如下：
$$ L=L_{\text {entropy }} \times \sigma+L_{\text {ssim}} \times \beta+L_{\text {perceptural }} \times \gamma $$ (6) 式中：σ、β、γ为各损失的权重，本文分别取0.1、10、0.1。
1）信息熵损失Lentropy
信息熵（Information Entropy，IE）越大，图像包含的信息越多，为使融合图像信息熵最大，信息熵损失Lentropy定义为：
$$ {L_{{\text{entropy}}}} = \frac{1}{{{\text{IE}} + \varepsilon }} $$ (7) $$ {\text{IE}} = - \sum\limits_{i = 1}^n {p\left( {{x_i}} \right)\log p\left( {{x_i}} \right)} $$ (8) 式中：ε为极小量；xi为随机变量；p(xi)为输出概率函数；n为灰度等级。
2）结构相似性损失Lssim
结构相似性（structural similarity index，SSIM）用于度量两幅图像的相似度，结构相似性损失Lssim定义为：
$$ L_{\text {ssim }}=1-\operatorname{SSIM}(\text { output, } I \text { ) } $$ (9) 式中：SSIM(⋅)表示结构相似性运算；output为输出图像；I为强度图像。
3）感知损失Lperceptural
$$ {L_{{\text{perceptural}}}} = \left\| {{\varPhi _i}\left( {{\text{output}}} \right), {\varPhi _i}\left( I \right)} \right\|_2^2 $$ (10) 式中：Φi(⋅)为VGG16网络第i层特征图。
3. 实验与分析
3.1 实验环境与数据
实验环境如下：训练与测试图像集采用处理器为11th Gen Intel(R) Core(TM) i7-11800H @ 2.30 GHz，系统运行内存为32 GB，GPU显卡为8 GB显存容量的NVIDIA GeForce RTX3080的图形工作站。训练软件运行环境为Python3.9，编程框架为Torch 1.11.0，搭建Cuda10.0用于实验加速。
本文采用LUCID公司的分焦平面型偏振相机（型号：PHX050S-P），如图 5所示。该相机能够同时获取0°、45°、90°、135°四个偏振方向图像，图像分辨率为2448×2048。我们拍摄采集了多种场景目标的9320组偏振方向图像，构建出本文的数据集。
3.2 评价指标及训练参数
本文采用主观定性和客观定量相结合的方法对融合图像进行综合评价，主观评价主要通过人眼观察图像亮度和细节信息，客观评价采用平均梯度[14]、信息熵[15]、空间频率[16]、均值[17]等4个评价指标，定量评估融合效果。
1）平均梯度（Average Gradient，AG）
平均梯度能有效反映出图像层次信息，其值越大，图像层次越丰富，其计算公式为：
$$ \begin{array}{l} {\text{AG}} = \frac{1}{{\left( {M - 1} \right)\left( {N - 1} \right)}} \times \hfill \\ \quad \quad \sum\limits_{i = 1}^{M - 1} {\sum\limits_{j = 1}^{N - 1} {\sqrt {\frac{{{{\left[ {F\left( {i, j} \right) - F\left( {i + 1, j} \right)} \right]}^2} + {{\left[ {F\left( {i, j} \right) - F\left( {i, j + 1} \right)} \right]}^2}}}{2}} } } \hfill \\ \end{array} $$ (11) 式中：F(i, j)为图像的第i行、第j列的灰度值；M、N分别为图像的总行数和总列数。
2）空间频率（Spatial Frequency，SF）
空间频率是图像质量经典的标准之一，其值越大，代表图像质量越高，越清晰，其计算公式为：
$$ {\text{SF}} = \sqrt {{\text{R}}{{\text{F}}^2} + {\text{C}}{{\text{F}}^2}} $$ (12) $$ {\text{RF}} = \sqrt {\frac{1}{{MN}}\sum\limits_{i = 1}^M {\sum\limits_{j = 2}^N {\left[ {{I_{\text{p}}}\left( {i, j} \right) - {I_{\text{p}}}\left( {i, j - 1} \right)} \right]} } } $$ (13) $$ {\text{CF}} = \sqrt {\frac{1}{{MN}}\sum\limits_{i = 2}^M {\sum\limits_{j = 1}^N {\left[ {{I_{\text{p}}}\left( {i, j} \right) - {I_{\text{p}}}\left( {i - 1, j} \right)} \right]} } } $$ (14) 式中：RF是行频率；CF是列频率；M、N为图片的宽高；Ip(i, j)为图像在(i, j)处的像素值。
3）图像均值（Image Mean，IM）
均值即图像像素的平均值，反应图像的平均亮度，平均亮度越大，能量越高，其计算公式为：
$$ {\text{IM}} = \sum\limits_{k = 0}^{L - 1} {{z_k}p\left( {\frac{{{n_k}}}{{MN}}} \right)} $$ (15) 式中：zk为图像的第k个灰度级；L表示图像的灰度等级数目；nk是zk在图像中出现的次数。
本文数据集共计9320组，其中训练集和测试集按照9:1划分，算法的模型由Adam optimizer训练，训练轮次为20，初始学习率为1e－4，每训练4轮学习率衰减一半，详细参数如表 2所示。
表 2 训练参数Table 2. Training parametersParameters Values Training set 8388 Testing set 932 Training round 20 Epoch 4 Optimizer Adam Activation function ReLU Initial learning rate 1e－4 Learning rate decay rate 0.5*lr/4 round 3.3 实验结果分析
为了验证本文算法的有效性，从测试集中随机选取了4组数据，每组数据包含0°、45°、90°和135°偏振方向图像，第1组为室内沙地伪装板目标，第2组为室内标定装置目标，第3组为室外草地伪装板，第4组为水下珊瑚目标，如图 6所示。
![]()
图 6 输入的0°、45°、90°和135°偏振方向图像Figure 6. 0°, 45°, 90° and 135° polarization direction images of input将上述数据输入到本文训练好的模型中，得到对应的融合图像，根据公式(1)~(5)分别得到合成强度图像I、偏振拮抗图像Sd、Sdd、Sh、Sv，如图 7所示。
从图 7可以看出，本文的融合图像亮度最高，能量最大，说明网络中的低频支路对图像能量的提升效果明显，有效解决了偏振成像中能量降低的问题。从图像细节来说，融合图像的细节效果有较为明显的提升，如第1组本文融合图像中的沙粒更加有颗粒感，伪装板的边缘更加突出，第2组本文融合图像中标定装置的线缆显现出来，背景板的线条更加清晰，而其他图像不太明显，第3组本文融合图像的3块伪装板全部从背景中区分出来，而其他图像只有部分能够区分开，第4组本文融合图像中，珊瑚整体目更亮，珊瑚边缘也更明晰。由于图像能量提升较为明显，可能会造成目标的对比度有所下降，如第一组本文融合图像的伪装板的对比度相较于Sd图和Sh图有所下降，但不影响目标整体的检测效果。
本文将测试集中932组图像输入到模型中，得到对应的932幅融合图像，并根据公式(1)~(5)分别得到932幅合成强度图像I和相应的偏振拮抗图像Sd、Sdd、Sh、Sv。利用平均梯度（AG）、信息熵（IE）、空间频率（SF）和图像灰度均值（IM）指标对其计算均值并进行评价，如表 3所示。
表 3 输出结果的各项评价指标Table 3. Evaluation indexes of the output resultsI Sd Sdd Sh Sv DANet AG 0.0099 0.0128 0.0119 0.0144 0.0126 0.0185 IE 6.06 6.18 6.08 6.15 6.39 7.04 SF 0.35 0.49 0.40 0.46 0.45 0.64 IM 41 49 47 46 57 93 从表 3中可以看出，在4个评价指标上，本文的方法都是最高的，在平均梯度上最少提高了22.16%，最多提高了46.49%；在信息熵上最少提高了9.23%，最多提高了13.92%；在空间频率上最少提高了23.44%，最多提高了45.31%；在图像灰度均值上最少提高了38.71%，最多提高了55.91%。实验结果表明，本文方法得到的融合图像亮度更高，包含的信息量更丰富，可以显现出更多的细节信息。
4. 结论
针对偏振方向图像融合效果不明显的问题，本文提出了一种基于双支路拮抗融合网络的偏振信息解析方法，可以解决现有基于拮抗机制的仿生偏振信息解析方法中存在计算效率低、解析结果不确定、目标不够突出等问题，为偏振信息解析提供了一个新的技术途径。本文设计的DANet主要包括特征提取、特征融合和特征转化3个模块。首先，特征提取模块由低频支路和高频支路组成，将0°、45°、90°和135°偏振方向图像连接输入到低频支路，提取能量特征，将2组拮抗图像差分输入到高频支路，提取图像细节特征；其次，将得到的能量特征和细节特征进行特征融合；最后，将融合后的特征转化整合为融合图像。实验表明，通过DANet得到的融合图像在视觉效果和评价指标上均有较为显著提升，在平均梯度、信息熵、空间频率和图像灰度均值上分别至少提升了22.16%、9.23%、23.44%、38.71%。下一步，我们将进一步优化网络结构，以平衡能量支路和细节支路，改善融合图像的对比度；加大水下偏振方向图像在数据集中的比重，优化数据集。
-
![]()
图 2 10种算法在LSOTB-TIR的距离精度曲线图和成功率曲线
Figure 2. Distance accuracy curves and success rate curves of ten algorithms in LSOTB-TIR
![]()
图 3 10种算法在LSOTB-TIR上4种挑战性场景下精确度曲线图
Figure 3. Accuracy curves of ten algorithms in four challenging scenarios of LSOTB-TIR
![]()
图 4 本文算法与另外三种算法跟踪结果比较
Figure 4. Comparison of tracking results with other three algorithms
表 1 LSOTB-TIR定义的的4种热红外挑战属性
Table 1 Four thermal infrared challenge attributes defined by LSOTB-TIR
Infrared challenge attributes Specific definitions Aspect Ratio
Variation（ARV）The aspect ratio of the target exceeds [0.5, 2] during tracking Intensity Variation
（Ⅳ）The intensity of the target changes during tracking Thermal Crossover
（TC）Two targets of the same intensity cross each other Distractor（DIS） There are interfering objects similar to the target around the target 
下载: 导出CSV
-
[1] LIU Q, LU X H, HE Z Y, et al. Deep convolutional neural networks for thermal infrared object tracking[J]. Knowledge-Based Systems, 2017, 134: 189-198.
[2] LI X, LIU Q, FAN Nana, et al. Hierarchical spatial-aware Siamese network for thermal infrared object tracking[J]. Knowledge-Based Systems, 2019, 166: 71-81. DOI: 10.1016/j.knosys.2018.12.011
[3] LIU Q, LI X, HE Z Y, et al. Learning deep multi-level similarity for thermal infrared object tracking[J]. IEEE Transaction on Multimedia, 2021, 23: 2124-2126.
[4] LIU Q, LI X, HE Z Y, et al. Multi-task driven feature models for thermal infrared tracking[C]//Proceedings of the 34th AAAI Conference on Artificial Intelligence, 2020: 11604-11611.
[5] 张晋, 王元余, 林丹丹, 等. 基于相关滤波的红外目标跟踪抗遮挡处理[J]. 红外技术, 2022, 44(3): 277-285. http://hwjs.nvir.cn/article/id/98939f6c-0de2-4692-9c34-9eabbb68205e ZHANG Jin, WANG Yuanyu, LIN Dandan, et al. Anti-occlusion process of infrared target tracking based on correlation filters[J]. Infrared Technology, 2022, 44(3): 277-285. http://hwjs.nvir.cn/article/id/98939f6c-0de2-4692-9c34-9eabbb68205e
[6] 李畅, 杨德东, 宋鹏, 等. 基于全局感知孪生网络的红外目标跟踪[J]. 光学学报, 2021, 41(6): 0615002-1-0615002-11. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB202106019.htm LI Chang, YANG Dedong, SONG Pen, et al. Global-Aware siamese network for thermal infrared object tracking[J]. Acta Optica Sinica, 2021, 41(6): 0615002-1-0615002-11. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB202106019.htm
[7] MA C, HUANG J B, YANG X, et al. Hierarchical convolutional features for visual racking[C]//IEEE International Conference on Computer Vision, 2015: 3074-3082.
[8] LI X, MA C, WU B Y, et al. Target-aware deep tracking[C]//IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2019: 1369-1378.
[9] Bertinetto L, Valmadre J, Henriques J F, et al. Fully-convolutional siamese networks for object tracking[C]//European Conference on Computer Vision, 2016: 850-865.
[10] Selvaraju R, Cogswell M, Das A, et al. Grad-cam: visual explanations from deep networks via gradient based localization[C]//Proceedings of the IEEE International Conference on Computer Vision, 2017: 618-626.
[11] Nam H, Han B. Learning multi-domain convolutional neural networks for visual tracking[C]//IEEE Conference on Computer Vision and Pattern Recognition, 2016: 4293-4302.
[12] Danelljan M, Bhat G, Khan F S, et al. Atom: Accurate tracking by overlap max-imization[C]//IEEE Conference on Computer Vision and Pattern Recognition, 2019: 4660-4669.
[13] Felsberg M, Kristan M, others. The thermal infrared visual object tracking VOT-TIR2016 challenge results[C]//European Conference on Computer Vision Workshops, 2016: 824-849.
[14] LIU Q, HE Z, LI X, et al. PTB-TIR: A thermal infrared pedestrian tracking bench-mark[J]. IEEE Transactions on Multimedia, 2019, 22(3): 666-675.
[15] LIU Q, LI X, LI C L. LSOTB-TIR: A large-scale high-diversity thermal infrared object tracking benchmark[C/OL]//Proceedings of the 28th ACM International Conference on Multimedia, 2020, https://arxiv.org/abs/2008.00836.
-
期刊类型引用(1)
1. 杜星月，朱志宇，张哲卿，曹百亨，葛慧林. 偏振融合的红外船舶弱小目标跟踪算法. 电光与控制. 2024(12): 84-90 . 
百度学术
其他类型引用(3)
计量
- 文章访问数:
- HTML全文浏览量:
- PDF下载量:
- 被引次数: 4
