Thermal Infrared Target Tracking Algorithm Based on KL Divergence and Channel Selection
-
摘要: 为了解决单一跟踪器无法有效应对复杂背景及目标外观的显著变化，对于热红外目标跟踪准确度不高的问题，基于全卷积孪生网络提出了一种多响应图集成的跟踪算法用于热红外跟踪。首先，使用预训练的卷积神经网络来提取热红外目标的多个卷积层的特征并进行通道选择，在此基础上分别构建3个对应的跟踪器，每个跟踪器独立执行跟踪并返回一个响应图。然后，利用Kullback–Leibler（KL）散度对多个响应图进行优化集成，得到一个更强的响应图。最后利用集成后的响应图来确定目标位置。为了评估所提算法的性能，在当前最全面的热红外跟踪基准LSOTB-TIR（Large-Scale Thermal Infrared Object Tracking Benchmark）上进行了实验。实验结果表明，所提算法能够适应复杂多样的红外跟踪场景，综合性能超过了现有的红外跟踪算法。Abstract: To solve the problem that a single tracker cannot effectively deal with the complex background and significant changes in target appearance, leading to the problem of low accuracy of thermal infrared target tracking, a tracking algorithm based on a fully-convolutional Siamese network is proposed for thermal infrared tracking. First, a pre-trained convolution neural network is used to extract the features of multiple convolution layers of thermal infrared targets and select channels. On this basis, three corresponding trackers are constructed, and each tracker performs tracking independently and returns a response map. Then, the Kullback Leibler (KL) divergence is used to optimize and integrate multiple response maps to obtain a stronger response map. Finally, the integrated response map is used to determine the target location. To evaluate the performance of the proposed algorithm, experiments were conducted using the most comprehensive thermal infrared tracking benchmark, LSOTB-TIR. The experimental results show that the proposed algorithm can adapt to complex and diverse infrared tracking scenes, and its comprehensive performance is better than that of existing infrared tracking algorithms.
-
0. 引言
工业生产中的金属材料在使用过程中可能会产生划痕、裂纹等损伤缺陷，从而影响设备的正常运行，甚至危及人身安全，因而对金属材料中的损伤缺陷进行检测具有重要意义。涡流脉冲热成像检测作为新兴的无损检测技术，具有非接触性、检测速度快等优点[1]，因而被广大研究者应用于工业中金属材料的探伤检测。如Peng等[2]采用快速傅里叶变换和主成分分析消除非均匀加热影响来增强红外图像的裂纹特征，成功检测出铜棒裂纹位置和形状。Yi等[3]通过涡流热成像检测技术，提出用核主成分分析和低秩稀疏建模方法，增强缺陷区域特征，实现了金属表面裂纹深度的检测。
因此基于图像分析的检测方法能够有效识别设备的金属裂纹，但上述文献无法实现自适应地提取缺陷图像的特征信息。近年来深度学习方法在图像识别、缺陷检测等方向取得了较好的效果，它能够自动地学习输入数据的深度特征。但深度学习方法的训练需要足量的数据，且训练的数据和测试的数据要具有相同的分布[4]，实际的工业生产中，工况多变，训练和测试样本数据同分布的要求难以得到满足。
为解决以上问题，多种深度迁移学习方法被提出，例如基于特征迁移的深度学习方法。特征迁移的核心思路是通过适当的特征变换将源域和目标域的数据映射到一个公共的特征空间，并通过特征对齐来减小领域间的分布差异，然后利用源域的标签数据训练目标域的分类器[5]。特征迁移学习方法在许多领域得到发展和应用，例如Long等[6]提出的DAN深度适配网络同时适配3个全连接层，且提出了多核MMD（Maximum mean discrepancy）来度量两域之间的分布差异。Ganin等[7]引入生成对抗网络（Generative adversarial networks, GAN）[8]思想提出领域对抗神经网络（Domain adversarial neural network, DANN），将生成对抗网络的生成器视为特征提取器，将生成对抗网络的判别器视为域适应器，因而提取出源域和目标域的共同特征实现迁移。王等[9]联合生成对抗网络和多核MMD最小化域间距离，提出了基于生成对抗网络和距离度量的联合分类模型。
以上文献聚焦于源域和目标域进行全局特征对齐研究，缺乏对源域和目标域相同类别间关系的深入研究，故本文在特征提取网络ResNet50的基础上引入CBAM注意力机制，使得网络更加关注图像的重点区域，以此来提高网络的特征提取能力，并引用局部最大均值差异（Local maximum mean discrepancy, LMMD）[10]作为子领域自适应对齐算法，用来度量源域和目标域特征的分布差异，通过最小化该差异损失优化训练模型，并将得到的特征迁移深度学习模型应用于金属板材料缺陷的检测问题。
1. 领域自适应
1.1 全局域自适应与子领域自适应
领域自适应实质就是把提取的源域和目标域数据特征映射到可再生核希尔伯特空间（Reproducing kernel Hilbert space, RKHS）中来减小两领域间的分布差异。实行全局域自适应后，源域和目标域的全局特征得到对齐，但两域间不同类别的特征样本并没有明显地分开，影响了分类的准确性。而经过子领域自适应后，源域和目标域不仅全局特征得到对齐，而且两域中不同类别的特征很好地得以分开，且同类别间的特征分布更为紧密，因此子领域自适应可以改善全局域自适应分类精度较差的情况。两种领域自适应的思想如图 1所示。
1.2 最大均值差异度量算法
最大均值差异[11]是迁移学习领域应用较多的一种度量准则，它是一种度量数据集之间分布差异的非参数距离指标。对于源域${D_{\text{s}}} = \left\{ {x_i^{\text{s}}, y_i^{\text{s}}} \right\}_{i = 1}^{{n_{\text{s}}}}$，其中xis和yis分别为源域的第i个样本及对应标签，ns为源域样本个数，目标域${D_{\text{t}}} = \left\{ {x_j^{\text{s}}} \right\}_{j = 1}^{{n_{\text{t}}}}$，xjt为目标域的第j个样本，nt为目标域的样本个数，两域之间的MMD平方可表示为：
$$ \begin{array}{l} {\text{MM}}{{\text{D}}^2}\left( {{X^{\text{s}}}, {X^{\text{t}}}} \right) = \left\| {\frac{1}{{{n_{\text{s}}}}}\sum\limits_{i = 1}^{{n_{\text{s}}}} {\phi \left( {x_i^{\text{s}}} \right)} - \frac{1}{{{n_{\text{t}}}}}\sum\limits_{j = 1}^{{n_{\text{t}}}} {\phi \left( {x_j^{\text{t}}} \right)} } \right\|_H^2 \hfill \\ = \frac{1}{{n_{\text{s}}^2}}\sum\limits_{i, j = 1}^{{n_{\text{s}}}} {\left\langle {\phi \left( {x_i^{\text{s}}} \right), \phi \left( {x_j^{\text{s}}} \right)} \right\rangle + } \frac{1}{{n_{\text{t}}^2}}\sum\limits_{i, j = 1}^{{n_{\text{t}}}} {\left\langle {\phi \left( {x_i^{\text{t}}} \right), \phi \left( {x_j^{\text{t}}} \right)} \right\rangle } \hfill \\ - \frac{2}{{{n_{\text{s}}}{n_{\text{t}}}}}\sum\limits_{i, j = 1}^{{n_{\text{s}}}, {n_{\text{t}}}} {\left\langle {\phi \left( {x_i^{\text{s}}} \right), \phi \left( {x_j^{\text{t}}} \right)} \right\rangle } \hfill \\ \end{array} $$ (1) 式中：H是可再生核希尔伯特空间；ϕ是该空间的一个非线性映射函数，其内积可用核函数看k(, )来计算，即${\left\langle {\phi \left( {x_i^{\text{s}}} \right), \phi \left( {x_j^{\text{s}}} \right)} \right\rangle _{{H_k}}} = k\left( {x_i^{\text{s}}, x_j^{\text{s}}} \right)$，由此式(1)可写为：
$$ \begin{array}{l} {\text{MM}}{{\text{D}}^2}\left( {{X^{\text{s}}}, {X^{\text{t}}}} \right) = \frac{1}{{n_{\text{s}}^2}}\sum\limits_{i, j = 1}^{{n_{\text{s}}}} {k\left( {x_i^{\text{s}}, x_j^{\text{s}}} \right)} \hfill \\ + \frac{1}{{n_{\text{t}}^2}}\sum\limits_{i, j = 1}^{{n_{\text{t}}}} {k\left( {x_i^{\text{t}}, x_j^{\text{t}}} \right) - } \frac{2}{{{n_{\text{s}}}{n_{\text{t}}}}}\sum\limits_{i, j = 1}^{{n_{\text{s}}}, {n_{\text{t}}}} {k\left( {x_i^{\text{s}}, x_j^{\text{t}}} \right)} \hfill \\ \end{array} $$ (2) 2. 融合注意力的ResNet50网络和子领域自适应的工件缺陷检测模型
2.1 融合CBAM注意力机制的ResNet50特征提取模块
卷积注意力模块（Convolutional block attention module, CBAM）[12]是一种结合了通道注意力和空间注意力的综合注意力模块，CBAM结构如图 2所示[13]。输入特征图F∈RC×H×W，先经过通道注意力模块得到其权值MC(F)，再经过空间注意力模块得到其权值MS(F′)，整个过程计算公式如(3)、(4)所示。
$$ F^{\prime}=M_{\mathrm{C}}(F) \otimes F $$ (3) $$ F^{\prime \prime}=M_{\mathrm{S}}\left(F^{\prime}\right) \otimes F^{\prime}$$ (4) 由于随着网络模型的加深，会相继出现梯度消失和网络退化的问题，因此本文选择了采用残差块的ResNet50[14]网络模型，残差块的存在使得网络层之间能够进行短连接，缓解了梯度爆炸和梯度消失问题，提高了模型的稳定性。
ResNet50网络在提取特征中没有重点的关注喜好，本文希望网络模型在对工件进行检测训练时能更多地关注缺陷的部位，而忽略不重要的背景信息，从而提高模型检测识别的正确率。因此本文将CBAM注意力模块引入ResNet50网络中，实验采用在ImageNet上预训练的ResNet50网络，在引入CBAM模块时不改变ResNet50的残差结构，所以分别在第一层卷积和最后一层卷积后面加入CBAM模块，融合CBAM机制的ResNet50网络结构参数如表 1所示。
表 1 添加CBAM的ResNet50网络结构Table 1. ResNet50 network structure with CBAM addedNetwork layer Parameters Activation function Conv1 64×7×7 Relu CBAM 64×1×1
7×7Sigmoid Conv2_x $ \left. {\begin{array}{*{20}{c}} {64 \times 1 \times 1} \\ {64 \times 3 \times 3} \\ {256 \times 1 \times 1} \end{array}} \right\} \times 3 $ Relu Conv3_x $ \left. {\begin{array}{*{20}{c}} {128 \times 1 \times 1} \\ {128 \times 3 \times 3} \\ {512 \times 1 \times 1} \end{array}} \right\} \times 4 $ Relu Conv4_x $ \left. {\begin{array}{*{20}{c}} {256 \times 1 \times 1} \\ {256 \times 3 \times 3} \\ {1024 \times 1 \times 1} \end{array}} \right\} \times 6 $ Relu Conv5_x $ \left. {\begin{array}{*{20}{c}} {512 \times 1 \times 1} \\ {512 \times 3 \times 3} \\ {2048 \times 1 \times 1} \end{array}} \right\} \times 3 $ Relu CBAM 2048×1×1
7×7Sigmoid FC 2 Softmax 2.2 子领域自适应模块
本文使用局部最大均值差异来测量两领域间相关子领域的分布差异，其公式为：
$$ \begin{array}{l} {\text{LMM}}{{\text{D}}^2}\left( {{X^{\text{s}}}, {X^{\text{t}}}} \right) = \hfill \\ \frac{1}{C}\sum\limits_{c = 1}^C {\left\| {\sum\limits_{i = 1}^{{n_{\text{s}}}} {w_{c, i}^{\text{s}}\phi \left( {x_i^{\text{s}}} \right)} - \sum\limits_{j = 1}^{{n_{\text{t}}}} {w_{c, j}^{\text{t}}\phi \left( {x_j^{\text{t}}} \right)} } \right\|_H^2} \hfill \\ \end{array} $$ (5) 式中：C是两域的类别数；wc, jt和分别是样本xis和xjt属于类别c的权重，其计算公式为：
$$ {\omega _{c, i}} = \frac{{{y_{c, i}}}}{{\sum\limits_{\left( {{x_j}, {y_j}} \right) \in D} {{y_{c, j}}} }} $$ (6) 式中：yc, i是向量yi的第c项，$\sum\limits_{\left( {{x_j}, {y_j}} \right) \in D} {{y_{c, j}}} $是属于类别c的全部样本总和[15]。
本文使用真实标签yis的one-hot得出源域中c类样本的权重wc, is。目标域中样本由于没有标签，故无法使用yjt来计算目标域中对应的权重，但卷积神经网络的输出是概率分布，它可以表示样本xi属于某个类别的概率大小，故而使用卷积神经网络的Softmax分类器来预测目标域中的标签，从而得出样本xjt是c类的权重wc, jt。
对于输入的源域和目标域数据，经过本文改进的ResNet50网络的全连接层中提取得到对应特征zis和zjt，于是将其映射到可再生核希尔伯特空间进行特征对齐，因此可将公式(5)重新计算得到：
$$ \begin{array}{l} {\text{LMM}}{{\text{D}}^2}\left( {z_i^{\text{s}}, z_j^{\text{t}}} \right) = \frac{1}{C}\sum\limits_{c = 1}^C {\left\{ {\sum\limits_{i, j = 1}^{{n_{\text{s}}}} {\omega _{c, i}^{\text{s}}\omega _{c, j}^{\text{s}}\left\langle {\phi \left( {z_i^{\text{s}}} \right), \phi \left( {z_j^{\text{s}}} \right)} \right\rangle } } \right.} \hfill \\ + \sum\limits_{i, j = 1}^{{n_{\text{t}}}} {\omega _{c, i}^{\text{t}}\omega _{c, j}^{\text{t}}\left\langle {\phi \left( {z_i^{\text{t}}} \right), \phi \left( {z_j^{\text{t}}} \right)} \right\rangle } \hfill \\ - \left. {2\sum\limits_{i, j = 1}^{{n_{\text{s}}}, {n_{\text{t}}}} {\omega _{c, i}^{\text{s}}\omega _{c, j}^{\text{t}}\left\langle {\phi \left( {z_i^{\text{s}}} \right), \phi \left( {z_j^{\text{t}}} \right)} \right\rangle } } \right\} \hfill \\ = \frac{1}{C}\sum\limits_{c = 1}^C {\left\{ {\sum\limits_{i, j = 1}^{{n_{\text{s}}}} {\omega _{c, i}^{\text{s}}\omega _{c, j}^{\text{s}}} k\left( {z_i^{\text{s}}, z_j^{\text{s}}} \right) + } \right.} \sum\limits_{i, j = 1}^{{n_{\text{t}}}} {\omega _{c, i}^{\text{t}}\omega _{c, j}^{\text{t}}k\left( {z_i^{\text{t}}, z_j^{\text{t}}} \right)} \hfill \\ - \left. {2\sum\limits_{i, j = 1}^{{n_{\text{s}}}, {n_{\text{t}}}} {\omega _{c, i}^{\text{s}}\omega _{c, j}^{\text{t}}} k\left( {z_i^{\text{s}}, z_j^{\text{t}}} \right)} \right\} \hfill \\ \end{array} $$ (7) 2.3 网络模型的整体结构
本文通过融合CBAM注意力的ResNet50特征提取网络模块和子领域自适应模块，搭建了工件的缺陷检测模型，其结构如图 3所示，首先将注意力机制CBAM模块添加到ResNet50中，提取源域和目标域数据的深度特征，并将网络的参数共享，同时将子领域自适应层设在网络的全连接层[10]，以便在此层中使用局部最大均值差异来实现两域中相关子领域的特征对齐，最后用网络模型中的Softmax分类器对金属板材料的红外热图像进行缺陷的检测识别。
![]()
图 3 CBAM_ResNet50和子域自适应网络模型Figure 3. CBAM_ResNet50 and subdomain adaptive network model2.4 模型的目标函数
通过2.3节介绍的模型结构可以知道在Softmax分类器中可以得到目标域的预测类别标签${\hat y^{\text{t}}}$，以此构建目标域的损失函数，并将LMMD作为子领域自适应层的损失函数，因此本文优化的目标函数为：
$$ \begin{array}{l} \min \frac{1}{{{n_{\text{s}}}}}\sum\limits_{i = 1}^{{n_{\text{s}}}} {J\left( {f\left( {x_i^{\text{s}}} \right), y_i^{\text{s}}} \right)} + \frac{1}{{{n_{\text{t}}}}}\sum\limits_{j = 1}^{{n_{\text{t}}}} {J\left( {f\left( {x_j^{\text{t}}} \right), \hat y_j^{\text{t}}} \right)} \hfill \\ + \lambda \sum {{d_{{\text{lmmd}}}}\left( {z_i^{\text{s}}, z_j^{\text{t}}} \right)} \hfill \\ \end{array} $$ (8) 式中：J(, )是交叉熵损失函数；dlmmd(, )是子领域自适应的分布距离函数；λ＞0，是权衡超参数。
3. 实验
3.1 实验平台和数据采集
涡流热成像实验平台由涡流加热装置和红外热像仪组成，图 4为实验的涡流加热设备和有缺陷的金属板材料。实验时给装置通电，给被测金属材料涡流加热，然后用红外热像仪拍摄金属板材料的红外图像，从而得到实验的红外图像数据。
![]()
图 4 涡流加热设备（左）和缺陷金属板（右）Figure 4. Eddy current heating equipment (left) and defective metal plate (right)本文实验模拟工业生产设备的金属材料工件，选用并加工了有裂纹缺陷的金属板和无缺陷的完好的金属板作为实验中的两大类别，以此来验证本文提出网络模型的性能优劣。对工件材料加工时分别设置了有缺陷的裂纹长度为4 mm、8 mm、10 mm、20 mm，以满足不同长度裂纹缺陷的检测实验，提高实验的丰富性和可靠性，裂纹的宽度均为1.5 mm，考虑到加工误差，裂纹缺陷的尺寸会和标注数据有0.2 mm的误差，本实验加工的裂纹缺陷均在金属材料的表面。通过涡流设备对金属材料的加热和红外热像仪采集图像数据，本实验采集得到的红外图像分辨率为320×240，红外图像集分别有裂纹缺陷和无裂纹缺陷两种类型。在实际的机械设备运行过程中，工况多变，标记的故障样本量小，为此本文提出一种结合深度学习与域自适应的工件涡流热成像的缺陷检测方法，所以还需要选择一个相似的领域数据集来进行实验，于是选择了中科院自动化所收集的磁瓦数据集[16]作为其相似领域来进行迁移学习的实验。因本实验采集的数据集有无裂纹缺陷和有裂纹缺陷两种类别，所以从磁瓦数据集中也选用了对应的类别进行实验。同时由于实验采集的图像是彩色的RGB图像，因此需要先对磁瓦数据集的两种类型的黑白图像进行处理转化为RGB图像后再进行本文模型方法的相关实验，根据源域数据集相关资料，尽量还原了真实的RGB色彩，以便和本文的红外图像进行领域适应的迁移学习。如图 5为实验数据集示例。
本文中实验的两个领域的样本存在数目不均衡的问题，为了更好地训练模型，验证实验方法的性能，因此使用翻转、缩放、裁剪，旋转等一些数据增强的方式得到了相对均衡的数据样本。故最后得到磁瓦数据集的裂纹缺陷图像460张，无裂纹缺陷图像434张，本实验得到的金属板红外图像数据集的裂纹缺陷图像380张，无裂纹缺陷图像320张。将两域的数据集根据有无裂纹缺陷各自按照8:1:1的比例划分训练集，验证集和测试集。实验包含两种域迁移：磁瓦数据集→金属板数据集，金属板数据集→磁瓦数据集，因本文主要应用网上公开的缺陷数据集来实现对我所实验的金属材料红外图像的缺陷检测识别，所以更多关注的是从磁瓦数据集到金属板数据集的迁移任务的准确率。
3.2 实验配置和实验对比
本文实验都使用基于Python 3.7的Pytorch深度学习框架，CPU为i5-11400H，GPU为GeForce RTX 3060，RAM为16 GB。模型训练的迭代轮数保持一致，使用随机梯度下降法（Stochastic gradient descent，SGD），动量设置为0.9，学习率的调整公式为ρθ＝ρ0/(1+αθ)β，其中训练时θ服从0到1的线性变化，ρ0＝0.01, α＝10, β＝0.75。
为对比证明本文方法的优越性，于是设置了几组不同方法的模型来进行对比实验。一是经过网络数据集预训练后的微调ResNet50网络模型，二是度量距离为多核最大均值差异（Multipe Kernel Maximum Mean Discrepancy，MK-MMD）的DAN模型，三是未添加注意力机制，采用局部最大均值差异（Local Maximum Mean Discrepancy，LMMD）度量距离的ResNet50_LMMD模型，四是本文的添加CBAM注意力模块的改进ResNet50网络，用局部最大均值差异度量距离的模型。几种模型实验的环境条件和配置相同，实验设定100轮次，本文方法训练集和测试集的检测精度如图 6所示。可以看出，训练集和测试集在30轮左右达到稳定，且精度相差不大，说明模型是稳定可靠的。
各个不同模型的检测精度对比如表 2所示，可以明显看出本文提出的方法平均精度为88.52%，好于对比的其他模型，表明本文提出的模型通过对齐同类子领域，能得到领域间更细节的信息，使得不同领域间同类别联系更为紧密，不同类别间的类间距分得更开，同时和方法3相比可知添加注意力机制后检测精度得到大约1.3%的提升，验证了模型的优越性。同时图 7展示了磁瓦数据集到金属板数据集训练得到的准确率的对比效果，相同轮次下，可以看到其余方法在20个epoch左右达到收敛，随后细微振荡，而本文提出的方法收敛速度较慢，原因是在ResNet50网络基础上加入了CBAM注意力模块，增加了网络的复杂度，所以检测消耗的时间较不添加CBAM模块的时间增加了大约2.5 s，但是检测缺陷的准确率得到了提升。
表 2 不同模型的检测精度Table 2. Detection accuracy of different models% Methods Magnetic tile→sheet metal Sheet metal→magnetic tile Average accuracy ResNet50 63.93 59.18 61.56 DAN 78.19 73.53 75.86 ResNet50_LMMD 88.29 86.10 87.20 This paper 90.11 86.93 88.52 ![]()
图 7 不同方法的精确度对比图Figure 7. Accuracy comparison chart of different methodsMagnetic tile data set→sheet metal data set3.3 实验结果可视化
为了更加直观地体现出本文方法的优点，实验选择了源域为磁瓦数据集，目标域为本文采集的金属板的红外图像数据集作为可视化对比，利用t-SNE（t-distributed stochastic neighbor embedding）算法[17]将源域和目标域部分数据的特征值映射为二维空间，然后在二维空间里将其特征可视化。几种对比方法的特征可视化效果如图 8所示，其中S代表源域，T代表目标域，S-0表示源域中无缺陷的样本，S-1表示源域中裂纹缺陷的样本。由图可知，仅采用经过预训练微调的ResNet50模型提取通用特征能力强，一个域内的同类别间的聚类效果好，但不同领域相同类别就没有很好地聚类。采用多核MMD（MK-MMD）的DAN模型展现出一定的特征对齐能力，但未考虑两域子领域的分布对齐，不同领域的同类别间聚类效果不是很好。而采用子领域自适应模型的ResNet50_LMMD和本文方法在对齐全局域分布的同时还实现了对齐同类子领域的分布，另外本文方法融入注意力机制，提升了特征提取能力，可以看出两域间相同类别密切地聚集在一起，得到了不错的聚类效果，充分证实了本文方法的有效性和优越性。
4. 结论
通过引入特征迁移学习思想，建立局部最大均值差异衡量指标，缩小了源域和目标域数据特征间的分布差异，实现了相关子域的分布对齐。基于特征迁移学习思想建立的金属板材料裂纹的缺陷识别模型，解决了数据集中裂纹缺陷样本量少，训练和测试样本难以同分布的问题。提出的基于深度学习与子领域自适应的工件涡流热成像的缺陷检测模型，在ResNet50网络添加CBAM注意力机制，提高了模型对于缺陷区域特征的关注度，可以聚焦于缺陷特征的提取，提升模型缺陷检测能力。通过相关实验对比，并使用t-SNE算法对几种对比实验提取的特征进行可视化，验证了所提模型的有效性，提升了金属板材料裂纹缺陷的检测精度。
-
![]()
图 2 10种算法在LSOTB-TIR的距离精度曲线图和成功率曲线
Figure 2. Distance accuracy curves and success rate curves of ten algorithms in LSOTB-TIR
![]()
图 3 10种算法在LSOTB-TIR上4种挑战性场景下精确度曲线图
Figure 3. Accuracy curves of ten algorithms in four challenging scenarios of LSOTB-TIR
![]()
图 4 本文算法与另外三种算法跟踪结果比较
Figure 4. Comparison of tracking results with other three algorithms
表 1 LSOTB-TIR定义的的4种热红外挑战属性
Table 1 Four thermal infrared challenge attributes defined by LSOTB-TIR
Infrared challenge attributes Specific definitions Aspect Ratio
Variation（ARV）The aspect ratio of the target exceeds [0.5, 2] during tracking Intensity Variation
（Ⅳ）The intensity of the target changes during tracking Thermal Crossover
（TC）Two targets of the same intensity cross each other Distractor（DIS） There are interfering objects similar to the target around the target 
下载: 导出CSV
-
[1] LIU Q, LU X H, HE Z Y, et al. Deep convolutional neural networks for thermal infrared object tracking[J]. Knowledge-Based Systems, 2017, 134: 189-198.
[2] LI X, LIU Q, FAN Nana, et al. Hierarchical spatial-aware Siamese network for thermal infrared object tracking[J]. Knowledge-Based Systems, 2019, 166: 71-81. DOI: 10.1016/j.knosys.2018.12.011
[3] LIU Q, LI X, HE Z Y, et al. Learning deep multi-level similarity for thermal infrared object tracking[J]. IEEE Transaction on Multimedia, 2021, 23: 2124-2126.
[4] LIU Q, LI X, HE Z Y, et al. Multi-task driven feature models for thermal infrared tracking[C]//Proceedings of the 34th AAAI Conference on Artificial Intelligence, 2020: 11604-11611.
[5] 张晋, 王元余, 林丹丹, 等. 基于相关滤波的红外目标跟踪抗遮挡处理[J]. 红外技术, 2022, 44(3): 277-285. http://hwjs.nvir.cn/article/id/98939f6c-0de2-4692-9c34-9eabbb68205e ZHANG Jin, WANG Yuanyu, LIN Dandan, et al. Anti-occlusion process of infrared target tracking based on correlation filters[J]. Infrared Technology, 2022, 44(3): 277-285. http://hwjs.nvir.cn/article/id/98939f6c-0de2-4692-9c34-9eabbb68205e
[6] 李畅, 杨德东, 宋鹏, 等. 基于全局感知孪生网络的红外目标跟踪[J]. 光学学报, 2021, 41(6): 0615002-1-0615002-11. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB202106019.htm LI Chang, YANG Dedong, SONG Pen, et al. Global-Aware siamese network for thermal infrared object tracking[J]. Acta Optica Sinica, 2021, 41(6): 0615002-1-0615002-11. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB202106019.htm
[7] MA C, HUANG J B, YANG X, et al. Hierarchical convolutional features for visual racking[C]//IEEE International Conference on Computer Vision, 2015: 3074-3082.
[8] LI X, MA C, WU B Y, et al. Target-aware deep tracking[C]//IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2019: 1369-1378.
[9] Bertinetto L, Valmadre J, Henriques J F, et al. Fully-convolutional siamese networks for object tracking[C]//European Conference on Computer Vision, 2016: 850-865.
[10] Selvaraju R, Cogswell M, Das A, et al. Grad-cam: visual explanations from deep networks via gradient based localization[C]//Proceedings of the IEEE International Conference on Computer Vision, 2017: 618-626.
[11] Nam H, Han B. Learning multi-domain convolutional neural networks for visual tracking[C]//IEEE Conference on Computer Vision and Pattern Recognition, 2016: 4293-4302.
[12] Danelljan M, Bhat G, Khan F S, et al. Atom: Accurate tracking by overlap max-imization[C]//IEEE Conference on Computer Vision and Pattern Recognition, 2019: 4660-4669.
[13] Felsberg M, Kristan M, others. The thermal infrared visual object tracking VOT-TIR2016 challenge results[C]//European Conference on Computer Vision Workshops, 2016: 824-849.
[14] LIU Q, HE Z, LI X, et al. PTB-TIR: A thermal infrared pedestrian tracking bench-mark[J]. IEEE Transactions on Multimedia, 2019, 22(3): 666-675.
[15] LIU Q, LI X, LI C L. LSOTB-TIR: A large-scale high-diversity thermal infrared object tracking benchmark[C/OL]//Proceedings of the 28th ACM International Conference on Multimedia, 2020, https://arxiv.org/abs/2008.00836.
-
期刊类型引用(1)
1. 翁岩松，杨洁. 基于深度学习的改进卫星检测方法. 航空电子技术. 2024(04): 1-8 . 
百度学术
其他类型引用(0)
计量
- 文章访问数:
- HTML全文浏览量:
- PDF下载量:
- 被引次数: 1
