0.   引言

图像融合将来自不同传感器的图像整合得到包含更多有效信息的融合图像，其中红外和可见光图像融合被广泛使用在监控、军事以及人脸识别等领域^[1]。红外图像由于依靠物体热辐射进行成像，可以在低光照、烟雾等恶劣情况下捕捉到目标，但分辨率通常较低，且成像会受环境温度等因素的影响。可见光图像在理想的情况下可以得到分辨率较高、细节丰富的高质量图像，但通常受到光照、天气、能见度等影响。利用红外和可见光间互补特性的图像融合，可以充分保留红外图像中显著的目标信息和可见光图像中的纹理细节等背景信息^[2]。

图像融合依据处理层次可以大致分为像素级、特征级以及决策级3类^[3]，目前主流图像融合算法研究集中在像素级。文献[4]中基于方法论将像素级图像融合算法分为基于多尺度分解、稀疏表示、深度学习、显著性以及混合类型5类。

基于多尺度和稀疏表示的图像融合方法，通常包含分解、融合和重构3部分，不同之处在于多尺度方法一般是解析的固定函数变换，而稀疏表示的方法通过训练得到字典来表达图像中的丰富信息。随着深度学习的发展，Liu Yu等人^[5]将卷积稀疏表示方法用于图像融合领域。Ma Jiayi等人将图像融合问题视为一种优化问题^[6]，通过博弈尽可能使得融合结果与红外图像相似，且保留可见光中的梯度信息，并系统总结^[7]深度学习方法在图像融合中的应用。

基于红外和可见光的差异，研究者提出了基于显著性分层的融合方法。D. P. Bavirisetti等人^[8]使用均值和中值滤波结果的差值，度量视觉显著性生成融合系数。Li Hui等人^[9]使用潜在低秩表示（latent low-rank representation，LatLRR）分解得到显著层和基层，更好地利用红外图像与可见光图像的互补特性。Zhang Xingchen等人^[3]提出一个可见光和红外图像融合数据集，并系统比较了20种开源融合方法的客观指标平均值，其中LatLRR方法在3个指标上达到最优，但显著层采用简单的求和融合，损失了部分对比度和细节信息。

本文针对红外和可见光融合图像目标区域对比度较小、细节保留不足的问题，提出一种基于LatLRR分解的红外可见光图像融合框架。源图像经过LatLRR和多尺度分解得到显著层、基层低频和基层高频，其中显著层包含能量相对集中的局部显著区域，基层低频主要包含能量较为分散的全局信息，基层高频主要包含轮廓、纹理等结构信息。根据分层特点设计对应的融合规则。针对显著层设计突出对比度信息的加权融合规则，以更好保留显著性信息；使用金字塔尺度分解得到基层低频部分，针对基层低频设计基于L1范数和稀疏系数的融合规则，保留源图像不同区域的互补信息；针对基层高频选取绝对值最大保留结构信息。

1.   相关理论

1.1   潜在低秩表示

LatLRR是Guangcan Liu等人^[10]在低秩表示（low-rank representation，LRR）基础上提出的。低秩表示^[11]是一种从观测矩阵中恢复原始矩阵的技术，其基本假设是原始数据满足低秩，将观测矩阵分解为一个低秩矩阵和噪声矩阵，该问题被描述为：

式中：λ为大于零的常数；$ {\Vert ·\Vert }_{l} $为特定的范数；D为原始矩阵；E为分离出来的噪声。

LRR无法提取局部结构信息，而LatLRR通过求解公式(2)的优化问题，可以从原始数据中提取全局结构和局部结构信息。不仅可以将噪声分离出来，还将显著性信息提取出来，作为一个单独的子空间，其问题描述如下：

式中：λ为大于零的常数；$ {\Vert ·\Vert }_{1} $为矩阵1范数；X为观察得到的矩阵；XZ为分离出来的基层；LX为提取出来的显著层，E为噪声。从图 1中可以看出，显著层包含局部显著区域，是红外和可见光图像融合中重点保留的信息，对融合结果中目标区域的对比度强弱有关键影响；基层由于显著性区域部分能量被分解到了显著层，图像整体亮度下降，主要包含目标整体以及背景细节。

图  1  LatLRR分解结果示例

Figure  1.  Example of LatLRR decomposition results

下载: 全尺寸图片 幻灯片

1.2   稀疏表示

稀疏表示基于所有信号都可以被一组原子线性组合近似的假设，原子组成的矩阵被称为字典，且仅利用少数原子可表示，即系数存在稀疏性。稀疏表示的优化式^[12]为：

式中：y为待表示信号；D为字典；x为系数向量；$ {\Vert ·\Vert }_{0} $为向量0范数；$ {\Vert ·\Vert }_{2}^{2} $为向量范数的平方；ε为稀疏表示误差。

稀疏表示仅适用于低维度向量，因此需要利用滑窗技术对图像进行分块，而融合中常用的“最大L1范数”易受高频噪声的影响，造成空间不一致性，因此稀疏表示方法更适用于处理低频分量^[13]。

1.3   多尺度变换

多尺度变换通过尺度分解得到不同分辨率、方向子带图像，并针对子带图像特点设计对应的融合规则。经典的方法包括^[14]金字塔变换、小波变换、多分辨率几何变换等。

其中比率金字塔通过相邻两层之间的比率实现尺度分解，能够突出对比度信息。分解和重建过程如公式(4)、(5)和(6)：

式中：RP_l为比例低通金字塔各层的图像；w(m, n)为有低通特性的窗口函数；G_N为高斯金字塔第N层图像；Expand()为放大算子；C_l、R_l为对应层长和宽。重建过程表示为：

2.   改进后的融合方法

本文提出的图像融合框架如图 2所示，首先利用LatLRR分解得到相应的显著层和基层，并将基层进一步分解为高频和低频部分。以红外图像源为例，分解后得到的各层示意图如图 3所示，其中显著层提取到能量较为集中的局部显著区域，表现为亮度和对比度突出的目标区域；基层低频包含图像的主要内容，表现为较平滑的全局信息，而基层高频部分则包含图像轮廓、边缘等细节信息。

图  2  提出的算法框架图

Figure  2.  The proposed algorithm framework

下载: 全尺寸图片 幻灯片

图  3  各层分解示例

Figure  3.  Example of each layer

下载: 全尺寸图片 幻灯片

2.1   基层融合

源图像经过LatLRR分解之后得到的红外和可见光基层分别表示为IR_base和VI_base，如图 4所示。进一步利用比率金字塔分解将图像基层分解为高频部分IR_base-high和VI_base-high以及低频部分IR_base-low和VI_base-low，较好地保留和增强图像对比度。

图  4  比率金字塔-稀疏表示融合算法示意

Figure  4.  Schematic diagram of ratio pyramid-sparse representation algorithm

下载: 全尺寸图片 幻灯片

2.1.1   基层低频融合

红外和可见光进行融合时，源图像的同一位置区域可能有不同的亮度和对比度。传统方法针对低频部分通常采用加权平均方式，但平均的融合规则对于不同模态的融合容易造成能量的损失。

稀疏表示的方法对低频部分具有良好的表达能力。本文利用稀疏表示对基层低频部分进行融合，并设计利用不同的融合规则加权融合保留不同的显著特征，具体步骤如下：

1）对红外和可见光源进行滑窗操作分别得到标准化后的向量$\hat v_\mathrm{IR}^i$和$\hat v_\mathrm{VI}^i$。求解公式(7)的优化问题得到稀疏系数。

式中：D是字典，α_IRⁱ和α_VIⁱ分别是$\hat v_\mathrm{IR}^i$和$\hat v_\mathrm{VI}^i$对应的稀疏系数。

2）稀疏系数的融合分别采用“最大L1范数”和“最大稀疏系数”融合规则。

①“最大L1范数”以稀疏向量的L1范数衡量特征的显著程度：

②“最大稀疏系数”以稀疏系数的绝对值大小反映了该特征的显著程度：

式中：$ \alpha_{\mathrm{IR}}^{i}=\left(x_{\mathrm{IR}}^{i 1}, x_{\mathrm{IR}}^{i 2}, x_{\mathrm{IR}}^{i 3}, \cdots, x_{\mathrm{IR}}^{i j}\right)^{\mathrm{T}}$；α_VIⁱ，α_F1ⁱ和α_F2ⁱ同理；$ |·| $为取绝对值。

③ 对不同融合规则得到两个对应的稀疏系数向量α_F1ⁱ和α_F2ⁱ进行加权平均，得到融合后的稀疏系数α_Fⁱ，即：

图 5示意了不同规则下基层图像的融合效果。从结果来看，两者在图像中的目标区域特征保留情况相近，但在背景细节纹理上具有互补性。其中“最大L1范数”取自同一个源图像的图像块，在该例中倾向于保留较亮的细节特征，但损失了一定的对比度。而“最大稀疏系数”将每个原子对应的特征作为一组，选择保留来自两个源图像中更显著的系数对应的原子特征，组合为新的图像块。经过加权融合之后的结果保证图像对比度的同时，保留了丰富的细节。

图  5  不同融合规则融合结果

Figure  5.  Base layer images of different methods

下载: 全尺寸图片 幻灯片

利用字典D得到融合向量v_Fⁱ＝Dα_Fⁱ并进行重建得到基层低频分量融合结果F_base-low。

2.1.2   基层高频融合

基层高频部分包含了图像中的边缘细节，对于比率金字塔分解之后得到的不同尺度高频子带，利用像素绝对值度量活跃程度，并使用绝对最大值的融合规则保留高频细节信息。

2.1.3   基层重建

将融合后的低频分量F_base-low和高频分量F_base-high根据公式(6)进行重建，得到融合后的基层图像F_base。

2.2   显著层融合

显著层包含了各个源图像中能量集中的显著区域，其融合规则会直接影响红外和可见光融合的效果。Li Hui等人^[9]指出显著层信息需要没有损失地保留在融合结果中，并利用逐像素加和方式融合，总权重为2。

本文设计基于滑窗的局部方差度量显著性，权重和为2以突出图像源中的局部显著性，具体公式如下：

式中：$\omega_{\mathrm{IR}}=\frac{\operatorname{Var}_{\mathrm{IR}}^{i}}{\operatorname{Var}_{\mathrm{IR}}^{i}+\operatorname{Var}_{\mathrm{VI}}^{i}}$决定显著层加权融合的权重；var_IRⁱ和var_VIⁱ分别为滑窗内图像块的方差。方差度量图像局部区域中的对比度以及信息丰富程度。在红外和可见光显著性重叠区域，加权平均方式合理保留多个源的显著信息；而在显著性非重叠区域，基于滑窗方法最大限度保留源的局部显著性。

3.   实验结果与分析

3.1   实验设定

实验数据主要源自TNO数据集^[15]，包含不同应用场景的10对红外可见光图像对，如图 6所示。第一、三行是红外图像，第二、四行是对应的可见光图像。

图  6  使用的10对源图像

Figure  6.  Ten pairs of source images

下载: 全尺寸图片 幻灯片

本文选择了8种经典的图像融合算法，分别为ADF（anisotropic diffusion fusion）^[16]、CSR（convolutional sparse representation）^[5]、TE-MST（target-enhanced multiscale transform decomposition）^[17]、FPDE（fourth order partial differential equations）^[18]、GF（gradientlet filter）^[19]、TIF（two-scale image fusion）^[20]、LatLRR（latent low-rank representation）^[9]以及MSVD（multi-resolution singular value decomposition）^[21]对数据集中的图像进行图像融合，与提出的方法进行定性和定量比较分析。

实验在AMD Ryzen 5 4600H 3.00 GHz，16 GB RAM的计算机上运行，其中金字塔分解层数为5。

3.2   融合结果及分析

图 7为源图像“soldier behind smoke”的各个方法融合结果。红外源图像中包含主要目标以及丰富的背景信息，可见光图像中主要是烟雾。从对比结果中可以看出，ADF，FPDE，GF，MSVD得到的士兵部分边缘细节十分模糊；CSR得到的融合结果目标区域对比度不强；TE-MST完整保留了红外图像中的士兵，但是背景细节和目标区域对比度损失较多；TIF和LatLRR目标区域对比度较强，但背景信息损失较大；本文提出的方法较好地保留了背景细节以及士兵区域的完整信息，且对比度较强。

图  7  9种方法在‘soldier behind smoke’上的结果

Figure  7.  Results of the nine methods on 'soldier behind smoke'

下载: 全尺寸图片 幻灯片

图 8和图 9分别为图像“street”和“boat”的融合对比结果。图像“street”，本文方法的融合结果在行人处整体亮度较亮，对比度显著，而在商店周围，则保留了丰富的细节如灯牌上的文字等。对于图像“boat”，ADF、CSR、FPDE、TIF、LatLRR、MSVD和GF等融合结果对比度普遍较低，TE-MST和本文方法得到结果中船与背景对比度较强，同时没有因为显著部分过亮导致船上细节信息的损失，保留了丰富的背景纹理信息。

图  8  9种方法在“street”上的结果

Figure  8.  Results of the nine methods on 'street'

下载: 全尺寸图片 幻灯片

图  9  9种方法在“boat”上的结果

Figure  9.  Results of the nine methods on 'boat'

下载: 全尺寸图片 幻灯片

本文采用EN（entropy）、AG（avgerage gradient）、CE（cross entropy）、SF（spatial frequency）、SD（standard deviation）和EI（edge intensity）6种客观评价指标定量评估各种方法的融合质量^[22]。EN度量图像中的信息量；AG表示图像的平均梯度，用于描述图像中细节和纹理的丰富程度；CE为结果与源图像的交叉熵，衡量的是融合之后的图像与源图像的相似程度，CE越小图像间的差异越小；SF描述的是图像在空间上的活跃程度；SD反映图像的对比度；EI度量图像中细节信息多少的客观指标。

表 1为图像“soldier behind smoke”、“street”和“boat”9种方法融合结果的客观指标评价结果，表中加粗数值表示该指标下的最优值。图像“soldier behind smoke”客观评价指标中TE-MST和本文方法分别有3个指标最优，与定性分析的结论基本一致。图像“street”所提算法的大部分指标均排名靠前。

表  1  9种方法在‘soldier behind smoke’、‘street’和‘boat’上的客观指标

Table  1.  Objective evaluation indexes of nine methods on'soldier behind smoke', 'street' and'boat'

Source image		Methods
		ADF	CSR	TE-MST	FPDE	GF	LatLRR	MSVD	TIF	OURS
Soldier behind smoke	EN	6.892	6.925	6.563	6.899	7.166	6.924	6.894	7.053	7.297
	AG	3.604	3.580	4.500	3.567	3.369	2.674	2.871	3.863	3.232
	CE	3.766	3.014	2.349	3.109	2.982	2.870	3.173	2.485	1.544
	SF	10.606	11.225	11.930	10.161	9.767	7.755	9.693	11.360	8.558
	SD	33.280	34.120	28.180	33.346	39.749	33.797	33.101	36.420	41.472
	EI	33.163	34.478	43.443	32.901	32.719	26.200	25.596	38.837	33.934
Street	EN	6.040	6.013	6.776	6.067	6.133	6.030	5.935	6.414	6.852
	AG	2.682	2.525	3.597	4.105	2.714	2.413	2.176	3.298	5.551
	CE	3.278	3.255	2.994	3.111	3.447	1.076	3.494	2.222	4.863
	SF	9.790	11.064	12.593	12.484	10.445	9.184	9.964	11.612	18.467
	SD	21.981	23.207	35.386	22.172	31.453	27.485	21.149	30.346	42.875
	EI	27.827	26.632	38.053	41.107	28.833	25.682	22.388	35.128	56.952
Boat	EN	5.005	4.965	6.436	4.984	5.362	5.076	4.892	5.226	6.373
	AG	1.728	1.456	2.169	1.681	1.530	1.406	1.215	1.969	2.348
	CE	3.999	3.955	1.396	3.367	4.186	1.571	3.573	3.540	1.780
	SF	6.041	5.764	7.233	5.176	5.429	4.756	3.897	6.303	8.537
	SD	11.082	11.250	33.517	10.800	15.426	12.892	10.456	13.169	27.118
	EI	17.479	15.085	22.265	17.052	15.792	14.562	12.183	20.446	23.994

下载: 导出CSV 

| 显示表格

不同客观评价指标在不同源图像上的评价排名上有差异，为了对比TNO中10对图像源的融合效果，表 2统计了不同图像对的客观指标平均值。从统计结果来看，提出的融合算法能够保留丰富的图像细节，表现为EN、AG、SF和EI等反映图像特征丰富程度的客观指标排名靠前，在反映融合结果与源图像的相似程度的CE指标上排名次优，在反映图像对比度的SD指标上表现很好，综上分析达到了保留细节的同时增强图像对比度的效果。

表  2  9种方法在10对源图像上的客观指标平均值

Table  2.  Average values of objective evaluation indexes of nine methods on ten pairs of source images

Average	Methods
	ADF	CSR	TE-MST	FPDE	GF	LatLRR	MSVD	TIF	Ours
EN	6.083	6.068	6.724	6.078	6.310	6.198	6.019	6.340	6.862
AG	2.743	2.388	3.464	2.840	2.336	2.233	2.074	3.001	3.529
CE	2.306	2.266	1.558	1.911	2.218	1.354	1.998	1.847	1.393
SF	7.283	7.011	9.218	7.272	6.725	6.158	6.602	8.144	9.768
SD	21.866	22.238	32.147	21.771	30.854	24.791	21.416	26.060	35.556
EI	26.600	23.911	34.097	27.485	23.694	22.300	19.541	30.484	34.776

下载: 导出CSV 

| 显示表格

表 3对比不同算法对不同分辨率源图像进行融合的运行时间，以及它们的均值。其中CSR、LatLRR方法和本文提出的方法由于需要对大量图像块进行稀疏或低秩分解，算法复杂度非常高，运行时间较长。从统计结果来看，以60 fps为标准，除了TE-MST、TIF方法外，大部分融合算法在未加速的情况下，均无法达到实时处理，如何在保证融合效果的同时，提升图像融合算法的计算效率，是影响融合算法未来应用的重要因素。

表  3  9种方法在3种不同分辨率源图像上的运行时间以及平均值

Table  3.  The running time and average value of nine methods on three different resolution source images (seconds per image pair) s

Source image	Resolution	Methods
		ADF	CSR	TE-MST	FPDE	GF	LatRR	MSVD	TIF	Ours
Boat street	505×510	0.421	52.381	0.006	0.952	0.101	97.959	0.295	0.031	99.247
Soldier	632×496	0.486	68.214	0.012	1.119	0.232	126.849	0.374	0.028	127.150
Behind smoke	768×576	0.699	79.660	0.015	1.682	0.146	215.724	0.490	0.088	217.110
Average	-	0.535	66.752	0.011	1.251	0.160	146.844	0.386	0.049	147.836

下载: 导出CSV 

| 显示表格

4.   结论

红外和可见光图像融合应用中，红外图像通常包含对比度较强的目标信息，而可见光图像包含背景中较丰富的纹理和细节信息。基于多尺度、稀疏、深度学习等融合算法通常采用尺度变换、固定字典或深度特征来表示源图像中的有效信息。本文利用低秩和多尺度分解得到基层低频、基层高频、显著层，分别表达图像中的全局信息、结构和局部显著性。针对各层的特点设计不同的融合规则，其中对比度较低的基层分别采用稀疏表示和比率金字塔处理低频和高频部分；能量相对集中的显著层，设计方差最大融合规则增强局部显著性。在TNO数据集的定性和定量实验分析表明，本文算法保留了较多的图像细节并增强目标区域的对比度。由于基于低秩分解的方法算法复杂度较高，无法达到实时处理的要求，研发快速融合方法满足应用需求将是未来红外和可见光图像融合的重点。