Infrared Image Fusion Enhancement Algorithm Based on Improved Wavelet Threshold Function and Full-Scale Retinex
-
摘要: 针对现有红外图像增强算法存在信噪比低、细节模糊、清晰度差等问题,本文提出基于改进小波阈值函数和全尺度Retinex的红外图像融合增强算法。首先,为克服尺度参数固定和光线散射导致红外图像退化的问题,利用大气透射率得到Retinex尺度参数的全尺度映射图,从而有效提高图像的清晰度,并将输入图像和使用全尺度Retinex处理后的输入图像作为算法的第一个输入和第二个输入。其次,为解决传统小波阈值函数在图像降噪过程中存在伪影、细节丢失等问题,设计改进小波阈值函数,通过引入尺度因子,在计算每层高频子图小波系数后,能根据该层数自适应调整尺度因子,并引入调节因子,结合指数函数,使该函数不仅能抑制高频子图噪声,还能极大程度保留细节信息。然后,使用小波图像融合的方式融合输入的高频子图和低频子图,进一步提高输出图像的纹理细节。主客观仿真结果表明,所提算法比其它对比算法具有更好的降噪和细节突出能力,并能提高红外图像的人眼视觉效果。最后,本文算法应用于红外成像模块采集的红外图像增强,效果良好,表明本文方法具有实用性。
-
关键词:
- 改进小波阈值函数 /
- 全尺度Retinex /
- 红外图像增强 /
- 图像融合
Abstract: This paper proposes an infrared image fusion enhancement algorithm based on an improved wavelet threshold function and full-scale Retinex to address the problems of low signal-to-noise ratio, fuzzy detail, and poor clarity in existing infrared image enhancement algorithms. First, to overcome the degradation of infrared images caused by fixed-scale parameters and light scattering, a full-scale map of Retinex-scale parameters was obtained using atmospheric transmittance to improve image clarity. The input image and processed image with full-scale Retinex were used as the first and second inputs of the algorithm, respectively. Second, an improved wavelet threshold function was designed to solve the problems of artifacts and detail loss in the image-denoising process of the traditional wavelet threshold function. The threshold function introduces a scaling factor that can be adjusted adaptively according to the number of layers after calculating the wavelet coefficient of the high-frequency subgraph of each layer. An adjustment factor was introduced and combined with an exponential function to suppress the high-frequency subgraph noise and preserve detailed information. The high- and low-frequency subgraphs of the above two inputs were then fused using wavelet image fusion to improve the texture details of the output images. The simulation results demonstrate that the proposed algorithm outperforms other comparison algorithms regarding noise reduction and detail highlighting capabilities, enhancing the visual quality of infrared images for the human eye. Finally, this algorithm was applied to enhance infrared images collected by an infrared imaging module, and the experimental results showed that the proposed method is practical. -
0. 引言
地球上海洋面积广阔且具有丰富的资源,如今随着经济的发展,每个国家对资源的需求不断增长,然而相比海洋资源,陆地上的资源随着人类大量开采而不断减少,因此,扩大对海洋资源的开发利用是未来人类发展的方向。不同于陆地环境,海洋环境存在着许多复杂的问题,在海洋环境下成像问题是最基础的问题同时也是最大的问题,这直接影响着是否能够探索到海洋资源。通常直接获取的水下图像会出现严重的噪声干扰、颜色衰退、图像信息的丢失等问题,这直接造成无法提取到有用的信息,无法进行后续工作的开展,因此进行水下图像增强具有重要的意义。
水下图像增强一直是当前很多专家学者研究的方向。2018年,Mishra等[1]对CLAHE进行了改进并应用于水下图像增强,这种方法在很大程度上将水下图像的对比度得到提高,但是经过这种方法处理过的水下图像会出现部分细节模糊的现象。2019年,Sun等人[2]提出了一种暗通道先验结合MSRCR水下图像增强算法,该算法有效地解决了低照度水下图像颜色衰退的问题,但是增强后的图像会出现雾化的问题。2020年,Wang等人[3]提出了一种低照度多尺度Retinex水下图像增强算法。该方法可以有效避免图像在输出时产生光影,并且可以解决水下图像不清晰、对比度较差等问题。但是,实验结果表明水下图像在图像颜色衰退部分还是有待改进。同年,Dhanya等人[4]提出L-CLAHE增强滤波图像算法,该算法由L-CLAHE、增强和滤波三个模块组成。L-CLAHE模块的输出经过Gamma校正、直方图均衡化和双边滤波等强化和滤波阶段处理,结果表明,输出图像对比度得到改善,但是图像局部边缘细节视觉效果差。2021年,朱佳琦等人[5]提出一种红通道先验与CLAHE融合的水下增强算法,该算法首先利用红通道先验理论计算出预估透射率,然后在CLAHE算法增强图像前加入Gamma校正,实验结果表明,图像整体对比度得到改善,但是图像局部对比度差距较小时增强效果较差。范新南等人[6]提出一种MSRCR与多尺度融合的水下图像增强算法,该算法首先将图像进行色偏校正并转换到Lab颜色空间对亮度分量进行增强,然后对MSRCR色彩校正图像和Lab空间亮度分量进行多尺度分解并融合,增强后的水下图像色彩丰富,但是图像对比度没有得到有效改善。张薇等人[7]提出基于白平衡和相对全变分的低照度水下图像增强,算法采用灰度世界先验校正水下图像颜色,依据引导滤波的保边平滑性构造新的相对全变分约束来估计照度图,水下图像的颜色得到了校正,但是图像雾化严重对比度低,同时部分水下图像颜色容易校正过度。
针对图像颜色衰退和图像结构复杂会导致局部区域过度增强色彩不真实和对比度低边缘细节模糊的问题,本文针对水下图像颜色衰退的问题提出用融合导向滤波的MSRCR算法,针对水下图像对比度低的问题提出融合Gamma校正的CLAHE算法,同时针对水下图像边缘细节模糊采用多尺度融合来增强图像中的边缘细节信息。最后通过对比实验,以验证本文所提出方法的有效性。
1. 算法原理
1.1 改进的MSRCR
多尺度Retinex(MSR)[8]在水下图像增强中通常会出现图像颜色衰退严重,噪声没有得到抑制,引起增强后的图像整体视觉效果不佳。Jobson等[9]提出的带色彩恢复因子的MSR算法(MSRCR)可以有效地解决图像颜色失真的问题,MSRCR的计算公式如下:
$$ {R_{{\text{MSRCR}}}}(x, y) = {C_i}(x, y)\sum\limits_{n = 1}^N {{\omega _n}} \{ \ln I(x, y) - \ln [I(x, y)*{G_n}(x, y)]\} $$ (1) 式中:I(x, y)为输入图像;Ci(x, y)表示图像第i个通道的颜色恢复参数,用来调节不同颜色通道之间的比例关系;N表示尺度数目,通常为3;ωn为第n个尺度的加权系数;Gn(x, y)为高斯滤波函数。
高斯滤波通常易产生图像被过度光滑,导致图像缺乏边缘细节。针对此问题,本文在MSRCR中采用导向滤波[10]代替高斯低通滤波,以有效解决水下图像颜色失真的问题和MSRCR算法增强水下图像时易造成边缘细节丢失的问题。
导向滤波的基本原理为对于输出图像和导向图在滤波窗口存在局部线性关系,其公式如下:
$$ \begin{gathered} {q_i} = {p_i} - {n_i} \hfill \\ {q_i} = {a_k}{I_i} + {b_k}, \forall i \in {\omega _k} \hfill \\ \end{gathered} $$ (2) 式中:pi为输入图像;Ii为导向图;qi为输出图像;ni为噪声;ak, bk为局部线性函数系数;ωk为滤波窗口。
对于在确定的窗口ωk中,ak, bk将会是唯一的常量系数,这就保证了在局部区域里,如果导向图Ii有一个边缘的时候,输出图像qi也保持边缘不变。因此只要求得了系数ak, bk也就得到了输出图像qi。为使得输入图像和输出图像的差别特别小,而且还可以保持局部线性模型,利用带正则项的岭回归计算滤波窗口内的损失函数E(ak, bk),计算过程如下:
$$ E({a_k}, {b_k}) = \sum\limits_{i \in {\omega _k}}^{} {({{({a_k}{I_i} + {b_k} - {p_i})}^2} + \varepsilon {a_k}^2)} $$ (3) $$ \begin{gathered} {a_k} = \frac{{\frac{1}{{|\omega |}}\sum\limits_{i \in {\omega _k}}^{} {{I_i}{p_i} - {\mu _k}{{\overline p }_k}} }}{{{\sigma _k}^2 + \varepsilon }}, \quad {b_k} = {\overline p _k} - {a_k}{\mu _k} \hfill \\ {q_i} = \frac{1}{{|\omega |}}\sum\limits_{k|i \in {\omega _k}}^{} {({a_k}{I_i} + {b_k})} \hfill \\ \end{gathered} $$ (4) 式中:μk, σk2分别是导向图在ωk窗口大小的均值与方差;ε为正则化参数;|ω|表示窗口内像素总数$\overline {{p_k}} = \frac{1}{{|\omega |}}\sum\limits_{i \in {\omega _k}}^{} {{p_i}} $表示在ωk窗口内输入图像的像素均值。
使用线性相关参数(ak, bk),滤波输出图像就可以通过qi=akIi+bk线性模型得到。针对不同的窗口大小我们就会得到不同的导向滤波输出图像qi值。
本文在MSRCR算法中用导向滤波函数代替高斯低通滤波函数,具体计算如下:
$$ {R^*}_{{\text{MSRCR}}}(x, y) = {C_i}(x, y)\sum\limits_{n = 1}^N {{\omega _n}} \{ \ln I(x, y) - \ln [I(x, y)*D(x, y)]\} $$ (5) 式中:RMSRCR*(x, y)表示改进的MSRCR算法输出图像;D(x, y)为导向滤波函数。
图 1(a)为水下拍摄的原图,图像整体呈现出颜色失真的状态;图 1(b)为经过MSR处理后的图像,图像对比度有所提高,但是颜色矫正不佳,出现了色偏;图 1(c)为经过MSRCR处理后的图像,图像对比度明显提高,但是图像局部细节较为模糊;图 1(d)为改进的MSRCR处理后的图像相较于图 1(c)图像边缘细节清晰。
图 2(a)为经过MSRCR处理后选取局部区域放大后的图像,图 2(b)为经过改进MSRCR处理后选取局部区域放大后的图像。对比可得,图 2(b)的边缘细节更加清晰,改进后的MSRCR算法解决了MSRCR算法增强图像带来的部分边缘细节模糊的问题。
1.2 改进的CLAHE
常用的对比度增强算法[11-13]有HE(Histogram Equalization)、AHE(Adaptive Histogram Equalization)、CLAHE。HE算法主要是用来对图像的整体对比度进行增强,适用于图像的背景和前景接近的情况下。但是该方法在对较暗的区域均衡处理后由于亮度被拉得太高而出现噪点,并最终弱化了图像细节。AHE算法是在HE算法的基础上,将图像划分为几块分别处理,这样有利于处理图像数据的局部细节。但是该算法的复杂度较高,降低了图像的处理效率,同时图像块与块之间的过渡处理欠佳。CLAHE算法是在AHE算法的基础上进行改进,通过加入阈值对图像噪声进行抑制,同时通过使用线性插值的方法对图像区域块连接处进行优化,使图像整体变得平滑。但是CLAHE算法只提高了图像的对比度,然而并没有对图像的边缘细节信息进行增强。
综上,本文在CLAHE算法中引入Gamma校正[14],在图像经过CLAHE处理前、后都加入Gamma校正,以增强图像整体对比度同时提高图像局部对比度,尤其对于相邻区域之间相差较小时增强效果明显。具体步骤如下所示:
1)对图像进行Gamma校正并将图像分割成连续,非重叠的M×N的区域块,每个区域块含有的像素为n,区域块的大小与图像对比度的增强有着紧密的联系,区域块越大图像对比度增强越大,但是图像细节信息丢失的越多。
2)获取每个区域块的直方图,根据每个区域块的直方图分布规律计算裁剪幅值T。
$$ T = {C_{{\text{clip}}}} \times \frac{{{N_x} \times {N_y}}}{H} $$ (6) 式中:Cclip是裁剪系数;Nx, Ny为在每个子块x, y方向上的像素个数;H为灰度级数。
3)计算出图像区域块的分布直方图并设置阈值,将高于阈值的直方图部分进行切除,同时将该部分平均分布在直方图的下方,如图 3所示。
4)在重新分配后的直方图上,对每个区域块进行直方图均衡化,同时对区域块的位置进行像素重构。
5)对图像进行Gamma校正。如式(7)所示,当γ<1时,如果图像区域块输入灰度值低,那么图像区域块输出灰度值变化将变大,图像对比度将会增强;如果图像区域块输入灰度值高,那么图像区域块输出灰度值变化将变小,图像对比度将会降低。当γ>1时,如果图像区域块输入灰度值低,那么图像区域块输出灰度值变化将变小,图像对比度将会降低;如果图像区域块输入灰度值高,那么图像区域块输出灰度值变化将变大,图像对比度将会增强。
$$ s = c{\left( {r + \varepsilon } \right)^\gamma } $$ (7) 式中:c和ε为常量;γ为Gamma校正参数,该参数决定校正效果;r为输入灰度级;s为输出灰度级。
图 4是对图 1(d)所示的水下图像运用不同对比度增强算法得到结果。
由图 4可以看出,图 4(a)是HE算法处理后的图像,易看出图像对比度增强过度,许多不重要的背景噪声同时也被增强,图像部分细节没有得到增强反而变得模糊不清;图 4(b)是AHE算法处理后的图像,易看出图像块与块之间没有做过渡处理并且出现图像背景噪声被过度增强;图 4(c)是CLAHE算法处理后的图像,易看出图像整体对比度得到了改善,背景噪声没有出现增强过度,但是图像局部对比度增强不足,部分细节不清晰;图 4(d)是改进的CLAHE算法处理后的图像,该算法有效地增强了图像整体对比度的同时也增强了图像局部对比度。
1.3 图像多尺度融合
图像融合通常的做法就是对不同图像赋予不同的值,然后通过叠加得到最终的结果图,但是这种做法往往会出现图像细节不清晰,图像出现重影晕环。为了解决这个问题,本文采用多尺度图像金字塔来融合图像,多尺度图像融合指的是图像在不同尺度下进行融合,通常情况下在单一尺度很难获取图像特征然而在另外一种尺度下就很容易获取,为了极大可能地保留图像结构特征,采用多尺度图像融合是一种较好的方式之一。
1.3.1 图像权重的计算
单一的图像权重[15]不能完整地反映图像各个基本特征。因此,要想完整地反映图像各个基本特征需要融合多个图像权重,本文选取了拉普拉斯对比度权重、亮度权重、饱和度权重、显著性权重。
拉普拉斯对比度权重可以清楚地显示出图像的边缘特征信息,通过使用拉普拉斯滤波器可以得到图像的全局对比度,这样可以保证图像的边缘和纹理具有较高的值。亮度权重负责为具有良好可见性的像素分配高值,该权重图是通过观察输入的R、G、B三通道与亮度通道L(给定位置的像素强度的平均值)之间的偏差来计算;显著性权重为了突出显示水下图像具有更高显著性的区域,可以通过输入的平均值减去其高斯平滑后得到结果。饱和度权重用于调整图像中的饱和区域,以获得饱和度均匀的融合图像。归一化权重是对上述权重进行归一化处理。
图 5分别是颜色校正图像,颜色校正图像的拉普拉斯对比度、亮度、饱和度、显著性权重图以及归一化权重图。图 6分别是对比度增强图像,对比度增强图像的拉普拉斯对比度、亮度、饱和度、显著性权重图以及归一化权重图。
1.3.2 多尺度图像金字塔融合
图像金字塔技术是以不同角度展示图像细节的一种方式,高斯图像金字塔和拉普拉斯图像金字塔是最常见的图像金字塔技术,通常会结合这两种技术综合使用。对颜色校正图像和对比度增强图像的归一化权重图进行高斯金字塔分解,得到不同尺度的权重图;对颜色校正图像和对比度增强图像采用拉普拉斯金字塔分解,得到不同尺度的图像,最后将不同尺度的图像进行重建,得到最终的增强图。
高斯图像金字塔可以保持图像的结构纹理信息,首先会对图像进行高斯滤波并且进行连续下采样,从而得到多种分辨率的图像。
$$ \begin{gathered} {G_l}(i, j) = \sum\limits_{m = - 2}^2 {\sum\limits_{n = - 2}^2 {\omega (m, n){G_{l - 1}}(2i + m, 2j + n)} } \hfill \\ (1 \leqslant L \leqslant N, 1 \leqslant i \leqslant {R_L}, 1 \leqslant j \leqslant {C_L}) \hfill \\ \end{gathered} $$ (8) 式中:N表示图像金字塔不同的层数;RL, CL表示第L层输入图像的行和列;ω(m, n)表示高斯核函数。
拉普拉斯金字塔是用来重新构造出一幅图像,通过高斯金字塔得到的不同分辨率的图像,然后将每一层与上一层进行作差,同时进行上采样并且做高斯卷积,最终会得到不同的差值图像,通常称这些差值图像为拉普拉斯图像金字塔。
$$ {L_l} = {K_l} - {\text{Up}}({\text{Down}}({K_l})) $$ (9) 式中:Kl为原始输入图像;Ll为拉普拉斯金字塔分解图像;Up, Down分别为向上采样,向下采样。
多尺度金字塔融合计算公式为:
$$ \begin{gathered} {F_l}(x) = \sum\limits_k^{} {{G_l}[{{\overline W }_k}(x)]{L_l}[{I_k}(x)]} \hfill \\ F(x) = \sum\limits_l {{F_l}(x){ \uparrow ^d}} \hfill \\ \end{gathered} $$ (10) 式中:l为金字塔的不同层数;k为输入图像金字塔的索引;Gl为高斯金字塔的分解;L为拉普拉斯金字塔的分解;${\bar W_k}$表示权重值归一化;Ik表示输入图像;Fl(x)为多尺度融合图像;F(x)为最后的融合结果;↑d表示该过程采用上采样方式。
2. 算法流程
本文针对水下图像颜色衰退严重、对比度低及细节特征模糊等问题,提出一种改进的MSRCR与CLAHE多尺度融合的图像增强算法。图 7为多尺度图像融合的原理图及最终效果图,其中图 7(a)为水下图像经过颜色校正和对比度校正后的高斯金字塔图像和拉普拉斯图像,图 7(b)为水下图像经过颜色校正和对比度校正多尺度融合后的图像。为图 8为本文算法流程图,该算法首先将采集到的水下图像运用带导向滤波的MSRCR算法进行颜色校正;同时将颜色校正后的图像运用带有Gamma校正的CLAHE算法增强图像对比度;最后对经过颜色校正和对比度增强的水下图像进行多尺度图像融合得到最终水下增强图像。
3. 实验结果与分析
实验的硬件系统为CPU i7-10875H,16GB DDR4;软件仿真环境是Matlab2016a,Win10操作系统。为了求证本文算法的可行性,将本文算法和文献[3]、文献[7]、文献[13]、文献[16]的算法进行对比,同时从主观和客观方面进行对比分析。
3.1 主观评价
本文实验选择10种不同水下环境下的图像进行对比仿真实验,处理结果如图 9所示。
从图 9中可以看出,文献[3]算法整体上对图像细节清晰度和对比度有一定的提升,但是没有解决水下图像颜色衰退的问题;文献[7]算法增强后的水下图像颜色校正明显,但是对于偏蓝色的水下场景并没有很好的校正,并且图像对比度低,图像细节模糊;文献[13]算法基本解决了水下图像颜色衰退的问题,图像细节和对比度同时也得到了提升,但是对于偏蓝色的水下场景颜色校正效果差(如Picture 10);文献[16]算法整体上图像对比度提升明显,图像细节较为清晰,但是颜色校正效果稍显不足(如Picture 2,Picture 4,Picture 8);本文算法整体上解决了不同水下环境的颜色衰退问题,对比度大幅度的提高,图像局部细节清晰明显,符合自然光照下的图像。
3.2 客观评价
本文采用3种性能指标来评估水下图像质量,即PSNR、SSIM和UIQE[17-18]。PSNR是基于对应像素点间的误差计算,主要计算最大值信号与背景噪声之间的比值,其数值越大则表示失真越小,其计算公式为:
$$ {\text{MSE}} = \frac{1}{{H*W}}\sum\limits_{i = 1}^H {\sum\limits_{j = 1}^W {(X(i, j)} - Y(i, j){)^2}} $$ $$ {\text{PSNR}} = 10\lg (\frac{{{{({2^n} - 1)}^2}}}{{{\text{MSE}}}}) $$ (11) 式中:MSE表示图像的均方误差;H、W表示图像的宽,高;n表示图像像素的比特数。
SSIM是衡量两幅图像相似度的指标,其计算公式为:
$$ {\text{SSIM}} = \frac{{(2{x_1}{x_2} + {C_1})(2{y_{1, 2}} + {C_2})}}{{({x_1}^2 + {x_2}^2 + {C_1})({y_1}^2 + {y_2}^2 + {C_2})}} $$ (12) 式中:x1、y1表示输入图像的均值,标准差;y1、y2表示增强后图像的均值,标准差;y1, 2表示输入图像和增强后图像的协方差;C1、C2为常数。SSIM数值越大表示输入原图的结构损失越小。
UIQE是专门用来评价水下图像质量的指标,通常对评价颜色保真度、对比度、清晰度3个分量根据水下环境微调不同的权重参数,3个权重参数的确定需要通过多元的线性回归计算,最后线性相加不同的分量得出最终指标。
$$ {\text{UIQE}} = {c_1}*\alpha + {c_2}*\beta + {c_3}*\chi $$ (13) 式中:c1、c2、c3是不同分量的权重;α表示颜色保真度的测量指标;β表示对比度测量指标;χ表示清晰度的测量指标。
表 1 不同算法PSNR性能比较Table 1. PSNR performance comparison of different algorithmsPNSR Original Reference[3] Reference[7] Reference[13] Reference[16] Ours Picture 1 - 13.8014 14.2261 16.3929 21.0436 24.2896 Picture 2 - 6.2876 6.7461 6.2519 14.0142 18.9873 Picture 3 - 15.9585 12.5442 13.0328 20.9045 22.3212 Picture 4 - 7.3254 7.9521 8.1265 13.2158 19.9914 Picture 5 - 12.9871 14.8561 15.8516 17.3258 20.5563 Picture 6 - 15.6243 15.9985 16.2546 18.2319 24.7963 Picture 7 - 11.8274 13.2873 14.7931 19.2291 19.9639 Picture 8 - 10.2034 11.2544 15.2698 16.3245 19.3312 Picture 9 - 14.5758 15.9152 18.3223 20.5513 24.3698 Picture10 - 11.4522 12.3756 13.4851 16.6334 19.3497 表 2 不同算法SSIM性能比较Table 2. Performance comparison of different SSIM algorithmsSSIM Original Reference[3] Reference[7] Reference[13] Reference[16] Ours Picture 1 - 0.5609+ 0.5943 0.8321 0.8384 0.9611 Picture 2 - 0.5223 0.5081 0.6869 0.8612 0.8874 Picture 3 - 0.6186 0.7926 0.8031 0.8299 0.9212 Picture 4 - 0.5743 0.5178 0.8163 0.8752 0.9649 Picture 5 - 0.7121 0.7963 0.8263 0.8998 0.9088 Picture 6 - 0.6933 0.7432 0.7966 0.8364 0.8997 Picture 7 - 0.6074 0.5927 0.6988 0.7411 0.8796 Picture 8 - 0.5871 0.5988 0.6355 0.7843 0.8894 Picture 9 - 0.6121 0.6028 0.7123 0.7652 0.9126 Picture 10 - 0.5386 0.6103 0.7521 0.8419 0.8696 表 3 不同算法UIQE性能比较Table 3. UIQE performance comparison of different algorithmsUIQE Original Reference[3] Reference[7] Reference[13] Reference[16] Ours Picture 1 2.6449 4.9242 4.6436 5.0271 3.6167 5.2238 Picture 2 1.7252 4.0814 0.2696 3.9252 2.1831 4.9121 Picture 3 1.9542 3.0251 1.3447 3.5738 2.2406 4.4633 Picture 4 1.5241 4.5296 1.0328 4.2153 3.6574 5.9685 Picture 5 1.7551 3.1221 3.0217 3.9746 4.9962 6.2312 Picture 6 1.9978 2.2173 2.1179 4.5023 4.8785 6.0178 Picture 7 1.2212 1.3258 2.3647 4.2589 4.5565 6.9872 Picture 8 2.0121 2.2365 3.4562 4.2199 4.8456 5.5463 Picture 9 2.7853 2.8742 3.9893 4.5631 4.7987 6.2971 Picture 10 0.6721 2.9255 3.2372 3.4801 1.5899 3.6943 从表 1中可以看出本文算法的PSNR基本上高于其他文献算法的值,除了Picture 3的PSNR数值略低于CLAHE算法,然而PSNR的数值并不能完全代表图像的质量,所以要结合图像的主观比较结果,从图中可以清晰看出Picture 3的颜色校正过度,红色分量过多出现颜色偏差,因此结合主观视觉来看,PSNR指标还是最好的。从表 2中可以看出,本文算法的SSIM数值和其他算法相比是最优的,说明本文算法保留了更多的图像的原始信息。从表 3中,本文算法的UIQE数值远远大于其他算法数值,其中,UIQE的权重系数c1=0.0351,c2=0.3128,c3=3.5792,UIQE数值越大表明图像的颜色保真度、清晰度、对比度越佳。
主观上,从图 8中不同图像增强后的结果可以看出,本文算法可以有效地解决不同环境下的水下图像共同存在的问题,呈现出优良的视觉效果;客观上,从表 1~3中可以看出本文算法的不同指标数值几乎是最优的。因此,本文算法可以从不同方向有效的增强水下图像。
4. 结束语
本文研究了水下图像增强几种具有代表性的算法。针对水下图像存在图像颜色衰退严重,对比度低,细节特征模糊等问题,提出了一种具有导向滤波的MSRCR算法,该算法解决了水下图像颜色衰退的问题同时又保留了图像边缘细节;提出了一种具有Gamma校正的CLAHE算法,该算法有效地增强了水下图像整体对比度的同时也增强了图像局部对比度;最后结合多尺度图像融合,将两种算法增强后的图像逐层提取融合,保留了大量的图像特征信息,最终增强后的水下图像有效地解决了图像颜色衰退严重,对比度低,细节特征模糊的问题。对比实验结果显示,本文算法在主客观方面优于其他几种经典的水下图像增强算法。
-
表 1 场景1、2、3、4的客观评价指标结果
Table 1 Results of objective evaluation indicators in scenarios 1, 2, 3 and 4
Image Evaluation indicators f BF & DRP GIF MSR DCP Document[18] Document[19] Proposed in this paper Scenarios 1 RMSC 28.68 27.76 31.21 29.58 29.44 32.63 14.70 33.95 PSNR - 16.05 23.23 22.66 18.50 23.96 31.84 30.92 DE 6.75 6.67 7.03 6.76 6.72 6.93 6.78 7.05 SSIM - 0.91 0.84 0.82 0.88 0.85 0.82 0.97 Scenarios 2 RMSC 15.90 16.72 29.06 18.36 30.92 32.99 17.58 32.91 PSNR - 15.49 18.70 13.88 16.60 22.21 17.29 24.42 DE 6.02 6.07 7.15 7.09 6.87 6.69 6.13 7.16 SSIM - 0.89 0.83 0.81 0.77 0.82 0.78 0.96 Scenarios 3 RMSC 24.48 25.33 27.02 22.18 23.15 33.73 31.92 32.68 PSNR - 16.66 25.72 20.25 23.55 24.36 24.66 25.44 DE 6.61 6.63 6.90 6.71 6.43 6.93 6.85 7.02 SSIM - 0.81 0.90 0.81 0.90 0.86 0.87 0.96 Scenarios 4 RMSC 44.75 45.46 47.29 45.13 42.69 42.77 46.29 49.81 PSNR - 22.23 21.59 15.10 23.38 16.51 16.80 24.71 DE 7.05 7.10 7.23 7.12 7.07 7.21 7.16 7.25 SSIM - 0.83 0.91 0.87 0.93 0.76 0.88 0.94 表 2 不同阈值降噪方法的客观评价值
Table 2 Objective evaluation value of noise reduction methods with different threshold values
Noise variance Evaluation indicators Hard threshold function Soft threshold function Improved wavelet threshold function 0.01 PSNR 27.76 27.66 28.62 SSIM 0.92 0.92 0.93 0.02 PSNR 25.37 25.33 25.83 SSIM 0.87 0.86 0.88 0.03 PSNR 23.96 23.89 24.24 SSIM 0.82 0.82 0.83 表 3 本文算法在场景5和场景6的客观评价结果
Table 3 Objective evaluation results of the algorithm in scenarios 5 and scenarios 6
Evaluation indicators Scenario 5 Scenario 6 RMSC 27.51 30.51 PSNR 19.86 21.39 DE 7.66 7.23 SSIM 0.51 0.63 -
[1] Gowen A A, Tiwari B K, Cullen P J, et al. Applications of thermal imaging in food quality and safety assessment[J]. Trends in Food Science & Technology, 2010, 21(4): 190-200.
[2] 赵明珠, 张艳, 朱应燕. 基于红外热成像的早期疾病检测技术的研究进展[J]. 激光与光电子学进展, 2021, 58(8): 28-38. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ202108003.htm ZHAO Mingzhu, ZHANG Yan, ZHU Yingyan. Research progress of early disease detection technology based on infrared thermography[J]. Advances in Lasers and Optoelectronics, 2021, 58(8): 28-38. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ202108003.htm
[3] YUAN C, LIU Z, ZHANG Y. Fire detection using infrared images for UAV-based forest fire surveillance[C]//International Conference on Unmanned Aircraft Systems (ICUAS), 2017: 567-572.
[4] WANG L, Leedham G, Cho S Y. Infrared imaging of hand vein patterns for biometric purposes[J]. IET Computer Vision, 2007, 1(3): 113-122. DOI: 10.1049/iet-cvi:20070009
[5] Taheri Garavand A, Ahmadi H, Omid M, et al. An intelligent approach for cooling radiator fault diagnosis based on infrared thermal image processing technique[J]. Applied Thermal Engineering, 2015, 87: 434-443. DOI: 10.1016/j.applthermaleng.2015.05.038
[6] 郝建新. 基于小波变换与Retinex的电路板红外图像增强技术[J]. 红外技术, 2015, 37(12): 1036-1040. http://hwjs.nvir.cn/article/id/hwjs201512009 HAO Jianxin. Circuit board infrared image enhancement based on wavelet transform and Retinex[J]. Infrared Technology, 2015, 37(12): 1036-1040. http://hwjs.nvir.cn/article/id/hwjs201512009
[7] 尹士畅, 喻松林. 基于小波变换和直方图均衡的红外图像增强[J]. 激光与红外, 2013, 43(2): 225-228. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201302025.htm YIN Shichang, YU Songlin. Infrared image enhancement based on wavelet transform and histogram equalization[J]. Laser and Infrared, 2013, 43(2): 225-228. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201302025.htm
[8] CAI B, XU X, GUO K, et al. A joint intrinsic-extrinsic prior model for Retinex[C]//Proceedings of the IEEE International Conference on Computer Vision, 2017: 4000-4009.
[9] ZHANG X, WANG J. Contourlet-based non-local mean via Retinex theory for robot infrared image enhancement[J]. EAI Endorsed Transactions on Scalable Information Systems, 2022, 9(4): e10-e10.
[10] 王晨, 汤心溢, 高思莉. 基于人眼视觉的红外图像增强算法研究[J]. 激光与红外, 2017, 47(1): 114-118. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201701023.htm WANG Chen, TANG Xinyi, GAO Sili. Research on infrared image enhancement algorithm based on human eye vision[J]. Laser and Infrared, 2017, 47(1): 114-118. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201701023.htm
[11] 龚昌来, 罗聪, 杨冬涛, 等. 一种基于平稳小波域的红外图像增强方法[J]. 激光与红外, 2013, 43(6): 703-707. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201306024.htm GONG Changlai, LUO Cong, YANG Dongtao, et al. An infrared image enhancement method based on smooth wavelet domain[J]. Laser and Infrared, 2013, 43(6): 703-707. https://www.cnki.com.cn/Article/CJFDTOTAL-JGHW201306024.htm
[12] Donoho D L, Johnstone I M. Ideal spatial adaptation by wavelet shrinkage[J]. Biometrika, 1994, 81(3): 425-455. DOI: 10.1093/biomet/81.3.425
[13] 黄玉昌, 侯德文. 基于改进小波阈值函数的指纹图像去噪[J]. 计算机工程与应用, 2014, 50(6): 179-181, 209. https://www.cnki.com.cn/Article/CJFDTOTAL-JSGG201406039.htm HUANG Yuchang, HOU Dewen. Fingerprint image denoising based on improved wavelet threshold function[J]. Computer Engineering and Applications, 2014, 50(6): 179-181, 209. https://www.cnki.com.cn/Article/CJFDTOTAL-JSGG201406039.htm
[14] DU J, LI W, XIAO B, et al. Union Laplacian pyramid with multiple features for medical image fusion[J]. Neurocomputing, 2016, 194: 326-339. DOI: 10.1016/j.neucom.2016.02.047
[15] 刘志强, 朱大奇. 一种新型小波图像融合的水下目标增强算法[J]. 控制工程, 2022, 29(12): 2235-2243. https://www.cnki.com.cn/Article/CJFDTOTAL-JZDF202212008.htm LIU Zhiqiang, ZHU Daqi. A novel underwater target enhancement algorithm for wavelet image fusion[J]. Control Engineering, 2022, 29(12): 2235-2243. https://www.cnki.com.cn/Article/CJFDTOTAL-JZDF202212008.htm
[16] 易清明, 陈明敏, 石敏. 一种改进的小波去噪方法在红外图像中应用[J]. 计算机工程与应用, 2016, 52(1): 173-177. https://www.cnki.com.cn/Article/CJFDTOTAL-JSGG201601033.htm YI Qingming, CHEN Mingmin, SHI Min. An improved wavelet denoising method in infrared images[J]. Computer Engineering and Applications, 2016, 52(1): 173-177. https://www.cnki.com.cn/Article/CJFDTOTAL-JSGG201601033.htm
[17] 徐兴贵, 杨平, 刘永利. 基于全尺度Retinex算法的夜间图像去雾[J]. 微电子学与计算机, 2017, 34(7): 132-136. https://www.cnki.com.cn/Article/CJFDTOTAL-WXYJ201707028.htm XU Xinggui, YANG Ping, LIU Yongli. Nighttime image defogging based on full-scale Retinex algorithm[J]. Microelectronics and Computers, 2017, 34(7): 132-136. https://www.cnki.com.cn/Article/CJFDTOTAL-WXYJ201707028.htm
[18] 占必超, 吴一全, 纪守新. 基于平稳小波变换和Retinex的红外图像增强方法[J]. 光学学报, 2010, 30(10): 2788-2793. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB201010007.htm ZHAN Bichao, WU Yiquan, JI Shouxin. Infrared image enhancement method based on smooth wavelet transform and Retinex[J]. Journal of Optics, 2010, 30(10): 2788-2793. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB201010007.htm
[19] 陈文艺, 杨承勋, 杨辉. 引导滤波和对数变换算法融合的多尺度Retinex红外图像增强[J]. 红外技术, 2022, 44(4): 397-403. http://hwjs.nvir.cn/article/id/f1fcd3be-4a81-4b25-ad02-5f8c035f0be2 CHEN Wenyi, YANG Chengxun, YANG Hui. Multiscale Retinex infrared image enhancement by fusion of bootstrap filtering and logarithmic transformation algorithms[J]. Infrared Technology, 2022, 44(4): 397-403. http://hwjs.nvir.cn/article/id/f1fcd3be-4a81-4b25-ad02-5f8c035f0be2