Underwater Image Enhancement Based on Improved Histogram Matching and Adaptive Equalization
-
摘要:
为了更有效地改善水下图像的颜色，进一步提升图像的对比度和清晰度，提出改进直方图匹配和自适应均衡的水下图像增强方法。以像素均值最大的通道图像的直方图作为基准，对各通道图像分别进行直方图匹配，校正水下图像的颜色偏差；充分利用HSI颜色空间中颜色分量与明度分量的独立性，对明度分量进行自适应的局部直方图均衡化，进一步提升图像的对比度和清晰度。主、客观的实验数据显示，相对于部分现有方法，本文方法对水下图像增强后的视觉效果更优，信息熵、平均梯度、水下图像质量指标（Underwater Image Quality Measures, UIQM）和结构相似性指数（Structural Similarity Index Measure, SSIM）的值更高。因此，本文方法对水下图像具有更有优的增强效果。
Abstract:To improve the color of underwater imaging more effectively, and enhance the contrast and clarity of images, an underwater image enhancement method based on improved histogram matching and adaptive equalization is proposed. Each channel image is subjected to histogram matching using the histogram of the channel image with the largest pixel mean as the benchmark to correct the color deviation of the underwater image; taking full advantage of the independence of the color and lightness components in the HSI color space, this method performs an adaptive local histogram equalization on the lightness component, further improving the contrast and clarity of the image. Subjective and objective experimental data show that compared with some existing methods, the proposed method achieves better visual effects on underwater images after enhancement, with higher information entropy, an average gradient, UIQM, and SSIM. Therefore, the proposed method has a better enhancement effect on underwater images.
-
0. 引言
偏振成像[1]是一种新型的光学成像手段，能够获取多个偏振方向图像，通过偏振信息解析，能够实现同场景多个不同偏振方向图像来表征目标的偏振信息，从而实现对目标的检测。偏振信息解析是偏振成像中的重要环节，目前有很多学者针对不同的应用场景提出了多种偏振信息解析的方法[2-5]，其中，沈洁[6]等人根据螳螂虾的复眼能充分利用偏振信息实现水下复杂环境的猎物捕获，提出了基于拮抗机制的偏振仿生信息解析方法，将0°、45°、90°、135°四个偏振方向图像分成2组拮抗图像，通过使2组图像的拮抗信息熵最大来获得偏振方向图像的加权系数，得到偏振拮抗图像，从而实现水下目标探测。但这种方法本质是偏振方向图像间的线性操作，存在计算效率低、解析结果不确定、目标不够突出等问题。
深度学习具有强大的表征能力，可以从高维、复杂以及非线性数据中提取有用的特征，目前在很多领域都有着广泛的应用，如自然语言处理[7]、语音识别[8]、图像处理[9]等。Li[10]等人提出一种基于卷积神经网络（Convolutional Neural Networks，CNN）和残差神经网络（Residual Networks，ResNets）的深度学习架构，用于红外和可见光图像的融合，较好地突显了目标信息，并解决了传统的基于CNN中随着网络深度增加特征信息退化的问题。
偏振图像拮抗过程属于偏振方向图像融合的范畴，本文充分利用深度学习在图像处理上的优势，提出了一种偏振方向图像的双支路拮抗融合网络，主要包括特征提取、特征融合和特征转化3个模块，输入4个不同方向的偏振图像，分成两个支路，低频支路通过合成图像来减少能量的损失，高频支路通过差分图像来突显图像的细节信息。将两个支路处理的结果分别通过深度融合网络进行处理，获取效果更好的融合图像，提高后续目标检测与识别效果。
1. 基本原理
1.1 分焦平面型偏振成像
偏振成像需要获取多个偏振方向图像，常用的获取方式可以分为：分时型、分振幅型、分孔径型和分焦平面型。相对于其他的成像方式，分焦平面型偏振成像具有体积小、重量轻、成本低、能同时获取多个偏振方向图像等优点，成为目前偏振成像获取方法的主流。其基本原理是：在探测器的芯片上集成微型偏振分析器（如图 1所示），在探测器的每4个像元上，耦合0°、45°、90°、135°等4个线偏振方向的偏振分析器，利用4个像元实现1个像素的偏振信息采集。按照微型偏振分析器排列顺序，对探测器输出图像进行重新整合，即可得到0°、45°、90°、135°四个偏振方向图像，如图 2(a)~(d)所示。
![]()
图 2 0°、45°、90°和135°的偏振方向图和合成强度图Figure 2. Polarization and intensity pictures of 0°, 45°, 90°and 135°利用偏振成像理论，可以得到合成强度图像I[6]，如图 2(e)所示：
$$ I=I\left(0^{\circ}\right)+I\left(90^{\circ}\right) $$ (1) 1.2 仿生偏振拮抗图像
根据螳螂虾复眼的偏振拮抗机制[6]，一对正交偏振图像的输入可以形成一个拮抗，如0°和90°偏振方向图像、45°和135°偏振方向图像，将采集到的4组正交偏振图像形成4个偏振拮抗通道，每个通道由相互正交的一对偏振信号组成，各组拮抗信号通过拮抗运算方式可以得到偏振拮抗图像，如下所示：
$$ S_{\mathrm{d}}=k_1 \times I\left(45^{\circ}\right)-k_2 \times I\left(135^{\circ}\right) $$ (2) $$ S_{\mathrm{dd}}=k_3 \times I\left(135^{\circ}\right)-k_4 \times I\left(45^{\circ}\right) $$ (3) $$ S_{\mathrm{h}}=k_5 \times I\left(0^{\circ}\right)-k_6 \times I\left(90^{\circ}\right) $$ (4) $$ S_{\mathrm{v}}=k_7 \times I\left(90^{\circ}\right)-k_8 \times I\left(0^{\circ}\right) $$ (5) 式中：I(0°)、I(90°)、I(45°)和I(135°)分别表示0°、90°、45°和135°的偏振方向图像，ki(i＝1, …, 8)为拮抗系数，起到对图像的增强和抑制作用，k的取值范围由人为设定，km≥1(m＝1, 3, 5, 7)，0＜kn≤1(n＝2, 4, 6, 8)，文献[6]中k是通过遍历所有范围内可能的值，求取偏振拮抗图像信息熵最大来确定，存在计算效率低、结果不确定的问题，使得求取的偏振拮抗图像目标可能不够突出。
1.3 基于深度学习的图像融合
图像融合就是通过处理不同传感器所拍摄的源图像，提取有用的信息或特征，将其整合来改善图像的品质和清晰度[11]。传统图像融合需要人工提取特征，指定融合规则，而基于深度学习的图像融合，利用深度网络对输入图像进行卷积，提取出目标高层特征，再利用卷积将融合后特征转换为融合图像，如图 3所示。相对于可监督图像融合的方法，无监督的方法通过约束融合图像和原图像之间的相似性，克服了大多数图像融合中无参考度量的普遍问题。
2. DANet网络设计
2.1 网络结构
由偏振成像机理可知，每个偏振方向图像能量损失一半。为了提高融合后的图像的亮度，如图 4所示，我们设计了一个低频支路，将4个偏振方向图像通过Concat操作进行连接输入，用于提取每个偏振方向图像的低频特征；根据Tyo[12]的研究结论，偏振差分成像可以突显目标细节信息，因此本文设计了另一个高频支路，将2组拮抗图像进行差分输入，用于提取差分图像的目标高频特征。Huang[13]等人提出了一种密集块结构，其中使用了从任何层到所有后续层的直接连接。这种体系结构可以保存尽可能多的信息，该模型可以改善网络中的信息流和梯度，使网络易于训练，同时，密集连接具有正则化效果，减少了任务的过拟合。受此启发，本文将密集连接加入到差分图像细节特征提取中，用于降低细节信息的损失。设计的网络结构主要包括特征提取、特征融合和特征转化3个模块。
图 4中，特征融合模块将两个支路提取的特征图进行对应像素融合，得到融合特征，特征转化模块利用1×1卷积将融合的特征整合得到输出图像。低频和高频支路均有3个3×3的卷积层，网络参数如表 1所示。
表 1 网络参数Table 1. Network parametersLayer Input channel Output channel Feature extraction Low frequency Conv1 4 128 Conv2 128 64 Conv3 64 50 High frequency Conv4 2 16 Conv5 18 16 Conv6 34 50 Feature fusion Fusion 50 50 Feature transformation Conv7 50 1 2.2 损失函数
在偏振拮抗图像获取中，利用信息熵最大作为评价标准[6]，因此本文将信息熵损失Lentropy加入到损失函数中，用于增大融合图像的信息量；结构相似性度量方法作为图像领域使用最广泛的指标之一，该方法基于图像的亮度、对比度和结构3部分来衡量图像之间的相似性，本文将结构相似性损失Lssim加入到损失函数中，用于保持融合图像结构特征；感知损失通常用于图像重建中，恢复出来的图像视觉效果较好，本文将感知损失Lperceptural加入到损失函数中，用于提高融合图像的人眼视觉效果。因此，本文的损失函数L计算公式如下：
$$ L=L_{\text {entropy }} \times \sigma+L_{\text {ssim}} \times \beta+L_{\text {perceptural }} \times \gamma $$ (6) 式中：σ、β、γ为各损失的权重，本文分别取0.1、10、0.1。
1）信息熵损失Lentropy
信息熵（Information Entropy，IE）越大，图像包含的信息越多，为使融合图像信息熵最大，信息熵损失Lentropy定义为：
$$ {L_{{\text{entropy}}}} = \frac{1}{{{\text{IE}} + \varepsilon }} $$ (7) $$ {\text{IE}} = - \sum\limits_{i = 1}^n {p\left( {{x_i}} \right)\log p\left( {{x_i}} \right)} $$ (8) 式中：ε为极小量；xi为随机变量；p(xi)为输出概率函数；n为灰度等级。
2）结构相似性损失Lssim
结构相似性（structural similarity index，SSIM）用于度量两幅图像的相似度，结构相似性损失Lssim定义为：
$$ L_{\text {ssim }}=1-\operatorname{SSIM}(\text { output, } I \text { ) } $$ (9) 式中：SSIM(⋅)表示结构相似性运算；output为输出图像；I为强度图像。
3）感知损失Lperceptural
$$ {L_{{\text{perceptural}}}} = \left\| {{\varPhi _i}\left( {{\text{output}}} \right), {\varPhi _i}\left( I \right)} \right\|_2^2 $$ (10) 式中：Φi(⋅)为VGG16网络第i层特征图。
3. 实验与分析
3.1 实验环境与数据
实验环境如下：训练与测试图像集采用处理器为11th Gen Intel(R) Core(TM) i7-11800H @ 2.30 GHz，系统运行内存为32 GB，GPU显卡为8 GB显存容量的NVIDIA GeForce RTX3080的图形工作站。训练软件运行环境为Python3.9，编程框架为Torch 1.11.0，搭建Cuda10.0用于实验加速。
本文采用LUCID公司的分焦平面型偏振相机（型号：PHX050S-P），如图 5所示。该相机能够同时获取0°、45°、90°、135°四个偏振方向图像，图像分辨率为2448×2048。我们拍摄采集了多种场景目标的9320组偏振方向图像，构建出本文的数据集。
3.2 评价指标及训练参数
本文采用主观定性和客观定量相结合的方法对融合图像进行综合评价，主观评价主要通过人眼观察图像亮度和细节信息，客观评价采用平均梯度[14]、信息熵[15]、空间频率[16]、均值[17]等4个评价指标，定量评估融合效果。
1）平均梯度（Average Gradient，AG）
平均梯度能有效反映出图像层次信息，其值越大，图像层次越丰富，其计算公式为：
$$ \begin{array}{l} {\text{AG}} = \frac{1}{{\left( {M - 1} \right)\left( {N - 1} \right)}} \times \hfill \\ \quad \quad \sum\limits_{i = 1}^{M - 1} {\sum\limits_{j = 1}^{N - 1} {\sqrt {\frac{{{{\left[ {F\left( {i, j} \right) - F\left( {i + 1, j} \right)} \right]}^2} + {{\left[ {F\left( {i, j} \right) - F\left( {i, j + 1} \right)} \right]}^2}}}{2}} } } \hfill \\ \end{array} $$ (11) 式中：F(i, j)为图像的第i行、第j列的灰度值；M、N分别为图像的总行数和总列数。
2）空间频率（Spatial Frequency，SF）
空间频率是图像质量经典的标准之一，其值越大，代表图像质量越高，越清晰，其计算公式为：
$$ {\text{SF}} = \sqrt {{\text{R}}{{\text{F}}^2} + {\text{C}}{{\text{F}}^2}} $$ (12) $$ {\text{RF}} = \sqrt {\frac{1}{{MN}}\sum\limits_{i = 1}^M {\sum\limits_{j = 2}^N {\left[ {{I_{\text{p}}}\left( {i, j} \right) - {I_{\text{p}}}\left( {i, j - 1} \right)} \right]} } } $$ (13) $$ {\text{CF}} = \sqrt {\frac{1}{{MN}}\sum\limits_{i = 2}^M {\sum\limits_{j = 1}^N {\left[ {{I_{\text{p}}}\left( {i, j} \right) - {I_{\text{p}}}\left( {i - 1, j} \right)} \right]} } } $$ (14) 式中：RF是行频率；CF是列频率；M、N为图片的宽高；Ip(i, j)为图像在(i, j)处的像素值。
3）图像均值（Image Mean，IM）
均值即图像像素的平均值，反应图像的平均亮度，平均亮度越大，能量越高，其计算公式为：
$$ {\text{IM}} = \sum\limits_{k = 0}^{L - 1} {{z_k}p\left( {\frac{{{n_k}}}{{MN}}} \right)} $$ (15) 式中：zk为图像的第k个灰度级；L表示图像的灰度等级数目；nk是zk在图像中出现的次数。
本文数据集共计9320组，其中训练集和测试集按照9:1划分，算法的模型由Adam optimizer训练，训练轮次为20，初始学习率为1e－4，每训练4轮学习率衰减一半，详细参数如表 2所示。
表 2 训练参数Table 2. Training parametersParameters Values Training set 8388 Testing set 932 Training round 20 Epoch 4 Optimizer Adam Activation function ReLU Initial learning rate 1e－4 Learning rate decay rate 0.5*lr/4 round 3.3 实验结果分析
为了验证本文算法的有效性，从测试集中随机选取了4组数据，每组数据包含0°、45°、90°和135°偏振方向图像，第1组为室内沙地伪装板目标，第2组为室内标定装置目标，第3组为室外草地伪装板，第4组为水下珊瑚目标，如图 6所示。
![]()
图 6 输入的0°、45°、90°和135°偏振方向图像Figure 6. 0°, 45°, 90° and 135° polarization direction images of input将上述数据输入到本文训练好的模型中，得到对应的融合图像，根据公式(1)~(5)分别得到合成强度图像I、偏振拮抗图像Sd、Sdd、Sh、Sv，如图 7所示。
从图 7可以看出，本文的融合图像亮度最高，能量最大，说明网络中的低频支路对图像能量的提升效果明显，有效解决了偏振成像中能量降低的问题。从图像细节来说，融合图像的细节效果有较为明显的提升，如第1组本文融合图像中的沙粒更加有颗粒感，伪装板的边缘更加突出，第2组本文融合图像中标定装置的线缆显现出来，背景板的线条更加清晰，而其他图像不太明显，第3组本文融合图像的3块伪装板全部从背景中区分出来，而其他图像只有部分能够区分开，第4组本文融合图像中，珊瑚整体目更亮，珊瑚边缘也更明晰。由于图像能量提升较为明显，可能会造成目标的对比度有所下降，如第一组本文融合图像的伪装板的对比度相较于Sd图和Sh图有所下降，但不影响目标整体的检测效果。
本文将测试集中932组图像输入到模型中，得到对应的932幅融合图像，并根据公式(1)~(5)分别得到932幅合成强度图像I和相应的偏振拮抗图像Sd、Sdd、Sh、Sv。利用平均梯度（AG）、信息熵（IE）、空间频率（SF）和图像灰度均值（IM）指标对其计算均值并进行评价，如表 3所示。
表 3 输出结果的各项评价指标Table 3. Evaluation indexes of the output resultsI Sd Sdd Sh Sv DANet AG 0.0099 0.0128 0.0119 0.0144 0.0126 0.0185 IE 6.06 6.18 6.08 6.15 6.39 7.04 SF 0.35 0.49 0.40 0.46 0.45 0.64 IM 41 49 47 46 57 93 从表 3中可以看出，在4个评价指标上，本文的方法都是最高的，在平均梯度上最少提高了22.16%，最多提高了46.49%；在信息熵上最少提高了9.23%，最多提高了13.92%；在空间频率上最少提高了23.44%，最多提高了45.31%；在图像灰度均值上最少提高了38.71%，最多提高了55.91%。实验结果表明，本文方法得到的融合图像亮度更高，包含的信息量更丰富，可以显现出更多的细节信息。
4. 结论
针对偏振方向图像融合效果不明显的问题，本文提出了一种基于双支路拮抗融合网络的偏振信息解析方法，可以解决现有基于拮抗机制的仿生偏振信息解析方法中存在计算效率低、解析结果不确定、目标不够突出等问题，为偏振信息解析提供了一个新的技术途径。本文设计的DANet主要包括特征提取、特征融合和特征转化3个模块。首先，特征提取模块由低频支路和高频支路组成，将0°、45°、90°和135°偏振方向图像连接输入到低频支路，提取能量特征，将2组拮抗图像差分输入到高频支路，提取图像细节特征；其次，将得到的能量特征和细节特征进行特征融合；最后，将融合后的特征转化整合为融合图像。实验表明，通过DANet得到的融合图像在视觉效果和评价指标上均有较为显著提升，在平均梯度、信息熵、空间频率和图像灰度均值上分别至少提升了22.16%、9.23%、23.44%、38.71%。下一步，我们将进一步优化网络结构，以平衡能量支路和细节支路，改善融合图像的对比度；加大水下偏振方向图像在数据集中的比重，优化数据集。
-
![]()
图 1 空气成像与水下成像的直方图分布
Figure 1. Histogram distribution of air imaging and underwater imaging
![]()
图 3 直方图匹配和局部直方图均衡化的效果
Figure 3. Effect of histogram matching and local histogram equalization
![]()
图 8 本文方法与基准方法Water-Net的增强效果比较
Figure 8. Comparison of enhancement effects between the proposed method and the benchmark method Water-Net
-
[1] 马敏慧, 王红茹, 王佳. 基于改进的MSRCR-CLAHE融合的水下图像增强算法[J]. 红外技术, 2023, 45(1): 23-32. http://hwjs.nvir.cn/cn/article/id/69e5b90e-9c0c-43c6-b4e2-dedede3eb414 MA M H, WANG H R, WANG J. An underwater image enhancement algorithm based on improved MSRCR-CLAHE fusion[J]. Infrared Technology, 2023, 45(1): 23-32. http://hwjs.nvir.cn/cn/article/id/69e5b90e-9c0c-43c6-b4e2-dedede3eb414
[2] 卫依雪, 周冬明, 王长城, 等. 采用多尺度密集残差网络的水下图像增强[J]. 无线电工程, 2021, 51(9): 870-878. DOI: 10.3969/j.issn.1003-3106.2021.09.005 WEI Y X, ZHOU D M, WANG C C, et al. Underwater image enhancement using multi-scale dense residual network[J]. Radio Engineering, 2021, 51(9): 870-878. DOI: 10.3969/j.issn.1003-3106.2021.09.005
[3] PENG Y T, Cosman P C. Underwater image restoration based on image blurriness and light absorption[J]. IEEE Transactions on Image Processing, 2017, 26(4): 1579-1594. DOI: 10.1109/TIP.2017.2663846
[4] WANG Y, LIU H, CHAU L P. Single underwater image restoration using adaptive attenuation-curve prior[J]. IEEE Transactions on Circuits and Systems I: Regular Papers, 2018, 65(3): 992-1002. DOI: 10.1109/TCSI.2017.2751671
[5] PENG Y T, CAO K, Cosman P C. Generalization of the dark channel prior for single image restoration[J]. IEEE Transactions on Image Processing, 2018, 27(6): 2856-2868. DOI: 10.1109/TIP.2018.2813092
[6] LIN S, CHI K, WEI T, et al. Underwater image sharpening based on structure restoration and texture enhancement[J]. Applied Optics, 2021, 60(15): 4443-4454. DOI: 10.1364/AO.420962
[7] CHIANG J Y, CHEN Y C. Underwater image enhancement by wavelength compensation and dehazing[J]. IEEE Transactions on Image Processing, 2012, 21(4): 1756-1769. DOI: 10.1109/TIP.2011.2179666
[8] 黄冬梅, 王龑, 宋巍, 等. 不同颜色模型下自适应直方图拉伸的水下图像增强[J]. 中国图象图形学报, 2018, 23(5): 640-651. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGTB201805003.htm HUANG D M, WANG Y, SONG W, et al. Underwater image enhancement method using adaptive histogram stretching in different color models[J]. Journal of Image and Graphics, 2018, 23(5): 640-651. https://www.cnki.com.cn/Article/CJFDTOTAL-ZGTB201805003.htm
[9] ZHANG S, WANG T, DONG J, Yu H. Underwater image enhancement via extended multi-scale Retinex[J]. Neurocomputing, 2017, 245: 1-9. DOI: 10.1016/j.neucom.2017.03.029
[10] 史金余, 郝明良, 邹沛煜. 基于颜色校正和引导滤波分层的水下图像增强[J]. 计算机应用与软件, 2022, 39(6): 203-209. DOI: 10.3969/j.issn.1000-386x.2022.06.030 SHI J Y, HAO M L, ZOU P Y. Underwater image enhancement based on color correction and guided filtering layering[J]. Computer Applications and Software, 2022, 39(6): 203-209. DOI: 10.3969/j.issn.1000-386x.2022.06.030
[11] Ulutas G, Ustubioglu B. Underwater image enhancement using contrast limited adaptive histogram equalization and layered difference representation[J]. Multimedia Tools and Applications, 2021, 80: 15067-15091. DOI: 10.1007/s11042-020-10426-2
[12] GUO Y, LI H, ZHUANG P. Underwater image enhancement using a multiscale dense generative adversarial network[J]. IEEE Journal of Oceanic Engineering, 2020, 45(3): 862-870. DOI: 10.1109/JOE.2019.2911447
[13] LI H, ZHUANG P. DewaterNet: A fusion adversarial real underwater image enhancement network[J]. Signal Processing: Image Communication, 2021, 95: 116248. DOI: 10.1016/j.image.2021.116248.
[14] WANG B, KANG Z, DONG P, et al. Underwater image enhancement by maximum-likelihood based adaptive color correction and robust scattering removal[J]. Frontiers of Computer Science, 2023, 17(2): 172702. DOI: 10.1007/s11704-022-1205-7
[15] 翟海祥, 何嘉奇, 王正家, 等. 改进Retinex与多图像融合算法用于低照度图像增强[J]. 红外技术, 2021, 43(10): 987-993. http://hwjs.nvir.cn/cn/article/id/23500140-4bab-40b3-9bef-282f14dc105e ZHAI H X, HE J Q, WANG Z J, et al. Improved Retinex and multi-image fusion algorithm for low illumination image enhancement[J]. Infrared Technology, 2021, 43(10): 987-993. http://hwjs.nvir.cn/cn/article/id/23500140-4bab-40b3-9bef-282f14dc105e
[16] Panetta K, Gao C, Agaian S. Human-visual-system-inspired underwater image quality measures[J]. IEEE Journal of Oceanic Engineering, 2016, 41(3): 541-551. DOI: 10.1109/JOE.2015.2469915
[17] LI C, GUO C, REN W, et al. An underwater image enhancement benchmark dataset and beyond[J]. IEEE Transactions on Image Processing, 2019, 29: 4376-4389.
-
期刊类型引用(0)
其他类型引用(1)
下载:
计量
- 文章访问数: 90
- HTML全文浏览量: 62
- PDF下载量: 39
- 被引次数: 1
