No-reference Quality Evaluation Algorithm for Color Gamut Mapped Images Based on Double-Order Color Information
-
摘要:
色域映射是用于在不同设备之间实现彩色图像高保真传输的一种技术。但通过色域映射得到的图像不可避免因颜色信息的损失产生严重的伪影和失真,从而导致纹理结构失真和色彩自然度失真。基于颜色信息损失严重的事实,本文提出了一种基于双阶颜色表示的无参考质量评价方法。传统图像质量评价方法大多基于灰度域提取质量感知特征,少数考虑颜色信息的方法也仅从色调、饱和度等颜色分量中提取特征。色调、饱和度均是通过R、G、B三个颜色分量线性计算而得,忽略了颜色的导数信息。因此本文算法从零阶颜色信息(R、G、B颜色分量)和一阶颜色信息(即导数信息)中进行特征提取,并将所提特征进行回归训练得到质量预测模型。实验证明,该模型对色域映射图像质量的预测性能优于现有的无参考质量评价方法。
Abstract:Gamut mapping is a technology used to achieve high-fidelity transmission of color images between different devices. However, an image obtained through gamut mapping inevitably produces serious artifacts and distortions because of color information loss, which leads to distortions in texture and color naturalness. Since color information loss is serious in gamut mapped images (GMIs), a no-reference quality evaluation method based on double-order color representation is proposed. Many traditional image quality assessment (IQA) methods extract quality-aware features (QAFs) in the gray domain, and a few IQA methods extract QAFs from color components, such as hue and saturation. Hue and saturation were calculated linearly using the R, G, and B color components while ignoring the derivative information of the color. Therefore, this study extracted features from zero-order (R, G, and B components) and first-order (derivative) color information. These features were then used for regression training to obtain a quality prediction model. Experimental results show that the model is superior to existing no-reference quality evaluation methods in predicting the quality of GMIs.
-
0. 引言
太阳光中包含各种波段的光,但是地球大气层中的臭氧层会对220~280 nm波段的紫外光进行吸收,因此该波段的光很难到达地球表面,该波段又被称为“日盲”紫外波段[1]。我们通过220~280 nm紫外光的日盲特性对处于该波段的目标物进行检测成像,能够有效地排除掉阳光对其造成的影响。而高压输电线路由于其自身的故障会在大气中产生电晕,电晕放电会放射出波段为220~280 nm的紫外光[2-6]。传统的电晕探测技术有红外热探测和超声波探测,日盲紫外电晕探测相比于这两种技术有极大的改进:和红外技术相比,在早期就能检测到高压输电线上的电晕放电现象,并且不受周边环境干扰;和超声波技术相比,能够探测的距离长,并且能够检测出电晕放电产生的位置。如今,国内的紫外检测技术飞速发展,以国产碲铯阴极紫外像增强器为核心的紫外成像仪能够对电力设备故障进行实时的检测[7-9]。
1. 光子计数原理
在日盲紫外电晕成像探测过程中,一般是根据显示器上所显示的日盲紫外图像来主观判断电晕放电的程度,这样会带来很大的误差,所以需要通过具体的算法对日盲紫外电晕放电进行量化分析。考虑到日盲紫外电晕信号十分微弱,达到了单光子水平,普通的量化分析方法不能满足要求,因此需要设计合理的光子计数算法来对日盲紫外信号进行量化分析。
图 1是单光子探测的原理图。首先,光信号通过光学镜头进行光学聚焦;然后,前端光电探测器将光信号转化成电信号;其次,将电信号输入至信号处理模块进行处理;最后,后端读出电路模块将处理之后的信号进行输出。其中,因为日盲紫外信号十分微弱,传统的固体探测器件难以达到要求,因此一般会采用真空器件对信号进行光电转换和电子倍增。与此同时,当需要对目标信号强弱进行分析并对其进行成像时,采用像增强器作为光电转换和成像器件[10]。
当日盲紫外光子信号低于3×10-15 W/cm2时,光电转换器就会产生离散脉冲信号,合适的CMOS传感器就能探测到光子信号,所以能够统计日盲紫外信号光子的数量来实现对目标源信号的定量化分析。光子的能量公式为:
$$ E = h\frac{c}{\lambda } $$ (1) 式中:h为普朗克常数;c为真空中的光速;λ为光的波长。其中日盲紫外波段为200~280 nm[3],通过计算得出一个日盲紫外光子的能量为7.1×10-19~1×10-18 J。
日盲紫外光光功率P表示为:
$$ P=N×E $$ (2) 式中:N表示光子数;E表示单光子能量,所以单位时间内通过的光能量表示光流强度。
目标源信号的光功率可以通过统计一个截面上的光子数量来计算得到[4-7]。由于图像传感器靶面尺寸约为1.56 cm2,通过对单位时间内探测到的紫外图像上出现的光斑进行计数统计,就能计算得出一帧图像的光子数以及日盲紫外信号源的光功率。
2. 测试系统
本文所设计的日盲紫外成像系统原理框图如图 2所示,成像系统主要由紫外ICMOS模组、可见光探测器、ARM+FPGA嵌入式处理系统组成。其中,紫外ICMOS模组用来采集日盲紫外微弱信号,并经过模数转换将数字图像信号输入嵌入式平台中;可见光探测器采集可见光图像为日盲紫外信号提供位置信息;ARM+FPGA嵌入式处理系统通过采集紫外数字图像信息,完成图像处理和光子计数算法,并将处理后的图像输出显示。
图 3是所设计的日盲紫外成像系统整机实物图,尺寸(长×宽×高)为244 mm×135 mm×96 mm。其中1为相机窗口,2为LCD液晶屏,3为按键控制面板,4为电源充电口和TF卡槽,5为腕带。
3. 日盲紫外光子计数算法设计
3.1 传统光子计数算法分析
传统的光子计数算法通常为连通域标记光子计数算法,其算法主要思路为:假设单光子经过像增强器倍增以后,在荧光屏上所显示的每一个光斑都未重合。那么每一个光斑就对应了一个光电子,因此只需要对一帧图像中光斑出现的数量,就可以得出一帧图像中日盲紫外光子数。在连通域标记算法中,对经过图像预处理后的紫外图像进行二值化处理,得到一幅二值化图像。每个由灰度255组成的连通域表示为一个光子事件,图 4为连通域标记算法的示意图。
然后,对所采集到的一帧紫外图像进行连通域算法仿真分析,图 5为所采集到的日盲紫外图像和二值化后的图像。
通过对图进行连通域标记光子计数算法仿真,可以得出共有12个光子。通过分析二值化后的图像可知,连通域标记算法将光斑较大和较小的区域都默认为一个光子事件进行统计,这样显然影响了光子计数的准确度,因此需要对此光子计数算法进行改进。
3.2 基于时间相关的光子计数算法设计
弥散圆斑算法是一种从三维空间上统计光子数的方法,由于所设计的高帧频算法,可以使得光斑的变化在时间域上被捕获,因此本文在此基础上添加了时间因素,弥补光斑出现时间的随机性,找出四维空间中的最大点,约束条件如式(3):
$$ \left\{ \begin{gathered} {f_x}'(x,y,z) \leqslant 0 \hfill \\ {f_y}'(x,y,z) \leqslant 0 \hfill \\ {f_t}'(x,y,z) \leqslant 0 \hfill \\ \end{gathered} \right. $$ (3) 由于加入了时间的约束,所以只有找出一段时间内几帧图像同一位置光斑的极大值点才能准确计算光子数。本文采用的CMOS传感器图像输出频率为3 ms每帧,而荧光屏的余晖时间为6 ms,即光斑在荧光屏上的起伏时间为6 ms,因此我们通过连续采样得到3帧图像就能得到光斑的变化范围,如图 6所示,其中a、b、c表示图像中光斑的灰度值。
如图 6所示,中间一帧图像中b灰度值最大,可以将b记作一个光子数,因此只要中间帧图像中光斑的灰度值大于前后帧图像光斑的灰度值,就能将其记为一个光子数。
这样就能统计出一帧图像的光子数[10]:
$$ n = \sum\limits_{k = 1}^f {\sum\limits_{i = 1}^m {\sum\limits_{j = 1}^n {Y(i,j,k)} } } $$ (4) 式中:f为日盲紫外成像探测器的帧频;k为第k帧图像;(i, j)为二维空间坐标;Y(i, j, k)为四维空间中的极大值点。由于日盲紫外成像探测器能达到300帧/s的帧频,两帧之间的变化时间较小,因此Y(i, j, k)又能满足:
$$ B(i,j,k)≥B(i±i′,j±j′,k±k′) $$ (5) 式中:B(i, j, k)为第k帧(i, j)点的灰度值。由上式可见,极大值点Y(i, j, k)的约束条件为:B(i, j)在i′×j′矩阵像素中具有最大的灰度值,且在前后k′帧的同一位置的灰度值也是最大的。根据日盲紫外成像探测器的输出帧频,这里k′=1,同时i′×j′矩阵可设定为3×3矩阵或5×5矩阵。
4. 实验流程与不确定性度分析
4.1 光子计数算法的仿真实验分析
首先,本文用日盲紫外成像探测器采集图像,然后运用Matlab软件分别对两种算法进行仿真,比较仿真结果来判断时间相关的光子计数算法能否提高计数精度。
首先选用260 nm波段的紫外光源,然后日盲紫外成像探测器的增益电压调节为2.5 V,调节紫外光源光功率密度,从3×10-19 W/cm2每次往上增加一个数量级,采集3组不同光强的实验图像,每组实验记录3幅图像,如图 7所示。
运用MATLAB软件对采集的图像仿真,得出的光子数如表 1所示。表 1中的两种算法为连通域计数算法和基于时间相关算法。
表 1 两种算法光子计数统计表Table 1. Photon counting statistic table of two algorithmConnected domain labeling algorithm Dispersion circular algorithm Group 1 7 6 Group 2 78 78 Group 3 88 291 结果显示,当信号源很弱时,光子就会分散分布,因此两种算法的计数结果比较相近。在增强紫外光源的光功率后,光斑会重叠,并且连通域标记光子计数算法得出的光子数量没有太大变化,而本文所设计的算法随着信号的增强,计数值不断增加,由此可知,弥散圆斑算法相对于连通域计数算法更加精确,可对日盲紫外单光子进行准确统计。
4.2 基于日盲紫外成像系统的光子计数算法实验及分析
通过对两种算法的仿真分析可知,本文所设计的光子计数算法更具准确性,但由于所设计成像系统的资源和速度限制,我们将日盲紫外图像的14 bit数据压缩成8 bit数据进行处理,因此会使得计数精度上有所偏差,所以通过对紫外光源的实验来验证硬件实现的效果。
实验采用氘灯作为日盲紫外目标源进行光子计数实验测试,紫外ICMOS模组的增益电压保持不变,进行了如下3组实验:
第一组,关闭日盲紫外信号源,实验结果如图 8所示。
通过采集3帧图像,所计算的光子数一直为0,说明所设计的成像系统暗计数良好。
第二组,打开氘灯光源,并调节光源强度到最弱,采集到的图像如图 9所示。
第三组,输出光源光功率密度加到1×10-18 W/cm2,采集到的图像如图 10所示。
然后,我们利用Matlab对每组连续的3帧图像进行所设计的光子计数算法仿真,仿真结果与FPGA计算的结果如表 2所示。
表 2 四组光子计数实验结果Table 2. Results of four groups of photon counting experimentsGroup1 Group 2 Group 3 FPGA output result 0 24 141 Matlab simulation result 0 23 149 通过表 2可知,硬件实验的光子计数算法与仿真结果相近,证明了所设计的基于时间域的弥散圆斑光子计数算法在成像系统中可以硬件实现,并且效果良好。
5. 结论
日盲紫外电晕探测是近年来一种新型的电晕探测方式,但是紫外图像单靠人眼无法精确地判断电晕信号的强弱,因此本文研究了日盲紫外光子计数算法,通过对连通域标记算法和弥散圆斑算法进行分析提出了基于时间相关算法,然后使用Matlab对两种算法进行了实验仿真,结果显示基于时间相关算法对光子计数更加准确,最后,通过实验验证所设计的算法可以在成像系统中的FPGA硬件平台上实现,并且实现的效果良好,能够用于紫外成像仪中对信号进行量化分析。
-
图 2 原始高清图像和色域映射图像在零阶和一阶的颜色分量图。(a) 原始图像;(b)-(f)分别为(a)的OA、SA、R、G、B分量图;(g) 色域映射图像;(h)-(l)分别为(g)的OA、SA、R、G、B分量图
Figure 2. Zero-order and first-order color component of original image and GMI. (a) is the original image; (b)-(f) are OA、SA、R、G、B component of (a) respectively; (g) is the GMI; (h)-(l) are OA、SA、R、G、B component of (g) respectively
表 1 三个数据库中算法性能比较
Table 1 Comparative evaluation on the three gamut mapping databases
Method BS database IG database LC database PLCC SRCC KRCC PLCC SRCC KRCC PLCC SRCC KRCC BRISQUE 0.7633 0.5678 0.4126 0.5153 0.4654 0.3345 0.5026 0.5274 0.3802 DESIQUE 0.8213 0.5941 0.4354 0.5987 0.5666 0.4211 0.5692 0.5973 0.4429 NFERM 0.7441 0.5566 0.4072 0.4399 0.4510 0.2968 0.4934 0.4985 0.3617 IDEAL 0.7859 0.6652 0.4994 0.6195 0.6139 0.4550 0.5780 0.5989 0.4417 GMNSS 0.8170 0.6774 0.5100 0.7369 0.7086 0.5526 0.6256 0.6154 0.4630 GMCSD 0.8374 0.7028 0.5402 0.7508 0.7273 0.5633 0.6778 0.6848 0.5152 BLGS 0.7865 0.7275 0.5116 0.7464 0.7165 0.5147 0.7573 0.7074 0.5033 GMLCH 0.8385 0.7069 0.5337 0.6302 0.6039 0.4523 0.6565 0.6498 0.4876 BOSS 0.4830 0.4826 0.3531 0.4573 0.4318 0.3167 0.7035 0.6021 0.4490 VQGC 0.8315 0.7016 0.5334 0.5732 0.5442 0.4057 0.6298 0.6332 0.4675 Proposed 0.8816 0.7394 0.5735 0.7944 0.7586 0.5929 0.7252 0.7360 0.5655 表 2 NSS特征与非NSS统计特征的性能对比
Table 2 Performance comparison of NSS features with NON-NSS statistical features
BS IG LC PLCC SRCC KRCC PCC SRCC KRCC PCC SRCC KRCC NSS 0.8098 0.6799 0.5171 0.5891 0.5721 0.4175 0.6550 0.6634 0.4928 NO NSS 0.7038 0.4725 0.3394 0.5645 0.5241 0.3912 0.4713 0.3620 0.2677 Proposed 0.8816 0.7394 0.5735 0.7944 0.7586 0.5929 0.7252 0.7360 0.5655 -
[1] LI H L, ZHAO H X, LIU M N, et al. Research on spatial gamut mapping from source device to destination device[C]//2023 IEEE 18th Conference on Industrial Electronics and Applications. 2023: 1909-1914.
[2] Zamir S W, Vazquez Corral J, Bertalmio M. Vision models for wide color gamut imaging in cinema[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2021, 43(5): 1777-1790. DOI: 10.1109/TPAMI.2019.2938499
[3] Takeuchi M, Sakamoto Y, Yokoyama R. Gamut-extension methods considering color information restoration[J]. IEEE Access, 2019, 7: 80146-80158. DOI: 10.1109/ACCESS.2019.2923400
[4] Prashanth N, Dattathreya, Manjunath P, et al. High Dynamic Range (HDR) Imaging using Color Gamut Mapping[C]//2018 4th International Conference on Applied and Theoretical Computing and Communication Technology (iCATccT), 2018: 2104-2112.
[5] KIM J O, LEE K, KIM J, et al. Ambient light robust color gamut mapping for optical see-through displays[J]. Optics Express, 2020, 28(10): 15392-15405. DOI: 10.1364/OE.391447
[6] ZHOU W, WANG Z. Blind omnidirectional image quality assessment: integrating local statistics and global semantics[C]//2023 IEEE International Conference on Image Processing, 2023: 1405-1409.
[7] 李佳, 郑元林, 廖开阳, 等. 基于显著性深层特征的无参考图像质量评价算法[J]. 计算机应用, 2022, 42(6): 1957-1964. LI Jia, ZHENG Yuanlin, LIAO Kaiyang, et al. No-reference image quality assessment algorithm based on saliency deep features[J]. Journal of Computer Applications, 2022, 42(6): 1957-1964.
[8] CAI H, LI L D, YI Z L, et al. Towards a blind image quality evaluator using multi-scale second-order statistics[J]. Signal Processing: Image Communication, 2019, 71: 88-99. DOI: 10.1016/j.image.2018.11.003
[9] 杨国梁, 苏俊宏, 薛鹏翔, 等. 基于深度学习网络的可见光图像重构质量评价研究[J]. 激光杂志, 2022, 43(1): 95-100. YANG Guoliang, SU Junhong, XUE Pengxiang, et al. Evaluation of visible image reconstruction quality based on deep learning network[J]. Laser Journal, 2022, 43(1): 95-100.
[10] 柴改霞, 郭全民, 孙晓娟. 可见光与红外融合的汽车抗晕光图像评价方法[J]. 红外技术, 2020, 42(4): 378-384. http://hwjs.nvir.cn/article/id/hwjs202004011 CHAI Gaixia, GUO Quanmin, SUN Xiaojuan. Vehicle anti-halation image evaluation method based on visible and infrared fusion[J]. Infrared Technology, 2020, 42(4): 378-384. http://hwjs.nvir.cn/article/id/hwjs202004011
[11] Mittal A, Moorthy A K, Bovik A C. No-reference image quality assessment in the spatial domain[J]. IEEE Transactions Image Processing, 2012, 21(12): 4695-4708. DOI: 10.1109/TIP.2012.2214050
[12] ZHANG Y, Chandler D M. No-reference image quality assessment based on log-derivative statistics of natural scenes[J]. Journal of Electronic Imaging, 2013, 22(4): 043025. DOI: 10.1117/1.JEI.22.4.043025
[13] WANG Z, BOVIK A C, SHEIKH H R, et al. Image quality assessment: From error visibility to structural similarity[J]. IEEE Transactions on Image Processing, 2004, 13(4): 600-612. DOI: 10.1109/TIP.2003.819861
[14] 余伟, 徐晶晶, 刘玉英, 等. 基于自然场景统计的色域映射图像无参考质量评价[J]. 激光与光电子学进展, 2020, 57(14): 61-70. YU Wei, XU Jingjing, LIU Yuying, et al. No-reference quality evaluation for gamut mapping images based on natural scene statistics[J]. Laser & Optoelectronics Progress, 2020, 57(14): 61-70.
[15] CAI H, LI L D, YI Z L, et al. Blind quality assessment of gamut-mapped images via local and global statistical analysis[J]. Journal of Visual Communication & Image Representation, 2019, 61(5): 250-259.
[16] 余伟, 康凯, 袁连海. 基于颜色与结构失真的色域映射图像无参考质量评价算法[J]. 计算机应用研究, 2021, 38(8): 2549-2555. YU Wei, KANG Kai, YUAN Lianhai. No-reference quality evaluation algorithm for gamut mapping images based on color and structural distortions[J]. Application Research of Computers, 2021, 38(8): 2549-2555.
[17] JAMES F P. 计算机视觉基础[M]. 章毓晋, 译. 北京: 清华大学出版社, 2019: 21-27. JAMES F P. Foundations of Computer Vision[M]. ZHANG YuJin, translated. Beijing: TsingHua University Press, 2019: 21-27.
[18] LEE D, Plataniotis K N. Toward a no-reference image quality assessment using statistics of perceptual color descriptors[J]. IEEE Transactions on Image Processing, 2016, 25(8): 3875-3889.
[19] TAN M T, Ryu S. Particle number fluctuations, Rényi entropy, and symmetry-resolved entanglement entropy in a two-dimensional Fermi gas from multidimensional bosonization[J]. Physical Review B, 2020, 101(23): 2469-2450.
[20] Estanon C R, Aquino N, Puertas-Centeno D, et al. Two-dimensional confined hydrogen: An entropy and complexity approach[J]. International Journal of Quantum Chemistry, 2020, 120(11): 1596-1605.
[21] ZHOU Y, LI L D, WU J J, et al. Blind quality index for multiply distorted images using biorder structure degradation and nonlocal statistics[J]. IEEE Transactions on Multimedia, 2018, 20(11): 3019-3032. DOI: 10.1109/TMM.2018.2829607
[22] 吴圳桦, 唐文艳, 吕文阁, 等. 基于ISSA何积分图的二维熵图像多阈值分割快速算法[J]. 广东工业大学学报, 2023, 40(5): 47-55. WU Zhenhua, TANG Wenyan, LYU Wenge, et al, Fast image segmentation with multilevel threshold of twodimensional entropy based on issa and integral graph[J]. Journal of Guangdong University of Technology, 2023, 40(5): 47-55.
[23] 胡涛. 基于图像二维熵的路面纹理边缘分布均匀性检测方法研究[D]. 武汉: 武汉科技大学, 2023: 15-17. HU Tao. Research on Detection Method of Pavement Texture Edge Distribution Uniformity Based on Two-Dimensional Image Entropy[D]. Wuhan: Wuhan University of Science and Technology, 2023: 15-17.
[24] FANG Y M, MA K D, WANG Z, et al. No-reference quality assessment of contrast-distorted images based on natural scene statistics[J]. IEEE Signal Processing Letters, 2015, 22(7): 838-842.
[25] ZHOU Y, LI L D, ZHU H C, et al, No-reference quality assessment for contrast-distorted images based on multifaceted statistical representation of structure[J]. Journal of Visual Communication and image Representation, 2019, 60: 158-169.
[26] WANG W, LIANG R, QI Y, et al, Prediction model of spontaneous combustion risk of extraction borehole based on PSO-BPNN and its application[J]. Scientific Reports, 2024, 14(1): 577-581.
[27] Baranczuk Z, Zolliker P, Image-Individualized Gamut Mapping Algorithms[J]. Journal of Imaging Science & Technology, 2010, 54(3): 0302011-0302017.
[28] 余伟. 色域映射图像客观质量评价方法研究[D]. 徐州: 中国矿业大学, 2020: 17-29. YU Wei. Study on Objective Quality Evaluation Method of Gamut Mapped Images[D]. Xuzhou: China University of Mining and Technology, 2020: 17-29.
[29] GU K, ZHAI G T, YANG X K, et al. Using free energy principle for blind image quality assessment[J]. IEEE Transaction on Multimedia, 2015, 11(1): 50-63.
[30] FANG Y M, YAN J B, DU R G et al. Blind quality assessment for tone-mapped images by analysis of gradient and chromatic statistics[J]. IEEE Transactions on Multimedia, 2021, 23: 955-966.
-
期刊类型引用(1)
1. 杨晓超,郝慧良. 矿用电缆放电监测系统研究设计. 中国煤炭. 2024(S1): 406-410 . 百度学术
其他类型引用(1)