Low-light Image Enhancement Based on Detail Preservation and Brightness Fusion
-
摘要:
微光环境下CMOS相机拍摄的图像存在对比度低、噪声大和细节模糊等问题，目前的增强算法虽然可以提升图像亮度，却没有考虑保留原始图像的细节信息，为此，本文提出了一种细节保留的微光图像增强方法。首先，使用自适应滤波器对原始微光图像中的每个通道进行处理，以改善噪声对图像的影响。然后，通过滤波后的图像得到细节层和基本层，其中细节层用于保留图像的纹理，基本层则用于增强图像的亮度。细节层的求取通过粗照度和光照分量得到，而基本层亮度增强则使用Alpha算法融合原图、伽马校正结果和伽马先验校正结果得到。最后，将细节层和基本层的亮度通道进行融合，以获得增强后的图像。实验结果表明，经过细节融合处理后的图像，其平均梯度与信息熵均实现了显著提升。此外，与选取的5种方法相比，SSIM指标均高于其他算法，表明本文方法增强后的图像失真小。同时，在BRISQUE和PSNR指标上均取得了较好的效果。
Abstract:Images captured by complementary metal-oxide semiconductor (CMOS) cameras under low-light environments have problems, including low contrast, high noise, blurred details, and insufficient enhancement algorithms. Although CMOS cameras can improve image brightness, they do not consider how to retain the detailed information of the original image. Therefore, this paper proposes a detail-preserving low-light image enhancement method. First, each channel in the original low-light image was processed using an adaptive filter to improve the effect of noise on the image. Subsequently, a detail layer and a basic layer are obtained from the filtered image. The detail layer is used to preserve the texture of the image, and the basic layer is used to enhance its brightness. Moreover, the detail layer is obtained via coarse illumination and light components, whereas the basic layer brightness enhancement is obtained using the alpha algorithm to fuse the original image, gamma correction result, and gamma priori correction result. Finally, the luminance channels of the detailed and basic layers are fused to obtain an enhanced image. The experimental results showed that the average gradient and information entropy of the fused detailed image were significantly improved. In addition, among the five selected methods, the SSIM index was higher than those of other algorithms, indicating less distortion in the enhanced images. Good results were achieved for both the BRISQUE and PSNR indicators.
-
Keywords:
- noise suppression /
- detail extraction /
- image fusion /
- low-light-level image
-
0. 引言
微型发光二极管（micro light emitting device，Micro-LED）作为一种自发光显示器件，具有高亮度、高集成度、长寿命和低功耗等优点，较传统液晶显示（liquid crystal display，LCD）和有机发光二极管（organic light-emitting device，OLED）显示技术，Micro-LED在显示效果、能耗以及使用寿命等方面拥有显著的优势，被认为是最具潜力的新一代显示技术[1-4]。Micro-LED微型显示器像素尺寸小于10 μm，能够实现更高的分辨率和对比度，提供更清晰、细腻的画质体验，有助于构建更为紧凑高效的显示系统，在可穿戴设备、增强现实（augmented reality，AR）、虚拟现实（virtual reality，VR）、微型投影仪、3D打印、汽车抬头显示以及可见光通讯等众多领域具有广泛的应用前景[5-11]。
随着技术的持续革新和市场的逐渐成熟，Micro-LED微型显示器技术研究和产业正展现出迅猛发展的势头。美国德州理工大学Hongxing Jiang团队2012年制备10×10阵列的Micro-LED器件，并实现其显示功能[12]。香港科技大学Keimay Lau团队2012年开发了360PPI的Micro LED显示原型机，并于2014年将显示器分辨率提升至1700PPI[13]。美国德克萨斯科学技术大学Day等人研制出超高分辨率的Micro-LED阵列，该器件由640×480个像素组成，Micro-LED阵列的台面尺寸为12 μm，像素间隔为3 μm[14]。然而，尽管前景广阔，Micro-LED微型显示技术的商业化和产业化道路仍充满挑战。技术难题、生产成本、市场接受度等问题，都亟待行业内外共同努力，以期实现显著的产业化突破[15-17]。本文基于云南北方奥雷德光电科技股份有限公司自主开发的WVGA041硅基IC驱动电路，将LED微显示芯片与IC电路进行互连，制备出了高亮单色绿光Micro-LED微型显示器件，显示器像素尺寸11.1 μm×11.1 μm，像素阵列800×480，并对器件性能进行了相应表征及研究。
1. 微型显示器件驱动及像素结构
1.1 微型显示驱动电路
像素驱动单元电路如图 1所示。LED采用电压驱动方式，视频信号Video_In在扫描信号ROWSEL和ROWSEL_B同时有效后，经P1、N1向储能电容C充电，同时控制N2的输出。储能电容C可保证在一帧/场周期内维持N2的输出。N2采用源极跟随器结构，控制5 V电源（Van）施加到阳极的电压。所有像素点的阴极连接到负电压Vcom，Vcom可通过寄存器进行调节，从而实现整个显示屏的亮度调整。N3用于对器件寄生电容实现快速放电，可在每次刷新数据前将残余电荷彻底放净，从而保证每次刷新的有效充电和显示。N3的放电设置可通过寄存器进行控制。
WVGA041系列产品的硅基板采用0.18 μm CMOS工艺制造，集成了全数字视频信号处理及804×3×484个驱动单元等电路。系统功能结构如图 2所示，其核心组成部分主要由数字视频信号接口、数字视频信号处理、测试图案发生器、数字伽马校正、灰度映射、D/A转换、行列扫描、像素驱动阵列、两线串行通信接口、3线SPI接口、可编程控制逻辑单元、温度传感器、DC/DC转换等功能模块组成。
数字视频信号接口具有3个8位数据通道，可接受8/16/24位的RGB或YCbCr视频信号。内部解码器根据不同的视频输入格式解码输出24位RGB信号；数字视频信号处理电路接收24位RGB信号后，对视频信号的亮度、对比度分别进行调整，并保持24位RGB信号输出；伽马校正电路对24位RGB信号进行查表校正后，扩展至30位RGB信号输出；灰度映射电路通过D/A转换，将30位RGB数字信号转换为三路模拟RGB亮度电平信号，再通过行列驱动扫描电路按扫描时序依次注入到各亚像素点驱动单元储存；驱动单元电路将RGB亮度电平信号施加到LED发光二极管阳极，并维持一帧/场周期时间。DC/DC模块通过外部提供的电源和PCB背板的外围元件，产生一个负电压（Vcom）施加到全部LED像素发光二极管的公共阴极，配合前述阳极亮度电平信号，使各LED像素在一帧/场的周期时间内持续发光。
1.2 微型显示芯片LED像素设计
自主研发的Micro-LED微型显示器采用倒装焊接工艺，将基于商用氮化镓LED外延制备的LED微显示芯片与公司自有白光OLED微型显示器驱动IC进行倒装焊互连。IC上的驱动像素单元按垂直列条状排列（如图 3所示），在OLED器件中，每个白光像素点由红、绿、蓝三个亚像素点构成。亚像素尺寸为2.8 μm×11.1 μm，间距0.9 μm。在LED器件中，在IC驱动像素上通过蒸镀金属将3个亚像素连接在一起，3个像素均传导相同电信号。发光像素尺寸为11.1 μm×11.1 μm，有效像素为800×480。每个像素的尺寸、发光面积与显示面积的占空比、显示区域尺寸如表 1所示。
表 1 显示器相关信息列表Table 1. Related parameters of the display diodePixel size Duty cycle Display area size Width(W)/μm Height(H)/ μm 69.50% Width(W)/mm Height(H)/mm 11.1 11.1 8.92 5.37 2. 器件制备
器件制备借助MEMS工艺平台，综合CMOS电路结构及工艺需求，使用2 inch绿光蓝宝石衬底GaN基LED外延制备Micro-LED显示芯片。主要工艺流程如图 4所示，首先对LED外延片进行P面金属光刻工艺，蒸镀P面金属，并将冗余金属区域通过剥离工艺，制备P型欧姆接触电极；之后进行光刻，制备像素阵列，使用ICP干法刻蚀设备定义出显示像素阵列；然后沉积二氧化硅薄膜作为显示像素侧壁钝化层，并进行钝化层光刻，使用ICP设备对P型接触电极上方的钝化膜刻蚀掉，打开欧姆接触孔；然后，进行N面金属光刻工艺，蒸镀N型欧姆接触电极，形成共阴极。
Micro-LED显示芯片工艺完成后，使用刀轮对2 inch片切割，分立成具备完整显示功能的0.41 inch小片。之后，使用倒装焊接设备，将Micro-LED显示芯片与驱动电路键合到一起。最后，采用打线封装工艺，将倒焊好的器件与PCB电路板贴片连接。器件的亮度及光谱由PR-655光度计测量，电流和电压通过Keithley2400测试仪所组成的测试系统测量，外量子效率由远方光电PCE-2000B积分球测量。
3. 结果和讨论
图 5为Micro-LED芯片像素阵列扫描电子显微镜（scanning electron microscope，SEM）图，由图可知，像素为正方形，像素尺寸为11.1 μm×11.1 μm，相邻两像素间距为0.9 μm，与实验设计一致，分辨率为800×480。
在实验中，由于采用的驱动IC专为OLED微型显示器设计，其输出电流较低，尽管足够点亮氮化镓基Micro-LED器件，但未能完全展现Micro-LED在大电流工作状态下所能达到的高亮度效果。为了更好地评估器件的性能，我们采用两点测试法，在CMOS驱动的N2衬底（如图 1所示）施加正向电压，Vcom端接地，通过外接电源替代驱动IC供电，模拟大电流驱动环境点亮整个显示屏，以获取该显示屏在大电流驱动下的测试数据，从而更深入地研究其光电特性。
图 6为器件的电流-电压-亮度特性曲线。如图 6(a)所示，启亮电压仅为2.8 V，低启亮电压意味着器件具备更短的响应时间，这一特性对于需要高刷新率的应用场景尤为重要。此外，低启亮电压还有助于提升器件的稳定性和延长其使用寿命。如图(b)所示电压为4 V时，电流162 mA，器件亮度为42855 cd/m2，电压为5.0 V，电流294 mA，亮度为108000 cd/m2。电压为7.5 V，电流607 mA，亮度为251000 cd/m2。有研究显示，OLED微型显示器在3.4 V驱动电压下，器件发光亮度为10000 cd/m2左右[18]。与OLED相比，该显示屏拥有极高的亮度，这得益于其单个LED的高效能转换，使得在明亮环境中仍能保持出色的可视性。
![]()
图 6 器件启亮电压与电流-电压-亮度特性曲线Figure 6. Characteristic curves of device turn-on voltage and I-V-L图 7为器件色坐标随电流密度的变化曲线，可以看出，电流密度从0.3 A/cm2增加到1.3 A/cm2时，色坐标从(0.178, 0.757)变化到(0.175, 0.746)，CIE-X坐标变化范围0.171~0.179，变化幅度小于0.010，CIE-Y坐标变化范围0.745~0.758，变化幅度小于0.015。随着电流密度的提高，器件的CIE-X和CIE-Y值呈现出相对稳定的变化趋势，这对于高亮显示应用十分重要。
![]()
图 7 器件色坐标随电流密度变化曲线Figure 7. The chromaticity of the green micro-LED device versus current density图 8展示了器件在不同电流下的电致发光（EL）光谱。其中图 8(a)为原始光谱图。可以看出，随着电流的增加，光强呈现出显著的增强趋势。图 8(b)为图 8(a)的归一化光谱图，可以看出，尽管电流变化，但器件的峰值波长稳定在524 nm，且半峰宽为28 nm，呈现出较为集中的发光特性。将其峰值部分放大，其结果展示在图 8(b)的插图中，波峰的位置在电流变化的过程中几乎保持不变，这表明器件在发光过程中具有出色的稳定性，即使在电流变化的情况下，光谱也并未发生明显的偏移，体现了器件优良的光电性能和可靠的发光机制。
图 9展示了器件的外量子效率（external quantum efficiency，EQE）随电流密度的变化曲线，EQE值随电流密度增大，先增后减。在电流密度较低时，随着电流的增加，载流子填充缺陷，SRH复合得到抑制，EQE值上升。当电流密度攀升到1.67 A/cm2左右，EQE达到最高点，之后电流增大，EQE值下降。这是因为大电流注入下，载流子泄露造成的俄歇复合加剧，影响了器件效率。此外，大电流下的热效应同样会加剧EQE下降，限制了光电转换效率的进一步提升。
通过倒装焊工艺，成功开发了绿光Micro-LED微型显示器件，实现了驱动芯片对单个LED的独立控制，并能完成视频信号输入后的画面显示（如图 10），并具备亮度、对比度、伽马校正等功能的控制和调整。
4. 总结
制备了一款0.41 inch、分辨率为800×480的氮化镓基单色绿光Micro-LED微型显示器，利用高精度焊技术实现CMOS驱动电路与LED发光芯片的电气连接，实现了视频画面显示，并研究其光电特性。实验结果表明，在CMOS电路驱动范围内，器件最大亮度可达250000 cd/m2，其启亮电压2.8 V，能够满足高亮度的应用需求。电流密度从0.3 A/cm2增加到1.3 A/cm2时，色坐标从(0.178，0.757)变化到(0.175, 0.746)，区间内CIE-X坐标变化范围0.171~0.179，CIE-Y坐标变化范围0.745~0.758，器件的色稳定性能够满足实际应用要求。制备的单色绿光micro-LED微型显示器具备高亮度、低启亮电压和良好色稳定性等特性，为虚拟现实（VR）、增强现实（AR）、可穿戴设备、智能眼镜、医疗影像和军事领域等提供了理想的显示解决方案，研究的成果具有显著的优势和广阔的应用前景。
-
![]()
图 8 不同算法对不同类型的微光图像的处理对比
Figure 8. Comparison of different algorithms for processing different low-light images
![]()
图 9 不同算法对不同类型的微光图像的处理对比
Figure 9. Comparison of different algorithms for processing different low-light images
表 1 不同图像的AG和Entropy提升
Table 1 AG and Entropy boosts for different images
% Image 1 Image 2 Image 3 Image 4 Image 5 Image 6 Image 7 Image 8 Image 9 Image 10 Image 11 Image 12 Image 13 Image 14 Improvement of AG 21.81 26.30 23.02 27.10 32.65 29.59 19.91 46.67 31.70 44.09 45.13 21.71 21.00 17.75 Improvement of entropy 31.21 29.61 43.62 35.46 37.44 25.95 24.11 37.02 27.29 36.01 34.96 36.91 36.9 35.93 
下载: 导出CSV
表 2 不同微光图像的定量分析
Table 2 Quantitative analysis of different low-light images
CLAHE MSRCR LIME Dong BIMEF Ours People BRISQUE 26.9512 26.9512 28.2351 40.9813 24.0077 17.234 Entropy 6.6333 6.6333 7.633 7.2279 6.8141 7.2535 NRSS 1.0126 1.0126 1.0023 0.9853 1.0053 1.0167 Table BRISQUE 26.5168 24.3462 34.0021 43.3599 29.8545 15.2473 Entropy 7.5454 7.3465 7.8242 7.753 7.412 7.7911 NRSS 0.9514 0.9539 0.9736 0.9714 0.9831 0.9963 Chair BRISQUE 26.8267 21.4651 29.4617 28.5589 39.0617 16.9667 Entropy 6.4688 5.8495 7.1195 6.4419 6.9101 6.8246 NRSS 1.0086 0.9745 0.9848 0.992 0.9935 1.0208 Cat BRISQUE 37.1413 40.3425 36.7332 36.7464 37.1779 31.0763 Entropy 4.8146 4.5755 4.8567 4.8433 5.4237 5.0891 NRSS 0.9982 0.9703 0.9831 1.0012 1.0057 1.0069 Bus BRISQUE 22.9972 16.9942 21.7106 19.599 27.64 5.8177 Entropy 7.1323 6.1629 7.7195 7.2287 7.5483 7.5326 NRSS 0.9568 0.9758 1.0009 0.9491 0.9533 0.9928 Boat BRISQUE 28.4463 24.3631 34.4487 24.0482 43.4573 27.6673 Entropy 7.3459 6.2219 7.3408 7.022 7.467 7.452 NRSS 0.971 0.9803 0.9915 0.9867 1.0069 1.0231
下载: 导出CSV
表 3 不同微光图像的SSIM和PSNR测试结果
Table 3 SSIM and PSNR test results for different low-light images
CLAHE MSRCR LIME Dong BIMEF Ours Building SSIM 0.683 0.69 0.913 0.783 0.828 0.918 PSNR 8.059 17.284 19.619 17.280 16.946 25.093 Scenery SSIM 0.649 0.515 0.712 0.740 0.791 0.787 PSNR 13.037 13.306 13.682 19.753 22.818 17.084 Animal SSIM 0.475 0.528 0.926 0.813 0.869 0.939 PSNR 8.237 15.084 18.800 15.381 20.507 22.449 Plant SSIM 0.869 0.567 0.756 0.936 0.904 0.965 PSNR 16.359 11.887 13.482 24.01200 20.824 26.833 Person SSIM 0.562 0.569 0.893 0.854 0.769 0.922 PSNR 10.451 12.770 16.320 17.801 21.142 19.917
下载: 导出CSV
表 4 不同算法的运行时间对比
Table 4 Comparison of running times of different algorithms
s Resolution 384×384 640×480 800×600 1280×720 1920×1080 CLAHE 0.023 0.047 0.058 0.069 0.135 MSRCR 0.225 0.297 0.379 0.683 1.344 LIME 1.347 3.155 5.090 7.267 29.729 Dong 1.108 2.346 3.567 6.892 15.610 BIMEF 0.076 0.166 0.215 0.434 0.840 Ours 0.100 0.205 0.329 0.666 1.873
下载: 导出CSV
-
[1] WANG L, WU B, WANG X, et al. Endoscopic image luminance enhancement based on the inverse square law for illuminance and retinex[J]. The International Journal of Medical Robotics and Computer Assisted Surgery, 2022, 18(4): e2396.
[2] 朱明秀. 视频图像处理技术在安防行业的应用[J]. 电子技术与软件工程, 2020(2): 155-156. ZHU M X. The application of video image processing technology in the security industry[J]. Electronic Technology & Software Engineering, 2020(2): 155-156.
[3] 曹行健, 张志涛, 孙彦赞, 等. 面向智慧交通的图像处理与边缘计算[J]. 中国图象图形学报, 2022, 27(6): 1743-1767. CAO X J, ZHANG Z T, SUN Y Z, et al. The review of image processing and edge computing for intelligent transportation system[J]. Journal of Image and Graphics, 2022, 27(6): 1743-1767.
[4] 马晓东. 数字图像处理技术在智能交通中的应用[J]. 电脑知识与技术, 2022, 18(21): 123-124. MA X D. Application of digital image processing technology in intelligent transportation[J]. Computer Knowledge and Technology, 2022, 18(21): 123-124.
[5] WANG W, WU X, YUAN X, et al. An experiment-based review of low-light image enhancement methods[J]. IEEE Access, 2020, 8: 87884-87917. DOI: 10.1109/ACCESS.2020.2992749
[6] 扈佃海, 吕绪良, 文刘强. 一种改进的直方图均衡化图像增强方法[J]. 光电技术应用, 2012, 27(3): 65-68. HU D H, LV X L, WEN L Q. An improved method of histogram equalization image enhancement[J]. Electro-Optic Technology Application, 2012, 27(3): 65-68.
[7] 黄辉先, 陈凡浩. 基于注意力机制和Retinex的低照度图像增强方法[J]. 激光与光电子学进展, 2020, 57(20): 53-60. HUANG H X, CHEN F H. Low-illumination image enhancement method based on attention mechanism and Retinex[J]. Laser & Optoelectronics Progress, 2020, 57(20): 53-60.
[8] 何锦成, 韩永成, 张闻文, 等. 基于通道校正卷积的真彩色微光图像增强[J]. 兵工学报, 2023, 44(6): 1643-1654. HE J C, HAN Y C, ZHANG W W, et al. True color low-light image enhancement based on channel-calibrated convolution[J]. Acta Armamentarii, 2023, 44(6): 1643-1654.
[9] Lore K G, Akintayo A, Sarkar S. LLNet: A deep autoencoder approach to natural low-light image enhancement[J]. Pattern Recognition, 2017, 61: 650-662. DOI: 10.1016/j.patcog.2016.06.008
[10] 赵兴运, 孙帮勇. 融合注意力机制和上下文信息的微光图像增强[J]. 中国图象图形学报, 2022, 27(5): 1565-1576. ZHAO X Y, SUN B Y. An attention mechanism and contextual information based low-light image enhancement method[J]. Journal of Image and Graphics, 2022, 27(5): 1565-1576.
[11] 刘嵘侃, 邢德智, 唐昭焕, 等. 低噪声CMOS图像传感器技术研究综述[J]. 半导体光电, 2020, 41(6): 768-773. LIU R K, XING D Z, TANG Z H, et al. An overview of low noise CMOS image sensor technique[J]. Semiconductor Optoelectronics, 2020, 41(6): 768-773.
[12] GAO Y, HU H M, LI B, et al. Naturalness preserved nonuniform illumination estimation for image enhancement based on retinex[J]. IEEE Transactions on Multimedia, 2017, 20(2): 335-344.
[13] LI C, TANG S, YAN J, et al. Low-light image enhancement via pair of complementary gamma functions by fusion[J]. IEEE Access, 2020, 8: 169887-169896. DOI: 10.1109/ACCESS.2020.3023485
[14] 杨斌. 基于FPGA的头戴显示器视频图像处理系统设计与实现[D]. 成都: 电子科技大学, 2021. YANG B. Design and Implementation of Video Image Processing System for Head-mounted Display Based on FPGA[D]. Chengdu: University of Electronic Science and Technology of China, 2021.
[15] 陈清江, 顾媛, 李金阳. 双分支金字塔网络的微光图像增强算法[J]. 液晶与显示, 2022, 37(3): 395-404. CHEN Q J, GU Y, LI J Y. Low-light level image enhancement algorithm based on double-branch pyramid model[J]. Chinese Journal of Liquid Crystals and Displays, 2022, 37(3): 395-404.
[16] 杨艳春, 李娇, 王阳萍. 图像融合质量评价方法研究综述[J]. 计算机科学与探索, 2018, 12(7): 1021-1035. YANG Y C, LI J, WANG Y P. Review of image fusion quality evaluation methods[J]. Journal of Frontiers of Computer Science & Technology, 2018, 12(7): 1021-1035.
[17] Zuiderveld K. Contrast limited adaptive histogram equalization[J]. Graphics Gems, 1994: 474-485.
[18] Petro A B, Sbert C, Morel J M. Multiscale retinex[J]. Image Processing On Line, 2014: 71-88. https://doi.org/10.5201/ipol.2014.107.
[19] GUO X, LI Y, LING H. LIME: low-light image enhancement via illumination map estimation[J]. IEEE Transactions on Image Processing, 2016, 26(2): 982-993.
[20] DONG X, PANG Y, WEN J. Fast efficient algorithm for enhancement of low lighting video[C]//IEEE International Conference on Multimedia and Expo, 2011: DOI: 10.1109/ICME.2011.6012107.
[21] YING Z, LI G, GAO W. A bio-inspired multi-exposure fusion framework for low-light image enhancement[J]. arXiv preprint arXiv, 1711.00591, 2017.
[22] Loh Y P, Chan C S. Getting to know low-light images with the exclusively dark dataset[J]. Computer Vision and Image Understanding, 2019, 178: 30-42.
[23] JIANG Y, GONG X, LIU D, et al. EnlightenGAN: deep light enhancement without paired supervision[J]. IEEE Transactions on Image Processing, 2021, 30: 2340-2349.
[24] Mittal A, Moorthy A K, Bovik A C. No-reference image quality assessment in the spatial domain[J]. IEEE Transactions on Image Processing, 2012, 21(12): 4695-4708.
[25] 谢小甫, 周进, 吴钦章. 一种针对图像模糊的无参考质量评价指标[J]. 计算机应用, 2010, 30(4): 921-924. XIE X F, ZHOU J, WU Q Z. No-reference quality index for image blur[J]. Journal of Computer Applications, 2010, 30(4): 921-924.
[26] ZHOU D, QIAN Y, MA Y, et al. Low illumination image enhancement based on multi-scale cycle GAN with deep residual shrinkage[J]. Journal of Intelligent & Fuzzy Systems, 2022, 42(3): 2383-2395.
[27] 刘柯, 李旭健. 水下和微光图像的去雾及增强方法[J]. 光学学报, 2020, 40(19): 73-85. LIU K, LI X J. De-hazing and enhancement methods for underwater and low-light images[J]. Acta Optica Sinica, 2020, 40(19): 73-85.
计量
- 文章访问数: 155
- HTML全文浏览量: 80
- PDF下载量: 49
