基于生成式对抗网络的太赫兹图像增强

张鹏程, 何明霞, 陈硕, 张洪桢, 张欣欣

张鹏程, 何明霞, 陈硕, 张洪桢, 张欣欣. 基于生成式对抗网络的太赫兹图像增强[J]. 红外技术, 2021, 43(4): 391-396.
引用本文: 张鹏程, 何明霞, 陈硕, 张洪桢, 张欣欣. 基于生成式对抗网络的太赫兹图像增强[J]. 红外技术, 2021, 43(4): 391-396.
ZHANG Pengcheng, HE Mingxia, CHEN Shuo, ZHANG Hongzhen, ZHANG Xinxin. Terahertz Image Enhancement Based on Generative Adversarial Network[J]. Infrared Technology , 2021, 43(4): 391-396.
Citation: ZHANG Pengcheng, HE Mingxia, CHEN Shuo, ZHANG Hongzhen, ZHANG Xinxin. Terahertz Image Enhancement Based on Generative Adversarial Network[J]. Infrared Technology , 2021, 43(4): 391-396.

基于生成式对抗网络的太赫兹图像增强

详细信息
    作者简介:

    张鹏程(1995-),男,河南周口人,硕士生,研究方向为太赫兹成像及图像处理,E-mail:1298216729@qq.com

  • 中图分类号: TP751

Terahertz Image Enhancement Based on Generative Adversarial Network

  • 摘要: 太赫兹扫描成像中,由于激光器功率波动和仪器振动等原因,导致图像对比度较低,成像质量有待提高,且目前针对太赫兹图像的处理还停留在传统算法阶段。本文结合深度学习思想,提出了一种基于生成式对抗网络的图像增强方法。通过对训练集图像引入模糊和噪声,学习低质量图像和高质量图像之间的映射关系,并将其应用在真实太赫兹图像中。实验结果表明,与双边滤波、非局部均值滤波等传统算法相比,本文方法可在改善图像细节的基础上显著提高图像对比度,且视觉体验良好,这为太赫兹图像增强提供了新思路。
    Abstract: In terahertz scanning imaging, the image contrast is low due to laser power fluctuation and instrument vibration, and the imaging quality needs to be improved. At present, the processing of terahertz image is still in the traditional algorithm stage. In this paper, an image enhancement method based on Generative Adversarial Network is proposed, which includes the idea of deep learning. By introducing blur and noise into the training set image, the mapping relationship between low-quality images and high-quality images is learned and applied to real terahertz images. The experimental results show that, compared with traditional algorithms such as bilateral filtering and non-local mean filtering, this method can significantly improve the image contrast on the basis of improving image details, and has a good visual sense, which provides a new idea for terahertz image enhancement.
  • 微型发光二极管(micro light emitting device,Micro-LED)作为一种自发光显示器件,具有高亮度、高集成度、长寿命和低功耗等优点,较传统液晶显示(liquid crystal display,LCD)和有机发光二极管(organic light-emitting device,OLED)显示技术,Micro-LED在显示效果、能耗以及使用寿命等方面拥有显著的优势,被认为是最具潜力的新一代显示技术[1-4]。Micro-LED微型显示器像素尺寸小于10 μm,能够实现更高的分辨率和对比度,提供更清晰、细腻的画质体验,有助于构建更为紧凑高效的显示系统,在可穿戴设备、增强现实(augmented reality,AR)、虚拟现实(virtual reality,VR)、微型投影仪、3D打印、汽车抬头显示以及可见光通讯等众多领域具有广泛的应用前景[5-11]

    随着技术的持续革新和市场的逐渐成熟,Micro-LED微型显示器技术研究和产业正展现出迅猛发展的势头。美国德州理工大学Hongxing Jiang团队2012年制备10×10阵列的Micro-LED器件,并实现其显示功能[12]。香港科技大学Keimay Lau团队2012年开发了360PPI的Micro LED显示原型机,并于2014年将显示器分辨率提升至1700PPI[13]。美国德克萨斯科学技术大学Day等人研制出超高分辨率的Micro-LED阵列,该器件由640×480个像素组成,Micro-LED阵列的台面尺寸为12 μm,像素间隔为3 μm[14]。然而,尽管前景广阔,Micro-LED微型显示技术的商业化和产业化道路仍充满挑战。技术难题、生产成本、市场接受度等问题,都亟待行业内外共同努力,以期实现显著的产业化突破[15-17]。本文基于云南北方奥雷德光电科技股份有限公司自主开发的WVGA041硅基IC驱动电路,将LED微显示芯片与IC电路进行互连,制备出了高亮单色绿光Micro-LED微型显示器件,显示器像素尺寸11.1 μm×11.1 μm,像素阵列800×480,并对器件性能进行了相应表征及研究。

    像素驱动单元电路如图 1所示。LED采用电压驱动方式,视频信号Video_In在扫描信号ROWSEL和ROWSEL_B同时有效后,经P1N1向储能电容C充电,同时控制N2的输出。储能电容C可保证在一帧/场周期内维持N2的输出。N2采用源极跟随器结构,控制5 V电源(Van)施加到阳极的电压。所有像素点的阴极连接到负电压VcomVcom可通过寄存器进行调节,从而实现整个显示屏的亮度调整。N3用于对器件寄生电容实现快速放电,可在每次刷新数据前将残余电荷彻底放净,从而保证每次刷新的有效充电和显示。N3的放电设置可通过寄存器进行控制。

    图  1  像素驱动单元电路原理图
    Figure  1.  Pixel driver circuit schematic

    WVGA041系列产品的硅基板采用0.18 μm CMOS工艺制造,集成了全数字视频信号处理及804×3×484个驱动单元等电路。系统功能结构如图 2所示,其核心组成部分主要由数字视频信号接口、数字视频信号处理、测试图案发生器、数字伽马校正、灰度映射、D/A转换、行列扫描、像素驱动阵列、两线串行通信接口、3线SPI接口、可编程控制逻辑单元、温度传感器、DC/DC转换等功能模块组成。

    图  2  WVGA041系统功能框图
    Figure  2.  WVGA041 function diagram

    数字视频信号接口具有3个8位数据通道,可接受8/16/24位的RGB或YCbCr视频信号。内部解码器根据不同的视频输入格式解码输出24位RGB信号;数字视频信号处理电路接收24位RGB信号后,对视频信号的亮度、对比度分别进行调整,并保持24位RGB信号输出;伽马校正电路对24位RGB信号进行查表校正后,扩展至30位RGB信号输出;灰度映射电路通过D/A转换,将30位RGB数字信号转换为三路模拟RGB亮度电平信号,再通过行列驱动扫描电路按扫描时序依次注入到各亚像素点驱动单元储存;驱动单元电路将RGB亮度电平信号施加到LED发光二极管阳极,并维持一帧/场周期时间。DC/DC模块通过外部提供的电源和PCB背板的外围元件,产生一个负电压(Vcom)施加到全部LED像素发光二极管的公共阴极,配合前述阳极亮度电平信号,使各LED像素在一帧/场的周期时间内持续发光。

    自主研发的Micro-LED微型显示器采用倒装焊接工艺,将基于商用氮化镓LED外延制备的LED微显示芯片与公司自有白光OLED微型显示器驱动IC进行倒装焊互连。IC上的驱动像素单元按垂直列条状排列(如图 3所示),在OLED器件中,每个白光像素点由红、绿、蓝三个亚像素点构成。亚像素尺寸为2.8 μm×11.1 μm,间距0.9 μm。在LED器件中,在IC驱动像素上通过蒸镀金属将3个亚像素连接在一起,3个像素均传导相同电信号。发光像素尺寸为11.1 μm×11.1 μm,有效像素为800×480。每个像素的尺寸、发光面积与显示面积的占空比、显示区域尺寸如表 1所示。

    图  3  像素排列图
    Figure  3.  Pixel arrangement diagram
    表  1  显示器相关信息列表
    Table  1.  Related parameters of the display diode
    Pixel size Duty cycle Display area size
    Width(W)/μm Height(H)/ μm 69.50% Width(W)/mm Height(H)/mm
    11.1 11.1 8.92 5.37
    下载: 导出CSV 
    | 显示表格

    器件制备借助MEMS工艺平台,综合CMOS电路结构及工艺需求,使用2 inch绿光蓝宝石衬底GaN基LED外延制备Micro-LED显示芯片。主要工艺流程如图 4所示,首先对LED外延片进行P面金属光刻工艺,蒸镀P面金属,并将冗余金属区域通过剥离工艺,制备P型欧姆接触电极;之后进行光刻,制备像素阵列,使用ICP干法刻蚀设备定义出显示像素阵列;然后沉积二氧化硅薄膜作为显示像素侧壁钝化层,并进行钝化层光刻,使用ICP设备对P型接触电极上方的钝化膜刻蚀掉,打开欧姆接触孔;然后,进行N面金属光刻工艺,蒸镀N型欧姆接触电极,形成共阴极。

    图  4  微显示器件的结构及制作流程
    Figure  4.  Micro-LED device structure and the fabrication process

    Micro-LED显示芯片工艺完成后,使用刀轮对2 inch片切割,分立成具备完整显示功能的0.41 inch小片。之后,使用倒装焊接设备,将Micro-LED显示芯片与驱动电路键合到一起。最后,采用打线封装工艺,将倒焊好的器件与PCB电路板贴片连接。器件的亮度及光谱由PR-655光度计测量,电流和电压通过Keithley2400测试仪所组成的测试系统测量,外量子效率由远方光电PCE-2000B积分球测量。

    图 5为Micro-LED芯片像素阵列扫描电子显微镜(scanning electron microscope,SEM)图,由图可知,像素为正方形,像素尺寸为11.1 μm×11.1 μm,相邻两像素间距为0.9 μm,与实验设计一致,分辨率为800×480。

    图  5  Micro-LED微显示像素阵列SEM图
    Figure  5.  The SEM image of Micro-LED pixel array

    在实验中,由于采用的驱动IC专为OLED微型显示器设计,其输出电流较低,尽管足够点亮氮化镓基Micro-LED器件,但未能完全展现Micro-LED在大电流工作状态下所能达到的高亮度效果。为了更好地评估器件的性能,我们采用两点测试法,在CMOS驱动的N2衬底(如图 1所示)施加正向电压,Vcom端接地,通过外接电源替代驱动IC供电,模拟大电流驱动环境点亮整个显示屏,以获取该显示屏在大电流驱动下的测试数据,从而更深入地研究其光电特性。

    图 6为器件的电流-电压-亮度特性曲线。如图 6(a)所示,启亮电压仅为2.8 V,低启亮电压意味着器件具备更短的响应时间,这一特性对于需要高刷新率的应用场景尤为重要。此外,低启亮电压还有助于提升器件的稳定性和延长其使用寿命。如图(b)所示电压为4 V时,电流162 mA,器件亮度为42855 cd/m2,电压为5.0 V,电流294 mA,亮度为108000 cd/m2。电压为7.5 V,电流607 mA,亮度为251000 cd/m2。有研究显示,OLED微型显示器在3.4 V驱动电压下,器件发光亮度为10000 cd/m2左右[18]。与OLED相比,该显示屏拥有极高的亮度,这得益于其单个LED的高效能转换,使得在明亮环境中仍能保持出色的可视性。

    图  6  器件启亮电压与电流-电压-亮度特性曲线
    Figure  6.  Characteristic curves of device turn-on voltage and I-V-L

    图 7为器件色坐标随电流密度的变化曲线,可以看出,电流密度从0.3 A/cm2增加到1.3 A/cm2时,色坐标从(0.178, 0.757)变化到(0.175, 0.746),CIE-X坐标变化范围0.171~0.179,变化幅度小于0.010,CIE-Y坐标变化范围0.745~0.758,变化幅度小于0.015。随着电流密度的提高,器件的CIE-X和CIE-Y值呈现出相对稳定的变化趋势,这对于高亮显示应用十分重要。

    图  7  器件色坐标随电流密度变化曲线
    Figure  7.  The chromaticity of the green micro-LED device versus current density

    图 8展示了器件在不同电流下的电致发光(EL)光谱。其中图 8(a)为原始光谱图。可以看出,随着电流的增加,光强呈现出显著的增强趋势。图 8(b)图 8(a)的归一化光谱图,可以看出,尽管电流变化,但器件的峰值波长稳定在524 nm,且半峰宽为28 nm,呈现出较为集中的发光特性。将其峰值部分放大,其结果展示在图 8(b)的插图中,波峰的位置在电流变化的过程中几乎保持不变,这表明器件在发光过程中具有出色的稳定性,即使在电流变化的情况下,光谱也并未发生明显的偏移,体现了器件优良的光电性能和可靠的发光机制。

    图  8  器件各电流下的EL光谱特性
    Figure  8.  Characteristic of EL spectra with different current value

    图 9展示了器件的外量子效率(external quantum efficiency,EQE)随电流密度的变化曲线,EQE值随电流密度增大,先增后减。在电流密度较低时,随着电流的增加,载流子填充缺陷,SRH复合得到抑制,EQE值上升。当电流密度攀升到1.67 A/cm2左右,EQE达到最高点,之后电流增大,EQE值下降。这是因为大电流注入下,载流子泄露造成的俄歇复合加剧,影响了器件效率。此外,大电流下的热效应同样会加剧EQE下降,限制了光电转换效率的进一步提升。

    图  9  器件EQE随电流密度变化曲线
    Figure  9.  Normalized EQE as a function of current density

    通过倒装焊工艺,成功开发了绿光Micro-LED微型显示器件,实现了驱动芯片对单个LED的独立控制,并能完成视频信号输入后的画面显示(如图 10),并具备亮度、对比度、伽马校正等功能的控制和调整。

    图  10  Micro-LED微显示器件显示图片
    Figure  10.  Display image of micro-LED device

    制备了一款0.41 inch、分辨率为800×480的氮化镓基单色绿光Micro-LED微型显示器,利用高精度焊技术实现CMOS驱动电路与LED发光芯片的电气连接,实现了视频画面显示,并研究其光电特性。实验结果表明,在CMOS电路驱动范围内,器件最大亮度可达250000 cd/m2,其启亮电压2.8 V,能够满足高亮度的应用需求。电流密度从0.3 A/cm2增加到1.3 A/cm2时,色坐标从(0.178,0.757)变化到(0.175, 0.746),区间内CIE-X坐标变化范围0.171~0.179,CIE-Y坐标变化范围0.745~0.758,器件的色稳定性能够满足实际应用要求。制备的单色绿光micro-LED微型显示器具备高亮度、低启亮电压和良好色稳定性等特性,为虚拟现实(VR)、增强现实(AR)、可穿戴设备、智能眼镜、医疗影像和军事领域等提供了理想的显示解决方案,研究的成果具有显著的优势和广阔的应用前景。

  • 图  1   GAN流程图

    Figure  1.   Flow chart of GAN

    图  2   SRGAN网络框架结构

    Figure  2.   Framework of SRGAN

    图  3   图像数据集示例

    Figure  3.   Image dataset example

    图  4   训练过程中曲线变化

    Figure  4.   Variation curves change during training

    图  5   不同算法实验结果比较

    Figure  5.   Comparison of experimental results of different algorithms

    表  1   不同方法PSNR、对比度计算结果

    Table  1   PSNR and contrast calculation results by differentmethods

    Bilateral filtering Nonlocal mean filtering Our algorithm
    PSNR 28.18 26.87 25.28
    Contrast 178.69 134.48 375.98
    下载: 导出CSV
  • [1] 郑显华, 王新柯, 孙文峰, 等. 太赫兹数字全息术的研发与应用[J]. 中国激光, 2014, 41(2): 0209003. https://www.cnki.com.cn/Article/CJFDTOTAL-JJZZ201402004.htm

    ZHENG Xianhua, WANG Xinke, SUN Wenfeng, et al. Developments and applications of the terahertz digital holography[J]. Chinese J. Lasers, 2014, 41(2): 0209003. https://www.cnki.com.cn/Article/CJFDTOTAL-JJZZ201402004.htm

    [2] 张馨, 赵源萌, 张存林. 被动式太赫兹图像分割算法[J]. 强激光与粒子束, 2013, 25(6): 1597-1600. https://www.cnki.com.cn/Article/CJFDTOTAL-QJGY201306056.htm

    ZHANG Xin, ZHAO Yuanmeng, ZHANG Cunlin. Passive terahertz image segmentation algorithm[J]. High Power Laser and Particle Beams, 2013, 25(6): 1597-1600. https://www.cnki.com.cn/Article/CJFDTOTAL-QJGY201306056.htm

    [3] 徐利民. 高分辨太赫兹图像处理[D]. 西安: 中国科学院研究生院(西安光学精密机械研究所), 2013.

    XU Limin. High Resolution Terahertz Image Processing[D]. Xi an: University of Chinese Academy of Sciences (Xi'an Institute of Optics and Precision Mechanics), 2013.

    [4] 李琦, 杨永发, 胡佳琦. 一种用于太赫兹共焦扫描图像复原的复合算法[J]. 红外与激光工程, 2015, 44(1): 321-326. DOI: 10.3969/j.issn.1007-2276.2015.01.055

    LI Qi, YANG Yongfa, HU Jiaqi. A composite algorithm used for terahertz confocal scanning image restoration[J]. Infrared and Laser Engineering, 2015, 44(1): 321-326. DOI: 10.3969/j.issn.1007-2276.2015.01.055

    [5] 杨永发, 李琦. 双边滤波算法的太赫兹共焦扫描图像去噪应用[J]. 激光与光电子学进展, 2015, 52(12): 121101. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ201512015.htm

    YANG Yongfa, LI Qi. Application of bilateral filtering algorithm on terahertz confocal scanning image denoising[J]. Laser & Optoelectronics Progress, 2015, 52(12): 121101. https://www.cnki.com.cn/Article/CJFDTOTAL-JGDJ201512015.htm

    [6]

    DONG C, CHEN C L, HE K, et al. Learning a Deep Convolutional Network for Image Super-Resolution[M]//Computer Vision – ECCV Springer International Publishing, 2014: 184-199.

    [7]

    Ledig C, Theis L, Huszar F, et al. Photo-realistic single image super-resolution using a generative adversarial network[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), IEEE, 2017: 4681-4690.

    [8] 卢贺洋, 苏胜君, 袁明辉, 等. 太赫兹图像的超分辨率重建[J]. 红外技术, 2019, 41(1): 59-63. http://hwjs.nvir.cn/article/id/hwjs201901009

    LU Heyang, SU Shengjun, YUN Minghui, et al. Super-resolution reconstruction of terahertz image[J]. Infrared Technology, 2019, 41(1): 59-63. http://hwjs.nvir.cn/article/id/hwjs201901009

    [9]

    Johnson J, Alahi A, LI F. Perceptual losses for real-time style transfer and super-resolution[C]//In European Conference on Computer Vision (ECCV), Springer, 2016: 694-711.

    [10]

    Gross S, Wilber M. Training and investigating residual nets, online[EB/OL]. [2016-02-04]. http://torch.ch/blog/.

    [11]

    Shi W, Caballero J, Huszar F, et al. Real-time single image and video super-resolution using an efficient sub-pixel convolutional neural network[C]//IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2016: 1874-1883.

    [12]

    Radford A, Metz L, Chintala S. Unsupervised representation learning with deep convolutional generative adversarial networks[C]// International Conference on Learning Representations (ICLR), 2016: 1-16.

    [13]

    Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[C]//International Conference on Learning Representations (ICLR), 2015: 268-282.

    [14]

    Bruna J, Sprechmann P, Lecun Y. Super-resolution with deep convolutional sufficient statistics[C]//International Conference on Learning Representations (ICLR), 2016: 352-369.

    [15]

    Gatys L A, Ecker A S, Bethge M. Texture synthesis using convolutional neural networks[C]//Advances in Neural Information Processing Systems (NIPS), 2015: 262-270.

    [16]

    Goodfellow I, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//Advances in Neural Information Processing Systems (NIPS), 2014: 2672-2680.

  • 期刊类型引用(3)

    1. 王智军,郭艳光,王鹏. 最小生成树分割下小样本图像纹理提取研究. 计算机仿真. 2024(02): 227-231 . 百度学术
    2. 公希萌,赵亮凯. 基于三维激光视觉技术的平面设计图像增强和优化研究. 激光杂志. 2023(04): 158-163 . 百度学术
    3. 何智博,曾祥进,邓晨,宋彭彭. 基于局部熵-局部对比度和双区域直方图均衡化的红外图像增强. 红外技术. 2023(06): 598-604 . 本站查看

    其他类型引用(2)

图(5)  /  表(1)
计量
  • 文章访问数:  416
  • HTML全文浏览量:  245
  • PDF下载量:  61
  • 被引次数: 5
出版历程
  • 收稿日期:  2019-09-28
  • 修回日期:  2019-11-03
  • 刊出日期:  2021-04-19

目录

/

返回文章
返回