Design and Development of a Low-Light Detection Imaging System Circuit
-
摘要: 为满足微光遥感卫星领域对微光探测的需求，本文提出了一种基于微光CMOS图像传感器GSENSE2020的成像电路设计。该成像电路通过FPGA实现了对图像传感器的驱动控制以及高速图像数据的接收和传输，通过DC/DC和LDO（low dropout regulator）为图像传感器提供了低噪声供电电源，采用PMIC（power management IC）解决了FPGA上电时序问题，利用DDR3实现高速图像缓存与处理，采用eMMC达到图像数据存储速率与容量的需求，应用FPGA的IP核及原语代替CameraLink接口转换芯片实现CameraLink通信协议，从而完成图像数据直接在CameraLink接口的高速传输。实验结果表明，成像系统电路功能及性能都达到了预期设计目标，系统的输出数据率可达2.4 Gbps，帧频高达25 fps，信噪比达到45.5 dB。Abstract: To achieve low-light detection in low-light remote sensing satellites, an imaging circuit is designed based on a low-light complementary metal oxide semiconductor image sensor named GSENSE2020. The imaging circuit facilitates the drive control of the image sensor and the reception and transmission of high-speed image data through a field programmable gate array (FPGA), provides low-noise power supply for the image sensor through DC/DC and low-dropout regulator, and uses a power management integrated circuit to solve the problem of FPGA power-on timing. The circuit also uses DDR3 to perform high-speed image caching and processing and adopts an embedded multimedia card to meet the requirements of image data storage rate and capacity. The intellectual property core and primitives of the FPGA are used instead of a CameraLink interface conversion chip to establish the CameraLink communication protocol. Thus, the circuit can directly transmit image data with high speed to the CarameLink interface. The experimental results show that the circuit's functions and the performance of the imaging system reach the expected design goals. The output data rate of the system reaches 2.4 Gbps, frame rate reaches 25 fps, and signal-to-noise ratio reaches 45.5 dB.
-
Keywords:
- low-light detection /
- COMS image sensor /
- FPGA /
- LDO /
- PMIC /
- DDR3 /
- eMMC /
- CameraLink
-
0. 引言
混凝土材料往往因为预埋钢筋的腐蚀、水的侵蚀、连续的冻融循环、荷载等多种因素共同作用，产生裂缝、孔洞和分层等缺陷[1]。这些内部缺陷随着时间的推移会逐渐积聚、扩展，严重威胁着结构的耐久性和安全性[2]。主动红外热像检测方法作为一种无损检测手段，由于具有检测面积大、非接触式和应用操作简单等优点在混凝土结构检测领域得到了广泛的关注，并逐渐被应用到了隧道、桥梁现场检测中。
主动红外热像检测技术是一种利用红外热像仪检测材料内部缺陷的无损检测方法，其检测的基本原理是：材料被热激励后其表面红外辐射量因内部缺陷的存在而表现出差异，红外热像仪通过记录该差异，以获得材料内部的缺陷信息[3]。红外图像的信息提取与分析是红外热像检测技术的核心内容。理论上，根据热图像缺陷区域和正常区域之间的红外辐射差异可获得缺陷的信息。但实际上，红外图像本质是根据缺陷与正常区域之间的温度和辐射率生成的灰度图，而且红外光辐射的能量远比可见光低，因此到达光学镜头的红外辐射能很小，导致了红外图像与可见光图像相比只有较低的对比度，分辨弱小目标和细节能力差[4]；另外，红外光子的随机性、红外成像系统的固有特性以及热激励不均匀等给红外图像引入了许多噪声，在一定程度上改变了图像的原始信息，增加了图像分割及后续图像处理的难度[5-6]。传统的基于空域的红外图像处理方法主要分为两个大的步骤：首先，是对红外图像进行降噪和增强，常用的方法有高斯滤波、中值滤波、引导滤波、小波变换、Contourlet变换、三维块匹配算法等[7-10]；其次，对红外图像进行边缘特征的提取，常用的方法有：基于边缘的检测算法、基于数学形态的检测算法和最近发展较快的基于网络模型的检测算等[11-12]。传统的基于单张空域的红外图像处理方法虽然在一定程度上可以消除噪声的影响、提高图像的对比度，但是仍存在一些问题。第一，采集的数据集包含大量的热图像，每一帧红外图像都对应着某一时刻，依靠视觉手动选择缺陷信息丰富的红外图像进行缺陷信息的提取的识别费时费力。第二，在图像降噪、增强和图像分割过程中设定阈值会引入主观成分，干扰红外图像的解释。第三，仅仅分析单张红外图像，忽略采集过程中的时序信息可能会导致忽略一些边缘的缺陷信息[13-14]。
针对上述问题，本文提出了一种基于时序信息的红外图像缺陷信息提取方法。首先，通过室内实验制作含缺陷分层的混凝土试块，其次利用主动红外热像检测技术进行红外数据的采集，提取每个像素点的温度特征曲线，然后采用基于时序信息的提取方法进行含分层缺陷混凝土的缺陷提取，并与传统的基于空域的处理方法进行对比分析。
1. 基本原理
1.1 主动红外热像检测技术原理和系统
主动红外热像检测技术中，当以一定的距离对混凝土材料表面持续加热时，物体会吸收入射波的能量并将其转化为热能，并以温度场的形式表现出来。如果试样存在缺陷（本研究采用的是隔热型缺陷，模拟混凝土内部的空气分层缺陷），到达缺陷的大部分能量将反射到试样表面，引起表面正常区域和有缺陷区域温度场的差异。
利用红外热像仪记录整个检测过程中物体表面温度场的空间和时间分布信息，通过对红外图像数据进行分析和处理进而可以提取材料近表层的分层缺陷信息。主动红外热像检测技术采集到的一系列红外图像组成了一个三维的图像数据集[15]（尺寸：Nx×Ny×Nt，见图 1(a)），在空间维度上，每一帧对应着某一时刻红外热像仪所采集到的物体表面温度场信息，其像素个数为Nx×Ny；在时间维度上，每个像素点可以看作是一条随时间变化的温度特征曲线（Nt时间点组成），如图 1(b)所示，其中标签NT11 DEFECT表示缺陷区域的温度特征曲线，标签NT11 NORMAL表示正常区域的温度特征曲线。
![]()
图 1 主动红外热成像采集的数据结构：(a) 三维红外数据；(b) 像素点温度特征曲线Figure 1. Active infrared thermal imaging acquisition of data structures (a) Three-dimensional infrared data; (b) Temperature characteristic curves of pixels1.2 基于时序信息的缺陷信息提取原理
主动红外热像技术采集到的三维红外图像数据，其正常区域和含缺陷的区域每个像素点的温度特征曲线在冷却阶段会存在差异，如图 1(b)所示，利用这个特点我们可以采用许多能够分辨这个特征曲线差异值的相关算法进行缺陷信息的提取，本文采用相对简单、容易实施的K-means方法来提取混凝土的缺陷信息。K-means聚类方法的原理是同一类内的实体是相似的，一个类是测试空间中点的集合，同一类内任意一个点到其类中心的距离小于其到其它类中心的距离，我们可以用此算法分辨正常区域和缺陷区域的温度特征曲线[16]。K-means方法的关键是核函数的选取，核函数决定了其分辨能力，本文采用常用的马氏距离进行度量。其具体算法原理如下[17]：
假设给定的数据集为Y={y1, y2, …, ym}，其中yi=[X1, X2, …, Xn]，将数据对象划分为k类C={c1, c2, …, ck}，每个类有一个类中心U={u1, u2, …, uk}。选取欧式距离作为相似性和距离判断准则，计算ck类内各点到聚类中心uk的距离平方和，见公式(1)：
$$ J\left( {{c_k}} \right) = \sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} $$ (1) 聚类的目标是使各类总的距离平方和最小，见公式(2)：
$$ J(C) = \sum\limits_{k = 1}^K J \left( {{c_k}} \right) = \sum\limits_{k = 1}^K {\sum\limits_{{x_i} \in {C_k}} {{{\left\| {{x_i} - {u_k}} \right\|}^2}} } $$ (2) 根据最小二乘法和拉格朗日原理，聚类中心uk应该取为类别ck类各数据点的平均值。
K-means算法是一个反复迭代过程，目的是使聚类域中所有的点到聚类中心距离的平方和最小。
2. 实验与数据分析
2.1 实验过程
本次实验混凝土试件的设计强度为C50，尺寸为50 cm×50 cm×20 cm，在混凝土中嵌入4块尺寸为10 cm×10 cm的聚苯乙烯材料（隔热型材料），模拟混凝土中的分层缺陷，混凝土试块见图 2(a)。试验采用美国FLIR公司的A655SC非制冷型红外热像仪，其热灵敏度为30 mK，图像分辨率为640×480，标准测温范围为－40℃~150℃，波长范围为7.5~14 μm，见图 2(b)。主动热激励系统采用自制的配有自动控制加热时间的碳化硅远红外加热板，共2块，每块加热板的加热功率为500 W，见图 2(c)。整个实验过程中加热时间为5 min，冷却时间为10 min；加热完成后，立即用红外热像仪采集试样表面的冷却温度场，整个采集系统见图 3所示，本文选用的是持续加热法。
![]()
图 2 实验试块和仪器：(a) 混凝土试块；(b) 红外热像仪；(c) 红外加热板Figure 2. Test blocks and instruments: (a) Concrete test block; (b) Infrared thermal imager; (c) Infrared heating plate2.2 红外图像数据
实验采集到的红外图像序列如图 4所示，根据红外图像可以发现一共存在4块分层缺陷，各个缺陷之间存在温度场相互影响的干扰区，而且各个缺陷的轮廓比较模糊，存在被隐藏的缺陷信息。整个采集的红外图像数据的第一帧（0 s）最清晰，其正常区域和缺陷区域存在较大的温差；之后随着冷却的进行，正常区域和缺陷区域的温差逐渐减小，缺陷信息逐渐模糊，至最后一帧很难用肉眼分辨。
3. 红外图像处理和对比分析
3.1 红外图像缺陷提取
主动红外热像检测技术所采集的图像每一帧都含有大量的噪声，为了测试基于时序信息红外图像缺陷信息提取的可行性以及性能，本次在图像特征提取前不对图像进行预处理。首先，将红外图像数据按像素点逐个提取时间序列，组成聚类数据集；然后将时序数据序列输入到K-means程序中，进而得到每一帧各个像素点的聚类信息。为了提高运算效率，本次在图像序列处理中采样间隔为1，其序列长度减小为原来的一半。聚类完成后得到图像中每一个像素点所属的类别，进而完成对图像缺陷信息的提取。
图 5为经过聚类后的提取结果，通过观察发现4个缺陷信息都被提取出来，与原始红外图像相比（图 4），其缺陷信息有了明显的增强，缺陷信息完全肉眼可见，每个识别出的缺陷区域呈近似正方形，完整性相当好，接近于预埋缺陷的形状，而且缺陷提取后的图像序列的时序信息得以保留。
3.2 对比分析
为了测试基于时序信息红外图像分层缺陷的信息提取效果，本文采用基于空域的二维K-means图像缺陷信息提取算法与其进行对比。由于采集的红外图像数据集第一帧（0 s）缺陷信息最清晰，因此选用第一帧红外图像进行基于空域的分层缺陷信息提取。两种方法的分层缺陷信息提取结果见图 6，由图 6(b)所示，基于时序信息的分层缺陷提取方法4个分层缺陷都被完全提取出来，图 6(a)中模糊、隐藏的信息也被提取出来，缺陷细节分辨能力较好。由图 6(c)所示，基于空域信息的分层缺陷信息提取方法4个分层缺陷被识别为一个缺陷，缺陷细节分辨能力较差。通过分析可能是受缺陷之间温度场叠加的相互影响，缺陷之间区域（图 6(a)中虚线框内部所示的无缺陷区域）的温度信息和分层缺陷的温度场信息较为接近，而和图 6(a)的无缺陷边缘温度场信息差异较大，导致基于空域信息的提取方法效果较差；根据含缺陷混凝土试块的物理特性可知，存在分层缺陷和正常区域的温度特征曲线是存在差异的，基于时序信息的提取方法主要是根据每个像素点的温度特征曲线差异来提取特征，其提取缺陷的分辨能力和效果更好。
![]()
图 6 处理结果对比分析：(a) 红外原图；(b) 基于时序K-means方法；(c) 基于空域K-means方法Figure 6. Comparative analysis of processing results: (a) Original infrared image; (b) K-means method based on temporal information; (c) K-means method based on spatial information4. 结论
主动红外热像检测技术中，传统的红外图像处理方法在一定程度上可以消除噪声、提高图像的对比度，但是仍存在一些问题。针对上述问题，本文根据主动红外热成像的数据特点提出了一种基于时序信息的红外图像缺陷信息提取方法。结果表明，基于时序信息的缺陷提取方法是可行的，其可以提取到隐藏的缺陷信息，分层缺陷信息提取效果优于基于空域的K-means方法。
-
表 1 Base模式的端口分配
Table 1 Base mode port allocation
Input signal name 28-bit pin name Input signal name 28-bit pin name Strobe TxClk Out/RxClk In Port B2 TX/RX 9 LVAL TX/RX 24 Port B3 TX/RX12 FVAL TX/RX 25 Port B4 TX/RX 13 DVAL TX/RX 26 Port B5 TX/RX 14 Spare TX/RX 23 Port B6 TX/RX 10 Port A0 TX/RX 0 Port B7 TX/RX 11 Port A1 TX/RX 1 Port C0 TX/RX 15 Port A2 TX/RX 2 PortC1 TX/RX 18 Port A3 TX/RX 3 Port C2 TX/RX 19 Port A4 TX/RX 4 Port C3 TX/RX 20 Port A5 TX/RX 6 Port C4 TX/RX 21 Port A6 TX/RX 27 Port C5 TX/RX 22 Port A7 TX/RX 5 Port C6 TX/RX 16 Port B0 TX/RX 7 Port C7 TX/RX 17 Port B1 TX/RX 8 - - 
下载: 导出CSV
-
[1] 郭晖, 向世明, 田民强. 微光夜视技术发展动态评述[J]. 红外技术, 2013, 35(2): 63-68. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201302000.htm GUO Hui, XIANG Shiming, TIAN Minqiang. A review of the development of low-light night vision technology[J]. Infrared Technology, 2013, 35(2): 63-68. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201302000.htm
[2] 李德仁, 李熙. 夜光遥感技术在评估经济社会发展中的应用[J]. 宏观质量研究, 2015, 3(4): 1-8. DOI: 10.3969/j.issn.2095-607X.2015.04.001 LI D, LI X. Application of night-time light remote sensing in evaluating of socioeconomic development [J]. Journal of Macro-Quality Research, 2015, 3(4): 1-8. DOI: 10.3969/j.issn.2095-607X.2015.04.001
[3] 李翔. 基于夜光遥感数据的中国2005-2015年居民收入时空变化与驱动力研究[D]. 南京: 南京大学, 2018. LI X. Study on Spatiotemporal Change and Driving Force of Resident Income of China from 2005 to 2015 Based on Night Light Remote Sensing Data [D]. Nanjing: Nanjing University, 2018.
[4] 李立金, 李浩洋, 徐彭梅, 等. 晨昏轨道微光相机成像策略研究及仿真验证[J]. 航天返回与遥感, 2017, 38(5): 29-34. DOI: 10.3969/j.issn.1009-8518.2017.05.004 LI Lijin, LI Haoyang, XU Pengmei, et al. Simulation and verification of imaging strategy for low-light-level camera on dawn-dusk orbit[J]. Spacecraft Recovery & Remote Sensing, 2017, 38(5): 29-34. DOI: 10.3969/j.issn.1009-8518.2017.05.004
[5] 李贝贝, 韩冰, 田甜, 等. 吉林一号视频卫星应用现状与未来发展[J]. 卫星应用, 2018(3): 23-27. DOI: 10.3969/j.issn.1674-9030.2018.03.007 LI Beibei, HAN Bing, TIAN Tian, et al. Application status and future development of JL-1 video satellite[J]. Satellite Application, 2018(3): 23-27. DOI: 10.3969/j.issn.1674-9030.2018.03.007
[6] 郭晗. 珞珈一号科学试验卫星[J]. 卫星应用, 2018(7): 70. https://www.cnki.com.cn/Article/CJFDTOTAL-WXYG201807021.htm GUO Han. LJ-1 scientific test satellite[J]. Satellite Application, 2018(7): 70. https://www.cnki.com.cn/Article/CJFDTOTAL-WXYG201807021.htm
[7] 祝庆贺, 熊文卓, 贺小军. 基于FPGA的星载成像系统设计[J]. 现代电子技术, 2017, 40(15): 64-67. https://www.cnki.com.cn/Article/CJFDTOTAL-XDDJ201715019.htm ZHU Qinghe, XIONG Wenzhuo, HE Xiaojun. Design of satellite⁃borne imaging system based on FPGA[J]. Modern Electronics Technique, 2017, 40(15): 64-67. https://www.cnki.com.cn/Article/CJFDTOTAL-XDDJ201715019.htm
[8] 梁超, 马天翔. 基于FPGA的CMOS成像电路设计[J]. 国外电子测量技术, 2016, 35(4): 71-76. https://www.cnki.com.cn/Article/CJFDTOTAL-GWCL201604017.htm LIANG Chao, MA Tianxiang. Design of CMOS imaging circuit based on FPGA[J]. Foreign Electronic Measurement Technology, 2016, 35(4): 71-76. https://www.cnki.com.cn/Article/CJFDTOTAL-GWCL201604017.htm
[9] 郑扬帆, 尹达一, 李清灵, 等. 基于低噪声CMOS图像传感器的成像电路设计与实现[J]. 电子设计工程, 2018, 26(4): 188-193. DOI: 10.3969/j.issn.1674-6236.2018.04.041 ZHENG Yangfan, YIN Dayi, LI Qingling, et al. The design and implementation of imaging circuit based on low⁃noise CMOS image sensor[J]. Electronic Design Engineering, 2018, 26(4): 188-193. DOI: 10.3969/j.issn.1674-6236.2018.04.041
[10] 单彦虎, 张晋顼, 任勇峰, 等. 基于FPGA的CameraLink图像数据接口设计[J]. 仪表技术与传感器, 2020(9): 51-54. https://www.cnki.com.cn/Article/CJFDTOTAL-YBJS202009011.htm SHAN Yanhu, ZHANG Jinxu, REN Yongfeng, et al. Design of CamereLink image data interface based on FPGA[J]. Instrument Technique and Sensor, 2020(9): 51-54. https://www.cnki.com.cn/Article/CJFDTOTAL-YBJS202009011.htm
[11] 隋延林, 何斌, 张立国, 等. 基于FPGA的超高速CameraLink图像传输[J]. 吉林大学学报: 工学版, 2017, 47(5): 1634-1643. https://www.cnki.com.cn/Article/CJFDTOTAL-JLGY201705041.htm SUI Yanlin, HE Bin, ZHANG Liguo, et al. Ultra-high speed CamereLink image transmission based on FPGA[J]. Journal of Jilin University: Engineering and Technology Edition, 2017, 47(5): 1634-1643. https://www.cnki.com.cn/Article/CJFDTOTAL-JLGY201705041.htm
[12] 宁永慧, 刘辉, 赵庆磊, 等. 大面阵高帧频CMOS成像电子学系统设计[J]. 光学精密工程, 2019, 27(5): 1167-1177. https://www.cnki.com.cn/Article/CJFDTOTAL-GXJM201905020.htm NING Yonghui, LIU Hui, ZHAO Qinglei, et al. High-frame frequency imaging system of large area CMOS image sensor[J]. Optics and Precision Engineering, 2019, 27(5): 1167-1177. https://www.cnki.com.cn/Article/CJFDTOTAL-GXJM201905020.htm
-
期刊类型引用(2)
1. 李环宇，冯国会，刘馨，蒲毅，王涵. 基于红外热成像的围护结构热工性能定量检测方法研究进展. 太阳能学报. 2024(07): 427-437 . 
百度学术
2. 张迁，王剑，楚瑞博，陈欢欢. 基于BRISK-BEBLID特征的无人机图像快速配准方法. 激光杂志. 2023(06): 92-98 . 百度学术
其他类型引用(1)
计量
- 文章访问数: 151
- HTML全文浏览量: 78
- PDF下载量: 71
- 被引次数: 3
