Implementation of a Histogram Equalization Algorithm Based on Image Segmentation
-
摘要: 红外原始图像对比度低,动态范围高,而且不同场景信号动态范围不一样,为了得到更好的图像效果,需要对红外图像原始数据进行灰度变换。本文针对全局直方图均衡增强算法的不足,提出了一种基于区域分割的直方图均衡增强方法。通过将图像分割成多个区域,每个区域分别做直方图均衡,然后通过线性插值对图像做像素重构,有效地改善了红外热成像系统的图像质量,对比度和图像细节信息得到很大的增强。该算法易于在FPGA中实现,且取得了较好的效果。Abstract: Original infrared images have a low contrast and high dynamic range, with the dynamic range varying between scenes. To obtain better images, it is necessary to transform the original infrared image data. Aiming to overcome the deficiency of the global histogram equalization algorithm, this study proposes a histogram equalization method based on region segmentation. By dividing the image into several regions, each region is histogram balanced; subsequently, pixels are reconstructed by linear interpolation. This effectively improves the image quality of the infrared thermal imaging system, greatly enhancing the contrast and image detail information. The algorithm is simple to implement in an FPGA and positive results are obtained.
-
Keywords:
- infrared image /
- histogram equalization /
- gray scale transformation /
- FPGA
-
0. 引言
航空成像侦察具有速度快、精度高、机动性强的特点。近年来,航空侦察在军事斗争中的地位也得到了较大的提升。航空侦察相机的研制、鉴定、使用维护过程中,乃至全寿命的管理过程中,不可避免地会出现各种各样的问题,而通过仿真手段对故障进行模拟,可以有效为航空相机的设计、研制过程监控、鉴定试验的设计以及使用过程中的维护保障等提供技术支撑。
通过仿真手段模拟航空相机在不同情况下可能遭受的故障,分析相机不同的部件正常功能受损、或者运行状态参数超过阈值时出现的成像问题,具有重要的技术优势;建立故障模型表象库,在航空相机全寿命管理过程中,通过与故障模型表象库信息的比对与分析,可实现对航空相机故障的初步定位。可有效为航空相机的设计、研制过程技术状态的监控、鉴定试验的设计以及使用过程中的维护保障等提供技术支撑[1]。
本文在构建航空成像仿真系统的基础上,开展了故障仿真建模,构建了航空相机成像仿真模型,包括光学效应模型、探测器效应模型以及电子信号处理模型;进行了典型故障类型分析,并开展了典型故障模拟仿真。
1. 航空红外相机成像仿真模型构建
建立航空成像仿真系统,是开展故障效应仿真模拟的基础,本文建立了器件级的航空相机成像仿真系统(适用于某型相机)。该系统可根据航空红外相机的工作模式,典型的目标场景开展模拟仿真。具体工作流程如图 1所示。
1)初始参数设置:基于实际航空红外相机的设备参数、试验环境数据进行仿真初始化条件配置,相机设备参数包括相机的初始位置、分辨率、工作模式、姿态角等;
2)典型目标场景加载:对典型侦察目标如舰船、飞机等模型的红外特性建模,加载目标模型及侦察的背景场景如机场、海面等[2-3];
3)航空红外相机参数设置,配置相机成像仿真模型的参数,包括相机的分辨率、视场角、焦距等;
4)相机工作模式设置;
5)启动航空红外相机仿真成像;
6)随航迹变化的成像仿真;
7)进行相机故障设置:设置典型的故障类型;
8)故障效应仿真及分析。
2. 故障效应仿真系统建模
本文所构建的航空红外仿真模型,可支持凝视型、扫描型传感器。为了充分考虑航空相机对成像的影响主要对传感器的光学系统、探测器(光电转换器件)以及电子电路信号等3部分分别仿真建模,且主要考虑的物理效应如图 2所示。
2.1 光学系统建模
本次研究主要对以下光学效应因素进行仿真研究[2]:
1)运动效应的调制传递函数:物体与成像传感器之间的运动造成成像信息的调制特性。
2)气动光学效应仿真:当光波在飞行器周围流场中传输时,气体介质密度的变化会导致光波前发生畸变,从而对机载或其他运动载体的光学系统成像性能产生的影响。
3)信号传递函数的建立:描述场景辐射量值到成像系统输出信息的能量传递和转换过程的一个函数。
4)衍射调制传递函数的建立:光学系统衍射造成的成像信号的调制特性。
5)振动调制传递函数的建立:描述振动造成的成像信号的调制特性。
6)空间效应仿真:由于光学系统对造成图像的高频信息丢失,使得图像出现模糊等降质现象,主要包括衍射、像差等。其对空间频率信息的影响可以用光学传递函数来模拟,MTF(modulation transfer function)的值取决于波长、焦距等参数。由于高频信息的丢失,可以将光学系统看作低通滤波器,光学系统的总传递函数为衍射、像差的传递函数的乘积。
7)像差仿真:指实际所成的图像与理想图像之间的偏差。实际光学系统中,当光线的会聚角和入射角趋向于零时,也就是近轴光线入射时,物方的一个几何像在像方形成一个完善的、共轭的几何像。但另一方面,当孔径光阑很小时,将使像的照度大大降低。因此,实际应用中,允许非近轴的光线通过光学系统成像,使得目标所成的图像有一系列的误差。
2.2 探测器效应建模
探测器是红外传感器的核心部件,其结构、性能等特征对成像图像有直接的影响。本次研究主要通过以下指标进行探测器成像效应研究:
1)探测器瞬时视场采样:每一个探测单元都对应着一个瞬时视场,探测器通过每一个这样的视场对空间进行划分并采样。
2)探测器调制传递函数:通常用来描述探测器的信号调制特性。
3)探测器像元间距:仿真像元间距对于成像的影响。
4)探测器非均匀性:在相同光照度的情况下,不同探测器单元的响应电压不同,需要非均匀性校正,红外成像传感器因灵敏度高、获取目标信息多以及帧频较高而成为红外成像技术发展的主流,但由于制造工艺和使用环境的影响,红外成像传感器的非均匀性问题依然存在,这会增加成像系统的空间噪声,降低图像质量。
5)非均匀性校正效应:基于算法使得对于相同的光照度所有的像元输出趋于一致。为了在光学系统设计、红外焦平面阵列研制阶段以及复杂使用环境中更有针对性地降低非均匀性,以及在后期的非均匀性校正过程中取得更好的效果,对非均匀性的产生原因和表现现象进行研究。
6)盲元:探测器当中一些自生产出来就不能使用的单元,反映在仿真图像上为一系列的黑点。
2.3 电子电路信号处理
量子效率是决定探测器灵敏度的关键因素,用CCD单元的电荷转移的数量或者效率来表示。量子效率小于1会导致噪声对成像质量的降质影响和MTF的衰减。
1)前置放大:前置放大通常用于对信号的初步处理。
2)交流耦合:通过隔直电容耦合,去掉了直流分量。
3)提举电路的调制传递函数:表征提举电路的调制特性。
4)显示设备的调制传递函数:表征显示设备的信号调制特性。
5)自动增益/自动增益电平:自动调解放大器的增益倍数设定。
6)实时显示效率:支持采集图像信息的实时显示。
3. 故障仿真方法研究
故障研究基于本文已构建的航空红外相机仿真模型开展,从定性层次仿真分析航空红外侦察相机的故障成像表现。
航空红外相机成像故障的实际表象就是成像出现偏差,故障效应仿真则是侧重在光学系统、探测器系统、电子电路信号处理系统出现了超常规的情况下的成像仿真,对仿真结果进行分析,建立故障模型表象库,在航空相机的应用过程中,通过与故障模型表象库信息的比对与分析,可对航空相机故障进行初步定位。
仿真系统可以灵活设置不同的工况,模拟设备可能出现的故障,设置多种设备故障工况,得出仿真结果图像。本章对故障效应的仿真分析从两个维度展开,第一个维度为红外相机自身的工作状态,第二个维度为红外相机所处的工作环境模拟。故障模拟模块的原理流程如图 3所示。
1)光学系统故障模拟:设定光学系统类参数超过阈值情况下,对成像结果进行仿真,建立故障-图像特征库。
① 孔径比率:通过调整光学系统“孔径比率”,“孔径大小”,仿真孔径参数发生改变后,成像质量的表现,建立故障-图像特征库。
② 模糊斑直径:通过调整光学系统“模糊斑直径”参数,仿真故障效应图像,建立故障-图像特征库。
2)探测器故障模拟:设定探测器类参数超过阈值或不合理情况下,对成像结果现象进行模拟,建立故障-图像特征库。
① 模糊故障仿真:在实际工况下,航空红外相机往往会受到各种内外界因素干扰,如气流、质量不均匀、控制系统工作引起的颠簸、摇摆和晃动等。这些不同形式的干扰因素会引起载体平台(如光具座)振动、单次曝光时间内目标所成的像在红外系统焦平面上运动,从而导致目标成像细节不能被有效地分辨,系统成像质量下降,严重影响系统的探测识别、跟踪或精确瞄准性能。因此,本文开展基于载体平台振动下红外系统成像模糊效应动态仿真技术研究,为航空红外相机作战任务性能预测提供数据支撑,为系统进一步改进方向提供理论依据。
② 非均匀性故障模拟:本次研究从探测器的响应特性、光学系统的相对辐射和外壳杂散光对辐射通量的影响3个方面,分析了非均匀性产生的原因,建立了相应的数学模型,仿真了故障图像,建立故障-图像特征库。
③ NEDT“噪声等效温差”故障模拟:通过调整探测器NEDT“噪声等效温差”性能指标,模拟了成像结果图像,建立了故障-图像特征库。
④ 水平探测元距离故障模拟:调整探测器“水平探测元距离”,模拟生成图像,建立故障-图像特征库。
⑤ 焦平面有效像元比故障模拟:通过调整探测器系统“焦平面有效像元比”,模拟失效像元逐渐增多时的成像图像,建立故障-图像特征库。
3)电路信号转换故障模拟:设定电路信号类参数超过阈值或不合理情况下,对仿真成像现象进行分析[4]。
① 传感器增益值为常态0.06左右、电平值为0时,红外成像灰度分布合理,背景特征清晰,图像成像质量较高。
② 通过调整电路系统参数“手动控制增益”值,当其值逐渐由1到10,传感器画面逐渐清晰。可以看到电路信号的增益比较小时,传感器成像画面较为单一,地物红外特征无法分辨。
4)多种故障效应叠加仿真:航空相机仿真模型可同时设定光学系统、探测器、电路信号等多种故障特征的超阈值测试,并在仿真结果图像中体现故障的叠加效应。
4. 故障效应仿真分析
4.1 光学系统故障模拟
1)孔径故障模拟
在孔径只有3 mm时,孔径过小,传感器成像较暗,很难分辨地物特征,孔径逐渐变大,在达到10 mm时,传感器成像亮度达到正常状态。
从图 4可知,若成像画面出现过暗的现象,则初步定性判断光学系统的孔径存在过小的问题。
2)模糊斑直径故障模拟
调整“模糊斑直径”,查看成像的变化,“模糊斑直径”取值越大,图像呈现越为模糊,可以理解为当模糊直径达到图像中的地物无法分辨时为严重的图像模糊成像故障。
从图 5可知,模糊效应越显著,则需要追溯光学系统是否存在故障。
4.2 探测器故障效应模拟
1)模糊效应故障
在实际工况下,航空红外相机往往会受到各种内外界因素干扰,如气流、质量不均匀、控制系统工作引起的颠簸、摇摆和晃动等。这些不同形式的干扰因素会引起载体平台(如光具座)振动、单次曝光时间内目标所成的像在红外系统焦平面上运动,从而导致目标成像细节不能被有效地分辨,系统成像质量下降,严重影响系统探测识别、跟踪或精确瞄准性能。因此,开展载体平台振动下红外成像模糊效应动态仿真技术研究,可为航空红外相机作战任务性能预测提供数据支撑,为系统进一步改进方向提供理论依据。
2)相机均匀性故障
从探测器的响应特性、光学系统的相对辐射和外壳杂散光对辐射通量的影响3个方面,分析了非均匀性产生的原因,建立了相应的数学模型。
从图 6中可以看出,采用非均匀性校正对于成像质量有具大的影响,需要在红外成像设备研制或者使用阶段尽量避免。
3)探测器NEDT“噪声等效温差”故障
通过调整探测器NEDT“噪声等效温差”性能指标,NEDT的值逐渐增大,也就是温差分辨能力逐渐下降,传感器成像呈现的噪声越来越大。
从图 7可知,噪声现象显著,可定性认为温差分辨能力下降,定位探测器可能存在的性能退化问题。
4)水平探测元距离故障
通过调整探测器系统参数“水平探测元距离”指标能力,可以看到随着水平探测距离的分辨率的下降,图像的暗度明显增加,当水平探测距离为30 mm时,传感器已基本无法分辨地物特征,如图 8所示。
从图 9可知,若图像分辨率现象显著,可定性探测器的分辨率下降,定位探测器可能存在性能退化问题。
5)“焦平面有效像元比”故障
调整探测器系统参数“焦平面有效像元比[5]”,模拟失效像元逐渐增多,仿真生成图像,可以看到屏幕上的黑点逐渐增多且越来越密,地物特征很难看清,如图 10所示。
从图 10可知,若图像的黑点现象显著,可定性探测器的焦平面阵列失效像元过多,说明探测器可能存在性能退化问题。
4.3 电路信号转换故障效应模拟
传感器电路信号对成像的影响通过增益与电平两个方面体现。
增益是对信号进行放大或者衰减的动作,增益值为正值,对信号进行放大,信号电压变高(信号电平变高);增益值为负值,对信号进行衰减,信号电压变低(信号电平变低);增益值为零,对信号电压不做放大衰减。
电平是信号强度,电平值越高,信号越强,信号电压越高;电平值越低,信号越弱,信号电压越低。
1)传感器增益值故障模拟
传感器增益值为常态0.06左右、电平值为0时,成像效果如图 11所示。红外成像灰度分布合理,背景特征清晰,图像成像质量较高。
通过调整红外传感器“增益”值,观察“增益”常态值和较大值的成像表现。传感器增益设置为较大值0.23时,成像故障表现如图 12所示。图像呈现灰度分布不均,边界较为锐利,部分背景特征分辨不清。
通过传感器效应参数,设置“电平”值取值0.7以上时,如图 13所示,传感器成像整体灰度值偏白,无法辨识部分背景目标。
从图 11~图 13可知,如果成像目标与背景的边界不清楚,可以定性预判该航空相机的成像系统出现增益效应故障。
2)“手动控制增益”故障模拟
通过调整电路系统参数“手动控制增益”值,当其值逐渐由1到10,传感器画面逐渐清晰。可以看到电路信号的增益比较小时,传感器成像画面较为单一,地物红外特征无法分辨。
从图 14可知,若图像中的地物特征越来越模糊,可定性推断相机电路信号的转换存在问题。
5. 机器视觉故障分析
在处理图像差异不易被人眼直接分辨的情况中,本文引进机器视觉的判定方法。通过对图像的特征比对,采用合理的图像相似度分析方法,分析图像存在的差异。
5.1 基于图像结构性相似度分析故障判断方法
结构相似度指数将图像结构信息定义为独立于亮度、对比度,且反映场景中物体结构的属性特征,并将失真表征为亮度、对比度和结构3个不同因素的组合。其中,用均值作为亮度的估计,标准差作为对比度的估计,协方差作为结构相似程度的度量,然后将这3个度量结果进行综合,从而形成对图像相似度的度量。分别由机器视觉形成对图像灰度差异、图像噪声差异、图像的明亮度差异等,这些差异的对比分析结合第4章的故障判断依据进行航空相机的故障分析。
5.2 基于SIFT特征点相似度分析故障判断方法
基于SIFT(scale-invariant feature transform)特征点的图像相似度分析是指图像的局部性特征对于图像平移、缩放、旋转均具有不变性,并且对于仿射变换、视角变化、光照变化及噪声等具有很强的匹配鲁棒性,可通过对图像尺度空间中寻找到的局部极值点的位置、方向和尺度信息进行表示而获得。提取图像特征的步骤主要包括:检测尺度空间极值点、极值点精确定位、关键点方向分配和生成特征点描述子4部分。按步骤实现对不同图像的灰度、噪声、明亮度等特征的量化比较分析,从而从机器视觉算法的计算结果分析航空相机的可能故障原因。
6. 结论
本文对于航空红外相机故障效应的研究基于实际试验相机的设备数据,实现了通过相机仿真模型参数的实时调整完成成像故障模拟分析。围绕相机可能出现的成像故障,基于航空相机成像仿真模型,对光学系统、探测器、电子电路等不同组成可能出现的故障进行了仿真分析研究,对故障所导致的成像现象进行了初步分析,可基于该系统进行有效地相机故障现象、故障定位模拟,支持在实验室内获取大量航空红外仿真故障效应成像测试数据,支持航空红外侦察相机装备的性能评估与验证。
-
表 1 图像信息熵
Table 1 Image information entropy
Evaluating indicator Global histogram This algorithm Information entropy of scene 1 7.51 7.55 Information entropy of scene 2 6.53 7.57 Information entropy of scene 3 7.33 7.83 表 2 图像标准差
Table 2 Image standard deviation
Evaluating indicator Global histogram This algorithm Standard deviation of scene 1 60.1 66.8 Standard deviation of scene 2 28.7 53.9 Standard deviation of scene 3 43.3 59.1 -
[1] 张志忠, 康蓉, 郑卫平, 等. 一种基于组合方法的红外图像增强方法[J]. 红外技术, 2009, 31(10): 591-597. DOI: 10.3969/j.issn.1001-8891.2009.10.008 ZHANG Zhizhong, KANG Rong, ZHENG Weiping, et al. An infrared image enhancement method based on a combination of methods[J]. Infrared Technology, 2009, 31(10): 591-597. DOI: 10.3969/j.issn.1001-8891.2009.10.008
[2] 范永杰, 张亚萍, 陈华. 平台直方图均衡算法实现的存储优化方法[J]. 激光与红外, 2013, 43(5): 522-525. DOI: 10.3969/j.issn.1001-5078.2013.05.011 FAN Yongjie, ZHANG Yaping, CHEN Hua. Realizing memory optimization to plateau histogram[J]. Laser & Infrared, 2013, 43(5): 522-525. DOI: 10.3969/j.issn.1001-5078.2013.05.011
[3] 魏新, 马丽华, 李云霞, 等. 基于图像分割和平台直方图均衡的红外图像增强算法[J]. 红外技术, 2012, 34(5): 272-275. DOI: 10.3969/j.issn.1001-8891.2012.05.006 WEI Xin, MA Lihua, LI Yunxia, et al. Infrared image enhancement algorithm based on image segmentation and platform histogram equalization[J]. Infrared Technology, 2012, 34(5): 272-275. DOI: 10.3969/j.issn.1001-8891.2012.05.006
[4] 李牧, 周瑞杰, 田哲嘉. 基于直方图的热红外图像增强方法[J]. 红外技术, 2020, 42(9): 800-885. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS202009011.htm LI Mu, ZHOU Ruijie, TIAN Zhejia. A thermal infrared image enhancement method based on histogram[J]. Infrared Technology, 2020, 42(9): 880-885. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS202009011.htm
[5] 赵耀宏, 史泽林, 罗海波, 等. 自适应红外图像直方图均衡增强算法[J]. 光电工程, 2008, 35(3): 97-101. https://www.cnki.com.cn/Article/CJFDTOTAL-GDGC200803024.htm ZHAO Yaohong, SHI Zelin, LUO Haibo, et al. Self-adaptive histogram equalization enhancement algorithm for infrared image[J]. Opto-Electronic Engineering, 2008, 35(3): 97-101. https://www.cnki.com.cn/Article/CJFDTOTAL-GDGC200803024.htm
[6] 张懿, 刘旭, 李海峰. 自适应图像直方图均衡化算法[J]. 浙江大学学报, 2007, 41(4): 630-633. DOI: 10.3785/j.issn.1008-973X.2007.04.021 ZHANG Yi, LIU Xu, LI Haifeng. Adaptive image histogram equalization algorithm[J]. Journal of Zhejiang University: Engineering Science, 2007, 41(4): 630-633. DOI: 10.3785/j.issn.1008-973X.2007.04.021
[7] 贾兆辉, 伊兴国, 孔鹏, 等. 一种基于直方图的自适应红外图像增强算法[J]. 红外技术, 2014, 36(9): 719-722. http://hwjs.nvir.cn/article/id/hwjs201409008 JIA Zhaohui, YI Xingguo, KONG Peng, et al. A self-adaptive enhancement algorithm for infrared images based on histogram[J]. Infrared Technology, 2014, 36(9): 719-722. http://hwjs.nvir.cn/article/id/hwjs201409008
[8] 韦瑞峰, 赵荣普, 徐肖庆, 等. 基于直方图的红外图像细节增强算法研究[J]. 红外技术, 2016, 38(6): 472-475. http://hwjs.nvir.cn/article/id/hwjs201606005 WEI Ruifeng, ZHAO Rongpu, XU Xiaoqig, et al. Infrared image detail enhancement based on histogram[J]. Infrared Technology, 2016, 38(6): 472-475. http://hwjs.nvir.cn/article/id/hwjs201606005
[9] 刘玉婷, 陈峥, 付占方, 等. 基于CLAHE的红外图像增强算法[J]. 激光与红外, 2016, 46(10): 1290-1294. DOI: 10.3969/j.issn.1001-5078.2016.10.023 LIU Yuting, CHEN Zheng, FU Zhanfang, et al. Infrared image enhancement algorithm based on CLAHE[J]. Laser & Infrared, 2016, 46(10): 1290-1294. DOI: 10.3969/j.issn.1001-5078.2016.10.023
[10] 公志强, 刘仁军, 汪利庆, 等. 一种基于红外对比度提升的高动态范围压缩技术[J]. 红外技术, 2021, 43(8): 792-797. http://hwjs.nvir.cn/article/id/f858a5af-05cb-4918-9f2c-f163af6b5bb5 GONG Zhiqiang, LIU Renjun, WANG Liqing, et al. A high dynamic range compression technique based on infrared contrast enhance-ment[J]. Infrared Technology, 2021, 43(8): 792-797. http://hwjs.nvir.cn/article/id/f858a5af-05cb-4918-9f2c-f163af6b5bb5
-
期刊类型引用(0)
其他类型引用(1)