红外搜索跟踪系统的虚警率降低方法

宋治杭, 张晋, 朱亮, 林丹丹, 杜欣悦, 林宇

宋治杭, 张晋, 朱亮, 林丹丹, 杜欣悦, 林宇. 红外搜索跟踪系统的虚警率降低方法[J]. 红外技术, 2022, 44(4): 371-376.
引用本文: 宋治杭, 张晋, 朱亮, 林丹丹, 杜欣悦, 林宇. 红外搜索跟踪系统的虚警率降低方法[J]. 红外技术, 2022, 44(4): 371-376.
SONG Zhihang, ZHANG Jin, ZHU Liang, LIN Dandan, DU Xinyue, LIN Yu. False Alarm Rate Reduction in Infrared Search and Track Systems[J]. Infrared Technology , 2022, 44(4): 371-376.
Citation: SONG Zhihang, ZHANG Jin, ZHU Liang, LIN Dandan, DU Xinyue, LIN Yu. False Alarm Rate Reduction in Infrared Search and Track Systems[J]. Infrared Technology , 2022, 44(4): 371-376.

红外搜索跟踪系统的虚警率降低方法

详细信息
    作者简介:

    宋治杭(1985-),男,云南曲靖人,硕士,工程师,现主要从事光电系统技术方面的研究。E-mail:390520157@qq.com

  • 中图分类号: TP391.4

False Alarm Rate Reduction in Infrared Search and Track Systems

  • 摘要: 红外全景搜索跟踪系统能对360°大视场提供实时多目标搜索与定位功能,与此同时大视场的引入也带来虚假目标增多,以及同一运动目标在前后生成的两幅全景图像中位置差异过大的困扰。本文针对以上问题,引入图像金字塔变换降低全景图像分辨率,再利用Lucas-Kanade(LK)光流法计算所有疑似运动区域的光流,最后分析所有光流特征结合二分类思想将真实运动目标和虚假运动目标区分开,针对全景图像能够有效的将虚假目标检测出来,剔除该类目标对后续处理结果的干扰。
    Abstract: Infrared panoramic search and track systems can provide real-time multi-target search and positioning functions for a 360° field of view. However, the involvement of the large view field introduces problems such as increased number of false targets and a large displacement of moving targets between panoramic frames. To address these problems, this study uses the image pyramid transform to reduce the panoramic image resolution and the Lucas-Kanade optical-flow method to calculate the optical flow of all predicted movement areas. Finally, the optical-flow features are analyzed to separate the real target from the false target area. In this way, false targets can be effectively detected in the panorama images, and the interference of such targets in the subsequent processing can be eliminated.
  • 大视场多目标监视是目前红外搜索跟踪领域研究的热点,该领域正朝着高分辨率、超大视场成像的方向发展[1-3]。对应大视场下多目标的监视与跟踪任务,视场的增大,红外图像的背景成分变得极其复杂,又加上来自地面建筑物、地杂波等的干扰,极其容易在图像区域产生伪目标,造成红外全景搜索跟踪系统的虚警[4-7]。在实施全景搜索跟踪的任务过程中,视场中难免出现虚假运动目标,其中既有静止物体,也可能包含运动方向与真实目标不一致的物体。如果不能对以上虚假目标及时进行识别并剔除,将会严重影响后续搜索跟踪任务的执行。

    针对红外搜索跟踪容易遇到的上述问题,王卫华[8]等人提出了一种基于兴趣区(region of interest)提取的目标实时监测算法,根据目标运动特性与灰度特性快速提取目标可能存在的兴趣区,再针对兴趣区内的局部目标图像切片,进一步剔除虚假目标干扰;陈炳文[9]提出一种基于时空融合与粒子滤波的弱目标检测算法,首先利用像素点的帧间和邻域相关性,采用短程非参数核建模算法检测候选目标,接着使用粒子滤波跟踪候选目标,以剔除虚假目标得到真实航迹;王雪梅[10]等提出了基于背景检测的单帧检测弱小目标改进算法,结合多方向多极梯度算法,对背景预测初步检测出来的可能目标点进一步检测,从而排除虚假目标;罗举平[11]等针对红外目标检测任务,提出了变门限检测与跟踪的方法,减少了虚假量测的数量。张艳艳[12]等引入Lucas-Kanade(LK)光流法,对光流结果进行最大类间方差分割,视光流不连续区域为真实运动目标;西北工业大学[13]利用Lucas-Kanade光流法对连续帧红外图像检测疑似运动区域,再通过SVD(singular value decomposition)分解与目标背景重构检测弱小目标;Lei Wang[14]等利用先验概率降低视频中目标检测的误报率;Recchia Giuseppe[15]等将Lucas-Kanade光流法应用于无人机光电视避系统,有效降低了误警率与虚警率。然而上述方法并不专门针对全景图像,因此对于全景图像中同一运动目标帧间距离过大造成的影响,这些方法并不能有效解决。类似方法甚至会错把真实运动目标当作虚假目标加以剔除,因而并不适用于降低红外搜跟系统的虚警率。本文针对以上问题提出了一种基于Lucas-Kanade光流特征的红外全景系统虚假目标甄别与剔除的方法。

    选取前后相邻两帧红外全景图像IJ,为图像IJ分别建立金字塔表达${\{ {I^L}\} _{L = 0,...{L_m}}}$和${\{ {J^L}\} _{L = 0,...{L_m}}}$,这里Lm通常取为3,也就是金字塔层数一般为4。把原始图像作为第0层,通过高斯滤波并令宽高缩小2L倍的图像作为第L层,多层图像组合类似金字塔,如图 1所示。

    图  1  图像金字塔的建立
    Figure  1.  Image pyramid construction

    由于红外全景搜索跟踪系统的任务在于利用360°全景影像实现对周围环境态势感知的能力,因此往往将目标定为包括人、车辆、舰船以及飞机等相比环境温度较高的物体。在实际图像中该类目标一般呈现较高的灰度值,因此本文利用二值化将图像中的高亮目标都事先提取出来,在这些高亮目标区域中随机选择若干像素记为该目标对应的像素点u,接下来利用LK光流法思想依次从最高层开始计算目标像素点u对应的LK光流dL,并取LK光流dL对应层光流初始值gL的和为下一层光流的初始值,直至迭代到原始图像层(第0层),最终获取目标像素点u在原始图像层的光流值按照如下步骤计算图像光流d,接着利用光流d的模值与角度为主要特征,使用聚类算法将真实运动目标和虚假运动目标区分开来。首先计算前后帧图像间的光流:

    初始化最高层光流的初始值${g^{{L_m}}} = {\left[ {0\;\;0} \right]^{\text{T}}}$,令LLm,每迭代一次,L减1,直到L=0:

    由于图像金字塔建立过程中,图像的长宽依次缩小一倍,因此针对第L层图像,计算图像IL中像素点u对应的位置:$u{\text{ = [}}u_x^L\;\;u_y^L{\text{] = }}u{\text{/}}{{\text{2}}^L}$;

    计算图像ILx方向的梯度:

    $$ I_x^L(x,y) = \frac{{{I^L}(x + 1,y) - {I^L}(x - 1,y)}}{2} $$ (1)

    计算图像ILy方向的梯度:

    $$ I_y^L(x,y) = \frac{{{I^L}(x,y + 1) - {I^L}(x,y - 1)}}{2} $$ (2)

    计算空间矩阵:

    $$ \boldsymbol{G} = \sum\limits_{x = u_x^L - {w_x}}^{x = u_x^L + {w_x}} {\sum\limits_{y = u_y^L - {w_y}}^{y = u_y^L + {w_y}} {\left[ {\begin{array}{*{20}{c}} {I_x^{\text{L}}I_x^{\text{L}}}&{I_x^LI_y^L} \\ {I_x^LI_y^L}&{I_y^LI_y^L} \end{array}} \right]} } $$ (3)

    式中:wxwy表示u处具有相同光流邻域的大小。

    初始化迭代LK光流初始值d0=[0 0]T

    k=1,每迭代一次k加1,直到匹配差异向量$ \left| {{\eta ^k}} \right| $小于1:

    定义此时(x, y)处前后两帧图像的差异δI(x, y),则有:

    $$ \delta {I^k}(x,y) = {I^L}(x,y) - {J^L}(x + g_x^L + d_x^{k - 1},y + g_y^L + d_y^{k - 1}) $$ (4)

    计算图像差异:

    $$ {b_k} = \sum\limits_{x = u_x^L - {w_x}}^{x = u_x^L + {w_x}} {\sum\limits_{y = u_y^L - {w_y}}^{y = u_y^L + {w_y}} {\left[ {\begin{array}{*{20}{c}} {\delta {I^k}(x,y){I_x}(x,y)} \\ {\delta {I^k}(x,y){I_y}(x,y)} \end{array}} \right]} } $$ (5)

    计算匹配差异向量:

    $$ η^{k}=\boldsymbol{ G}^{−1}b_{k} $$ (6)

    计算光流:

    为下一次迭代提供初始值dkdk−1+ηk

    结束k上的迭代,得到第L层图像上的光流优化值dLdk

    为第L-1层图像提供光流初始值gL−1=2(gL+dL);

    结束L上的迭代,最终计算得到光流dg0+d0

    得到图像J中对应点坐标vu+d

    上述步骤求得前帧图像I中目标区域像素点u在前后两帧图像对应的光流d,以及该像素点在后帧图像J中的位置v。其中光流d为一个二维向量,该向量标识图像平面内由位置u指向位置v的运动位移。而同一个运动目标其运动位移应该是一致的,这就给区分真实运动目标和虚假运动目标带来了先决条件。针对图像I中经过二值化后获得的目标区域,每个区域选择m个像素点(u1, u2, …, um),本方案根据图像视场范围以及处理器运算能力综合考量选择m=5。对于每一个像素点ui,按照第2章所述方法得到对应的光流d(ui),然后利用算术平均值来求取对应目标区域Φ的光流dΦ

    $$ {d_\varPhi } = \frac{{\sum\limits_{i = 1}^m {d({u_i}} )}}{m} $$ (7)

    对于地面建筑或者地杂波等产生的虚假目标,由于全景成像系统镜头本身的运动,造成其通过上述计算也会产生光流值,但该光流值并不能反映像素点的实际运动。虚假目标光流值与真实目标光流值会有显著不同,这主要表现在光流向量的方向和大小两个方面。

    1)虚假目标由于本身静止或运动范围很小,在叠加了红外摄像机自身旋转运动后,其光流方向会有高度趋同性,而真实运动目标的光流方向应与其实际位移方向一致,从而造成虚假目标与运动目标在运动方向上的显著区别;

    2)虚假目标因为本身基本处于静止状态,表征运动位移的光流仅反映红外摄像机自身的运动,实际观察光流值大小应不大于10个像素,这也是区别于实际运动物体的显著特征。

    设$\overrightarrow d = (x,y)$,令$\left| d \right| = \sqrt {{x^2} + {y^2}} $表示光流向量的大小,令θ表示光流向量的方向,其中:

    $$ \theta = \left\{ \begin{array}{l} \arccos \frac{x}{{\sqrt {{x^2} + {y^2}} }},y \geqslant 0 \hfill \\ 2{\text{π }} - \arccos \frac{x}{{\sqrt {{x^2} + {y^2}} }},y < 0 \hfill \\ \end{array} \right. $$ (8)

    创建向量$\vec L = (\left| d \right|,\theta )$用于重新表达光流,目的在于后续根据光流区分真实运动目标与静止虚假目标。根据前述第3章中的分析,虚假静止目标的表征向量$\vec L$会具有很小的$\left| d \right|$值,且θ值会比较接近,将其标注到二维直角坐标系中虚假静止目标的向量L坐标会高度集中,而真实运动目标则会大范围随机分布,如图 2所示。

    图  2  光流向量2D分布
    Figure  2.  Optical-flow vector 2-D lay out

    最后利用聚类算法将得到的目标光流进行分类,由图 2可以发现真实运动目标与虚假运动目标的光流分布区域有较大区别,为了把二者快速区分开来,首先在离θ轴较近的光流表征向量$\vec L$中随机选择一个作为第一个初始聚类中心,然后选择距离该中心最远的一个光流表征向量$\vec L$作为第二个初始聚类中心,通过计算各光流表征向量$\vec L$与初始化聚类中心的距离,将这些光流表征向量$\vec L$重新划归至距离最近的类别,并以新类别中各光流表征向量$\vec L$的均值作为新的聚类中心,持续迭代直至光流表征向量的分配聚类情况没有更新,以实现最终把真实运动目标(类别1)与虚假静止目标(类别2)分开的目的。

    为验证本文的虚警率降低方法是否具有普遍性,项目组利用研发成功的红外全景成像设备采集不同环境下(室内、室外)的中波红外全景图像,在Windows操作系统下使用Visual C++开发环境将本文算法实现,将不同场景下前后两帧全景图作为输入,以验证算法有效性。

    观察图 3图 4可以发现,无论室外还是室内环境,复杂背景下总会引入干扰,同时搜索跟踪系统自身旋转导致其中的高亮物体都会得到表征运动的光值,因此很多由于干扰产生的伪目标极易被搜索跟踪系统误判为真实运动目标。引入本文算法后,系统对输入的前后两帧全景图像计算LK光流,随后将重点区域光流进行包括大小与方向的比对,按照聚类思想将其实施二分类,重复迭代直至真实运动物体被区分出来。根据图 3图 4中处理后图像可以发现,红外全景图像中的真实运动物体均以实线框标记出来,而由于干扰造成的虚假运动目标被虚线框标记出来,由此可见本文算法较好地将红外搜索跟踪系统所获全景场景中的虚假运动目标加以抑制,从而有效降低了该类系统的虚警率。

    图  3  虚假运动目标剔除效果(室内)
    Figure  3.  False motion target elimination(indoor)
    图  4  虚假运动目标剔除效果(室外)
    Figure  4.  False motion target elimination result (outdoor)

    红外全景监控设备是未来红外热像系统化发展的主要趋势,而大视场的引入必然加大后续图像处理设备的工作量,对于嵌入式图像处理系统由于本身运算能力有限,因此在预处理阶段自动排除虚假目标以减轻后续处理运算的压力就显得尤为必要。本文所述方法通过对实际采集的红外全景序列图像加以分析,很好地剔除了造成干扰的虚假运动目标,实验结果也验证了该方法的有效性。未来将把该方法向以GPU/FPGA+DSP为主处理器的嵌入式平台移植,同时针对特征提取阶段做更为深入的研究融入更多特征以提升虚假目标检测效果,为红外搜索跟踪系统等产品提供有效的技术支持。

  • 图  1   图像金字塔的建立

    Figure  1.   Image pyramid construction

    图  2   光流向量2D分布

    Figure  2.   Optical-flow vector 2-D lay out

    图  3   虚假运动目标剔除效果(室内)

    Figure  3.   False motion target elimination(indoor)

    图  4   虚假运动目标剔除效果(室外)

    Figure  4.   False motion target elimination result (outdoor)

  • [1] 陈洁, 张若岚. 应用于红外搜索跟踪和态势感知系统的全景成像技术[J]. 红外技术, 2016, 38(4): 269-279. http://hwjs.nvir.cn/article/id/hwjs201604001

    CHEN Jie, ZHANG Ruolan. Panoramic imaging technology applied in IRST and status awareness system[J]. Infrared Technology, 2016, 38(4): 269-279. http://hwjs.nvir.cn/article/id/hwjs201604001

    [2] 朱海滨, 邵毓, 张远健, 等. 可见光/红外双视场全景式航空侦查相机光学系统设计[J]. 应用光学, 2017, 38(1): 7-11. https://www.cnki.com.cn/Article/CJFDTOTAL-YYGX201701002.htm

    ZHU Haibin, SHAO Yu, ZHANG Yuanjian, et al. Optical system design of visible/infrared and double-FOV panoramic aerial camera[J]. Journal of Applied Optics, 2017, 38(1): 7-11. https://www.cnki.com.cn/Article/CJFDTOTAL-YYGX201701002.htm

    [3] 贾俊涛, 唐跃峰, 毛鑫, 等. 红外全景扫描跟踪成像系统设计与实现[J]. 应用光学, 2013, 34(3): 407-412.

    JIA Juntao, TANG Yuefeng, MAO Xin, et al. Design and implement of infrared panoramic scanning and tracking imaging system[J]. Journal of Applied Optics, 2013, 34(3): 407-412.

    [4] 李洁, 孙科峰. 机载红外搜索跟踪系统仿真测试平台设计[J]. 电光与控制, 2019, 26(8): 101-105, 110. DOI: 10.3969/j.issn.1671-637X.2019.08.019

    LI Jie, SUN Kefeng. Design of a simulation testing platform for airborne IRST system[J]. Electronics Optics & Control, 2019, 26(8): 101-105, 110. DOI: 10.3969/j.issn.1671-637X.2019.08.019

    [5] 何杰. 机载红外搜索跟踪系统研究与仿真实现[D]. 南京: 南京航空航天大学, 2014.

    HE Jie. Research and Simulation of Airborne Infrared Search and Tracking System[D]. Nanjing: Nanjing University of Aeronautics and Astronautics, 2014.

    [6] 王辉, 周振彪, 于劲松, 等. 红外搜索跟踪系统的半实物仿真系统设计[J]. 计算机测量与控制, 2012, 20(6): 1672-1675.

    WANG Hui, ZHOU Zhenbiao, YU Jingsong, et al. Design of hardware-in-the-loop simulation system for infrared search and track system[J]. Computer Measurement & Control, 2012, 20(6): 1672-1675.

    [7] 杨旭, 何江宁, 陈洪亮. 一种机载红外搜索跟踪系统多目标跟踪精度测试系统设计[J]. 电光与控制, 2017, 24(4): 80-84. https://www.cnki.com.cn/Article/CJFDTOTAL-DGKQ201704019.htm

    YANG Xu, HE Jiangning, CHEN Hongliang, et al. Design of a multi-target tracking accuracy test system for airborne IRST system[J]. Electronics Optics & Control, 2017, 24(4): 80-84. https://www.cnki.com.cn/Article/CJFDTOTAL-DGKQ201704019.htm

    [8] 王卫华, 李志军, 何艳, 等. 一种基于兴趣区提取的红外搜索系统目标实时检测算法[J]. 中国激光, 2012, 39(11): 187-192.

    WANG Weihua, LI Zhijun, HE Yan, et al. A real-time target detection algorithm for infrared search and track system based on region of interest extraction[J]. Chinese Journal of Lasers, 2012, 39(11): 187-192.

    [9] 陈炳文, 王文伟, 秦前清, 等. 基于时空融合和粒子滤波的红外弱小目标检测[J]. 红外与激光工程, 2010, 39(s): 228-232. https://cpfd.cnki.com.cn/Article/CPFDTOTAL-ZYHG201005001052.htm

    CHEN Bingwen, WANG Wenwei, QIN Qianqing, et al. 
 Infrared dim target detection based on space-time integration and particle filter[J]. Infrared and Laser Engineering, 2010, 39(s): 228-232. https://cpfd.cnki.com.cn/Article/CPFDTOTAL-ZYHG201005001052.htm

    [10] 王雪梅, 黄自力, 王德胜. 红外弱小目标的单帧捕获[J]. 红外与激光工程, 2006, 35(s): 99-104. https://cpfd.cnki.com.cn/Article/CPFDTOTAL-ZYHG200611001021.htm

    WANG Xuemei, HUANG Zili, WANG Desheng. Infrared small and weak targets detection in single frame[J]. Infrared and Laser Engineering, 2006, 35(s): 99-104. https://cpfd.cnki.com.cn/Article/CPFDTOTAL-ZYHG200611001021.htm

    [11] 罗举平, 贺有, 邰新军. 基于红外图像信息的变门限检测与跟踪方法[C]//第十届全国光电技术学术交流会论文集, 2012: 243.

    LUO Juping, HE You, TAI Xinjun. Variable threshold detection and tracking method based on infrared image information[C]//The 10th National Conference on Optoelectronic Technology, 2012: 243.

    [12] 张艳艳, 娄莉, 梁硕. 基于改进光流算法的运动目标检测技术研究[J]. 智能计算机与应用, 2018, 8(1): 55-58. DOI: 10.3969/j.issn.2095-2163.2018.01.013

    ZHANG Yanyan, LOU Li, LIANG Shuo. Research on moving object detection technology based on improved optical-flow algorithm[J]. Intelligent Computer and Applications, 2018, 8(1): 55-58. DOI: 10.3969/j.issn.2095-2163.2018.01.013

    [13] 西北工业大学. 一种基于连续有限帧红外图像的弱小目标检测方法: CN201911073594[P]. 中国: 2020-02-21.

    Northwest Polytechnic University. A method of small target detection based on continuous finite frame infrared image: CN201911073594[P]. China: 2020-02-21.

    [14]

    WANG Lei, ZHAO Xu, LIU Yuncai. Reduce false positives for object detection by a priori probability in videos[J]. Neurocomputing, 2016, 208: 325-332. DOI: 10.1016/j.neucom.2016.03.082

    [15]

    Recchia G, Fasano G, Accardo D, et al. An optical-flow based electro-optical see-and-avoid system for UAVs[C]//Proceedings of IEEE 2007 Aerospace Conference, 2007: DOI: 10.1109/AERO.2007.352759.

  • 期刊类型引用(1)

    1. 花文波,赵城慷,高大友,花文涛. 一种温度补偿调焦红外系统丢包检测方法. 红外技术. 2024(09): 1081-1086 . 本站查看

    其他类型引用(0)

图(4)
计量
  • 文章访问数:  159
  • HTML全文浏览量:  92
  • PDF下载量:  56
  • 被引次数: 1
出版历程
  • 收稿日期:  2021-02-02
  • 修回日期:  2021-05-26
  • 刊出日期:  2022-04-19

目录

/

返回文章
返回