Variable Step Autofocus Design for Infrared Telescopes
-
摘要: 在远距离目标检测和跟踪的过程中,成像清晰起着至关重要的作用。红外望远镜系统的成像距离远、景深短、失焦引起图像模糊。由于大气折射,望远镜所成的像处于不断变化之中,造成传统对焦算法对焦成功率、效率偏低。为了提高自动对焦的成功率和速度,采用了一种具备变步长的爬山法,利用多次求图像清晰度取其中位数的方法保证清晰度评价的准确性,利用带动量和加速度的爬山法降低了对焦过程中的不稳定性,减少了粗对焦过程所需的步数。算法在实际中波红外望远镜系统中得到应用,实验结果表明,该算法在粗对焦阶段所需的对焦步数比传统爬山法减少了12.8%,满足红外望远镜系统的需要。Abstract: In long-range target detection and tracking, image clarity plays a critical role. An infrared telescope system has a long imaging distance and a short depth of field, and the image blur caused by defocusing tends to be more severe in this system. In addition, because of the atmospheric refraction, the image derived from the telescope constantly changes. This results in a low focusing success rate and low efficiency in traditional focusing algorithms. To improve both the success rate and speed of autofocus, a mountain climbing algorithmic method with a variable step size was proposed in this study. Image clarity was obtained several times, and its median was calculated to ensure image clarity accuracy. Using the mountain climbing algorithm with momentum and acceleration reduces focusing instability as well as the number of steps required for the coarse focusing process. The algorithm was applied in an actual medium-wave infrared telescope system. Experimental results revealed that the focusing steps required by the algorithm for the coarse focusing stage were reduced by 12.8%, in comparison with the traditional mountain climbing method, meeting the requirements of an infrared telescope system.
-
Keywords:
- autofocus /
- infrared telescope /
- evaluation function /
- momentum /
- acceleration
-
0. 引言
自1940年以来,红外技术已得到了长足的发展,红外遥感通过接受物体自身辐射或反射出的红外线来感知目标,由于一些波段的红外线具有较强的大气穿透能力,其在资源探测、海洋观测、地球遥感等领域具有广泛的应用。随着经济、科技的进一步发展,对红外探测技术的要求也不断提高,红外望远镜的焦长不断变长,口径不断扩大,成像质量以及对目标的探测和跟踪能力也在不断提升,随之而来的问题是对焦范围变宽,景深变短,由于失焦引起的模糊更加剧烈。而探测系统对目标的探测和跟踪成功进行的前提是获得清晰地目标图像,在对目标跟踪的过程中,目标与探测系统的相对位置和相对距离可能处于不断变化之中,如果不进行有效的对焦操作,探测系统对目标所成像可能会剧烈模糊,使得跟踪系统不能正常工作乃至丢失目标。
为了及时获得清晰的红外图像,自动对焦算法非常重要,快速、有效的自动对焦算法能够在较短时间内判断出镜头的离焦状况,并迅速发出对焦指令。常用的对焦方法分为离焦深度法和对焦深度法,离焦深度法根据获得的图像判断出镜头偏离准焦位置的方向和程度进行对焦,对焦深度法根据多次对焦获得的图像,对图像进行评价,根据评价值得变化确定离焦的方向不断移动镜头,最终完成对焦。在离焦深度法和对焦深度法中,离焦深度法速度快、但比较依赖精确的离焦模型和高精度的控制结构,容易产生系统偏差[1]。对焦深度法因其简单、稳定的特点,在可见光成像系统如手机和监控摄像头中得到了广泛的应用[2]。
Erasmus S. J.等[3]开始研究基于数字图像处理的自动对焦技术,通过分析图像边缘的信息来比较不同图像的清晰程度。林兆华等[4]将自动对焦过程细分,分别采用改进的Kirsch函数和提升小波变换函数对图像进行评价,提出了根据图像脱靶量来选择对焦窗口的算法和曲线拟合结合爬山算法的搜索策略,减少了背景对对焦的影响。王昊[5]提出了基于单幅图像的离焦估计法,有效提高了对焦的速度。Xiaofan Yu等[6]提出了利用深度强化学习来对显微镜中的物像进行对焦,该方法将传统评价和搜索两个过程整合到一个网络中,形成了一个端到端的算法。Rudi Chen等[7]提出了基于决策树的自动对焦方法,提高了在低光条件下对焦的精确度。
由于红外探测器所获得的图像质量普遍比可见光探测器的差,成像噪声大,存在坏点,望远镜的视场小,大气折射带来的图像模糊程度不稳定,一般自动对焦算法直接应用于红外望远镜上,使得基于图像质量的自动对焦失败几率大大增加,所以需要为红外望远镜系统寻找适合的自动对焦算法。
1. 红外望远镜系统
搭建的卡塞格林反射式红外望远镜系统如图 1所示,主反射镜焦距300 mm,口径600 mm,红外探测器成像大小为640×512,像元尺寸为15 μm,响应波长为3.7~4.8 μm,F数为2,具备二维转动功能。望远镜系统中相机的积分时间为6 μs,在最高8°/s的角速度的运动中几乎不产生运动模糊。
图 2为红外望远镜系统的控制框图。红外辐射首先进入光学系统,然后在红外探测器上成像,探测器的光敏元响应后由采集卡采集到图像数据,最后传送到PC机上由上位机进行处理。其中自动对焦部分,由上位机发送指令控制步进电机带动反射镜沿着光轴移动,完成自动对焦任务。
红外望远镜系统在成像上与一般可见光系统有很大的区别,尤其在静止情况下的成像,可见光成像系统如智能手机镜头基本都是近距离成像,空气密度不均在短距离内对光线的影响极其有限,所以成像质量也不会发生较大的变化。而红外望远镜系统为远距离成像,空气密度不均在较长距离上对光线有较强影响,这一点在气温较高时尤为明显。图像在大气折射下不断地变化,导致对焦评价函数评价值不断抖动,在峰值两侧的对焦评价函数评价值也不再单调,进而使自动对焦算法不能找到对焦评价函数的峰值或者极易找到局部极大值。在平稳平台上使用红外望远镜对近处一房屋窗户进行连续成像,其中两幅图像的对比如图 3所示,上图比下图的Tenengrad函数评价值大4.25%,上图比下图更清晰。
2. 对焦评价函数
基于数字图像处理的自动对焦的算法分为离焦深度法和对焦深度法,离焦深度法根据采集到的图像估计出离焦量驱动镜头到达准焦位置,但是这种方法对焦的质量依赖于高精度的离焦模型,稳定性不高。对焦深度法需要根据当前获取的图像的清晰度来决定下一步对焦的方向和距离,在数次循环后找到系统的准焦位置,具有较强的稳定性。因此,采用对焦深度法。
性能优良的对焦评价函数对基于对焦深法的自动对焦算法来说至关重要。理想的对焦评价函数满足单峰性、无偏性、灵敏度高和计算量小的特点,对于红外望远镜系统,其焦点从几十米到几公里远,所以高动态范围也是一项重要的性质。近年来已有多项研究提出了各种不同的对焦评价函数,主要分为基于梯度信息的函数,基于频谱的函数以及熵函数。其中基于梯度的对焦评价函数具有良好的实时性被广泛用于各种自动对焦系统[8]。
清晰的图像在空域上表现为更清晰地边缘,图像的边缘表现为图像局部灰度变化较大的地方,也就是梯度值较大的地方。目前常用的基于梯度的调教评价函数有Tenengrad函数、Brener函数、Laplacian函数、灰度差分绝对值和函数(Sum of Modulus of gray Difference,SMD)、能量梯度函数(Energy of Gradient,EOG)、Roberts梯度和函数以及一种覆盖范围可调的变频梯度对焦评价函数[9]。Tenengrad函数使用Sobel算子计算图像横向和纵向的灰度梯度信息,Brener函数只考虑一个方向的梯度信息,Laplacian函数是一种二阶微分算子,对噪声比较敏感,覆盖范围可调的变频梯度对焦评价函数的动态范围和灵敏度根据不同需求进行调整,但是其缺点是计算量较大。
为了寻找适合此红外望远镜系统的对焦函数,使用该系统连续采集120帧从失焦-准焦-失焦的红外图像,帧与帧之间步进距离为10个脉冲,得到了去除一部分帧之后的图像,如图 4所示。
利用上述对焦评价函数对这些图像进行评价,向最大值归一化后的评价曲线如图 5所示。对100张图像进行评价,得到每个对焦评价函数每张图像平均处理时间如表 1所示。
表 1 不同对焦评价函数的实时性Table 1. Real time performance of different focusing evaluation functionsFunction Time/ms Tenengrad 46.37 Brener 5.59 Laplacian 42.68 Variance 15.55 Paper[9] 250.9 Squared 11.64 Roberts 53.5 由图 5和表 1可得Variance、Squared、Brener、Roberts算子的动态范围太小,在失焦量较大时过于平缓,而文献[9]中所提对焦函数的算法实时性太差,综合评价函数单峰性、灵敏度、动态范围、计算量等因素,选择Tenengrad函数作为对焦评价函数,在单独的线程中平均能达到21.57 fps的帧率。
3. 抑制对焦过程中的噪声
由第2章可知,红外望远镜系统在成像的时候会受到如大气折射、探测器坏点等噪声的影响,如果不设法降低这些噪声的影响,对焦函数会失去单峰性,进而使搜索算法找到局部最大值点,最终导致对焦失败。
为了探究在静止状态下红外望远镜系统成像的清晰度浮动情况,利用稳定的实验平台,对3 km远处的建筑物的成像,以45 fps的帧率连续采集30帧图像,计算得到的Tenengrad值与均值的比值图像如图 6所示,极差为0.11544,标准差0.03471,图中直线为平均值。从图 6可以看出红外望远镜系统成像的清晰度在不断地波动之中。
卡塞格林系统具有长焦距、大通光口径、工作波段宽等特点[10]。,相应地,对焦机构使用丝杆结构来保证对焦具有的较高的精度,但长焦距、微步进使得镜头移动缓慢,实验中红外望远镜从前焦到后焦需要1.2 s。在对焦过程中,系统采集到的红外图像由于平台抖动、大气折射,甚至飞鸟闯入视野等因素会产生模糊,清晰度不断变化,尤其在接近准焦的位置,清晰度变化极易导致搜索算法找到错误的单峰。所以必须对清晰度评价值进行中值滤波,每一次步进后的清晰度评价值由式(1)得到:
$$ {f_{{\rm{median}}}}{\rm{ = median}}\{ {f_1},{f_2}, \ldots ,{f_n}\} $$ (1) 式中:fmedian为每次镜头步进后的评价值,在后文中,函数的评价值都代表其已经求过中位数。f1, f2, …, fn表示每次镜头步进后n次成像的清晰度评价值。
对相同建筑物所成像进行连续采集后,每10个点为一组,求Tennengrad函数值取其中位数、平均数后所得图像如图 7所示,极差为0.091其标准差为0.03284。由此可见,抑制噪声的方法有一定效果。
利用多次采集图像并求评价值中位数的方法,采集红外望远镜从离焦-准焦-离焦的图像,作箱线图如图 8所示,图中菱形小方块代表离群值,竖直线段两端为清晰度值的有效最大值和最小值,线段中的点位中位数,将每个图像序列清晰度值的中位数连起来得到比较平滑的图像为清晰度评价曲线。可以看出在峰值附近,评价值波动较为剧烈,如果没有进行去噪,自动对焦算法找到的准焦位置可能并不是最优的准焦位置。
4. 搜索算法
搜索算法对于对焦的速度和精度也起着至关重要的作用,基本分为全局搜索法、爬山法、二分搜索、曲线拟合搜索、以及上述几种搜索方法的组合[11]。全局搜索是最简单的搜索算法,但它需要遍历整个对焦范围,步长小的情况下总是能够找到最清晰的镜头位置,效率随着步长减小而急剧降低,在红外望远镜系统跟踪目标的过程中遍历整个对焦范围会让跟踪算法丢失目标。大多数基于爬山法的搜索算法使用由粗到精的步长,该方法可以有效地减少寻找准焦位置的时间,典型的算法为两阶段爬山法。曲线拟合搜索将清晰度评价值拟合到多项式或者高斯方程上,在对焦过程中只需计算三四个位置处的清晰度值就能找到准焦位置,但是该方法比较依赖峰值附近的数据,在较高噪音的情况下可能无法找到准焦位置。
在两阶段自动对焦算法中,首先使用大步距迅速找出评价函数大致的单峰位置,再使用小步距精细对焦找出精确的准焦位置。在粗对焦阶段,如果步距太大,容易跨过准焦位置,使得细对焦阶段需要多次对焦才能找到准焦位置。粗对焦阶段的步距太小也会导致粗对焦阶段需要太多的对焦次数。
在爬山法的基础上提出了变步长的方法。类比深度学习梯度回传算法中的带动量的随机梯度下降法(stochastic gradient descent,SGD)和自动控制理论中的PID(Proportion Integral Differential)算法,可以很自然地将动量和加速度带入爬山法之中。首先确定粗对焦基础步进步长为sb。取第n次步进后的评价值与第n-1次步进后的评价值的差为动量m,除以第n-1次步进后的评价值进行归一化,如式(2)。取第n次步进后的评价值增长量与第n-1次评价值的增长量的差作为加速度a,除以第n-1次步进后的评价值的增长量进行归一化,如式(3)。最终步进量如式(4)所示。
$$ m = \frac{{{f_n} - {f_{n - 1}}}}{{{f_{n - 1}}}} $$ (2) $$ a = \frac{{{f_n} - {f_{n - 1}}}}{{{f_n}}} - \frac{{{f_{n - 1}} - {f_{n - 2}}}}{{{f_{n - 1}}}} $$ (3) $$ s = {s_{\rm{b}}} + \alpha \cdot m + \beta \cdot a $$ (4) 式中:α、β为系数。
粗对焦阶段结束后使用细步长sl进行精细对焦完成自动对焦。变步长两阶段爬山算法流程图如图 9所示。
5. 自动对焦实验
实验利用搭建的卡塞格林反射式红外望远镜系统对距离约3 km远的一处建筑物进行自动对焦。试验采用两种算法进行对比。对比算法在粗对焦阶段采用固定步长,利用Tenengrad清晰度评价函数,每次步进后采集5幅图像取Tenengrad评价函数的中位数作为该次步进后的清晰度值,其粗对焦步进距离分别为20、30、40脉冲,细对焦步进步长为10,变步长的爬山法中取基准步长sb=20、30、40,sl=10,参数α=200,β=200。设置等待镜头移动完成时间为50 ms,完成一次步进的时间在300 ms内。
实际目标跟踪中不会有离焦500脉冲以上才对焦的情况发生,所以设定允许偏离的脉冲数分别为100、200、300、400脉冲,在每种条件下实验重复对焦20次,取所需对焦步数的平均值为最终对焦步数,实验结果如表 2和表 3所示。随机选取对焦前后的图像如图 10和图 11所示。
表 2 使用对比方法和使用本文提出的变步长自动对焦算法完成对焦所需的步数对比Table 2. The comparison of the number of steps needed to complete the focusing between the compared method and using the variable step size autofocus algorithm proposed in this paperNumber of out-of-focus pulses Steps needed to finish autofocus Contrast algorithm Proposed algorithm 20 30 40 20 30 40 100 11.3 9.0 9.0 7.0 8.5 8.5 200 16.3 11.8 12.3 11.3 11.0 12.8 300 21.3 17.0 15.3 14.0 14.0 14.5 400 25.7 19.0 18.0 17.8 15.0 15.8 表 3 使用两种算法对焦前后的红外图像清晰度对比(其中Tenengrad数值均为原数值除以1×109后的结果)Table 3. The comparison of clarity of the infrared image between the two methods(where all the Tenengrad values were divided by 1×109)Number of out-of-focus pulses Tenengrad value before autofocus Tenengrad value after autofocus Contrast algorithm Clarity improved Proposed algorithm Clarity improved 100 7.6771 9.4609 23.24% 9.3857 22.26% 200 6.7049 9.3238 39.06% 9.3512 39.47% 300 6.1801 9.6894 56.78% 9.4935 53.61% 400 5.8859 9.3488 58.83% 9.8968 68.14% 由表 2可以看出使用提出的算法所需对焦步数均比对比算法所需的步数少,随着基准步长的增加,完成对焦所需的步数在减少,但在基准步长为40的时候所需的对焦步数多于基准步长为30的时候所需的对焦步数,同样的现象出现在对比算法取固定步长为40,失焦脉冲为200的时候,这是由于粗对焦步长太大,大大越过了焦面的位置,导致细对焦步数增多。所以,实际应用中需要根据不同的系统选取适合的参数,以适应不同的工作环境。
表 3为不同失焦情况下使用两种算法自动对焦前后的图像清晰度的比较,从图像清晰度的提升效果可以看出,两种自动对焦算法的提升效果在同一水平。
6. 结论
本文通过在采集的多幅红外数据上,测试了多个对焦函数的性能,在考虑单峰性、动态范围和实时性的情况下选择了Tenengrad作为对焦函数,并使用了中值滤波和多次评价图像清晰度求中值的方法降低图像的噪声,增强了对焦函数在单峰两侧的稳定性,然后采用带有动量的两阶段爬山法作为搜索函数。最终在红外望远镜系统上以不同失焦程度进行对焦实验,验证了自动对焦设计的可行性。
-
表 1 不同对焦评价函数的实时性
Table 1 Real time performance of different focusing evaluation functions
Function Time/ms Tenengrad 46.37 Brener 5.59 Laplacian 42.68 Variance 15.55 Paper[9] 250.9 Squared 11.64 Roberts 53.5 表 2 使用对比方法和使用本文提出的变步长自动对焦算法完成对焦所需的步数对比
Table 2 The comparison of the number of steps needed to complete the focusing between the compared method and using the variable step size autofocus algorithm proposed in this paper
Number of out-of-focus pulses Steps needed to finish autofocus Contrast algorithm Proposed algorithm 20 30 40 20 30 40 100 11.3 9.0 9.0 7.0 8.5 8.5 200 16.3 11.8 12.3 11.3 11.0 12.8 300 21.3 17.0 15.3 14.0 14.0 14.5 400 25.7 19.0 18.0 17.8 15.0 15.8 表 3 使用两种算法对焦前后的红外图像清晰度对比(其中Tenengrad数值均为原数值除以1×109后的结果)
Table 3 The comparison of clarity of the infrared image between the two methods(where all the Tenengrad values were divided by 1×109)
Number of out-of-focus pulses Tenengrad value before autofocus Tenengrad value after autofocus Contrast algorithm Clarity improved Proposed algorithm Clarity improved 100 7.6771 9.4609 23.24% 9.3857 22.26% 200 6.7049 9.3238 39.06% 9.3512 39.47% 300 6.1801 9.6894 56.78% 9.4935 53.61% 400 5.8859 9.3488 58.83% 9.8968 68.14% -
[1] 李洪宇, 杨帆, 谭文斌, 等. 基于HVS算子的自适应清晰度自动调焦评价函数[J]. 红外技术, 2017, 39(7): 632-637. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201707009.htm LI Hongyu, YANG Fan, TAN Wenbin, et al. A Self-adaptive Clarity Auto Focus Evaluation Function Based on HVS Operator[J]. Infrared Technology, 2017, 39(7): 632-637. https://www.cnki.com.cn/Article/CJFDTOTAL-HWJS201707009.htm
[2] CAO Yongpeng, XIN Chunhui, PAN Qingsong. Study on auto-focusing searching algorithm applied to integrated camera[J]. Journal of Applied Optics, 2018, 39(4): 483-490. http://www.researchgate.net/publication/327689865_Study_on_auto-focusing_searching_algorithm_applied_to_integrated_camera
[3] Erasmus S J, Smith K C A. An automatic focusing and astigmatism correction system for the SEM and CTEM[J]. Journal of Microscopy, 1982, 127(2): 185-199. DOI: 10.1111/j.1365-2818.1982.tb00412.x
[4] 林兆华, 刘鑫, 王岚, 等. 采用MSP430单片机的自动调焦控制系统在经纬仪上的应用[J]. 电光与控制, 2011, 18(1): 48-52. DOI: 10.3969/j.issn.1671-637X.2011.01.012 LIN Zhaohua, LIU Xin, WANG Lan, et al. Application of MSP430 in Autofocus System of Theodolite[J]. Electronics Optics & Control, 2011, 18(1): 48-52 DOI: 10.3969/j.issn.1671-637X.2011.01.012
[5] 王昊, 张涛, 张振, 等. 单幅图像估计离焦量的航空摄像机自动调焦系统[J]. 液晶与显示, 2016, 31(5): 484-490. https://www.cnki.com.cn/Article/CJFDTOTAL-YJYS201605010.htm WAHG Hao, ZHANG Tao, ZHANG Zhen, et al. System of aerial camera auto-focus based on defocus estimate by single image[J]. Chinese Journal of Liquid Crystals and Displays, 2016, 31(5): 484-490. https://www.cnki.com.cn/Article/CJFDTOTAL-YJYS201605010.htm
[6] YU X, YU R, YANG J, et al. A Robotic Auto-Focus System based on Deep Reinforcement Learning[C]//2018 15th International Conference on Control, Automation, Robotics and Vision (ICARCV), IEEE, 2018: 204-209.
[7] CHEN R, Van Beek P. Improving the accuracy and low-light performance of contrast-based autofocus using supervised machine learning[J]. Pattern Recognition Letters, 2015, 56: 30-37. DOI: 10.1016/j.patrec.2015.01.010
[8] ZHANG Y, LIU L, GONG W, et al. Autofocus system and evaluation methodologies: a literature review[J]. Sens. Mater. , 2018, 30(5): 1165-1174. http://smartsearch.nstl.gov.cn/paper_detail.html?id=972ce9d44629d1ab893e8ac7a2fab1b0
[9] 王烨茹, 冯华君, 徐之海, 等. 一种覆盖范围可调的变频梯度自动对焦评价函数[J]. 红外与激光工程, 2016, 45(10): 266-271. DOI: 10.3788/IRLA201645.1028001 WANG Yeru, FENG Huajun, XU Zhihai, et al. An adjustable coverage range autofocus evaluation function using gradient operator with variable frequency[J]. Infrared and Laser Engineering, 2016, 45(10): 266-271. doi: 10.3788/IRLA201645.1028001.
[10] 栗洋洋, 刘琳, 彭晴晴, 等. 卡塞格林系统的杂散辐射分析[J]. 激光与红外, 2019, 49(8): 987-991. DOI: 10.3969/j.issn.1001-5078.2019.08.014 LI Yangyang, LIU Lin, PENG Qingqing, et al. Stray radiation analysis of Cassegra in system[J]. LASER & INFRARED, 2019, 49(8): 987-991. DOI: 10.3969/j.issn.1001-5078.2019.08.014
[11] SHA X, LI W, LV X, et al. Research on auto-focusing technology for micro vision system[J]. Optik, 2017, 142: 226-233. DOI: 10.1016/j.ijleo.2017.06.001
-
期刊类型引用(1)
1. 陈仕旗,李明臻,苏建功. 基于曲线拟合与数据相似度的自动对焦算法. 南方农机. 2023(06): 131-133 . 百度学术
其他类型引用(6)