Infrared Binocular Ranging Method Based on Adaptive Geometrically Constrained ORB
-
摘要:
针对传统特征匹配算法计算效率低、误匹配率高和双目视觉测量精度不足等问题，提出了一种基于自适应几何约束和随机抽样一致性方法的ORB（Oriented FAST and Rotated BRIEF）红外双目测距方法。首先，通过FAST（Features from Accelerated Segment Test）算法与BRIEF（Binary Robust Independent Elementary Features）算法检测并描述关键点，采用快速最近邻搜索的算法完成特征点初始匹配。然后，根据初始匹配点对的斜率与距离选择相应的阈值，构建基于斜率与距离的几何约束，剔除明显错误匹配点对。最后利用随机抽样一致性方法去除异常点完成精匹配，结合热像仪标定参数计算出目标物体的距离。实验结果表明，改进的ORB算法与传统算法相比，具有较好的特征点质量和较高的测量精度，测距平均绝对误差为1.64%，具有较好的实用价值。
Abstract:An ORB infrared binocular ranging method based on adaptive geometric constraints and the random sampling consistency method is proposed to address the issues of low computational efficiency, high mismatching rates, and insufficient accuracy in binocular vision measurements by traditional feature matching algorithms. First, key points are detected and described using the FAST and BRIEF algorithms, and the initial matching of feature points is performed using the fast library for approximate nearest neighbors (FLANN) algorithm. Then, based on the slope and distance of the initial matching pairs, appropriate thresholds are selected, and geometric constraints based on these parameters are constructed to eliminate incorrect matching pairs. Finally, a random sample consensus (RANSAC) method is used to remove anomalous points and complete the fine matching. The distance of the target object is calculated by combining the thermal camera calibration parameters. Experimental results show that the improved ORB algorithm yields higher quality feature points and greater measurement accuracy compared to traditional algorithms, with an average absolute error of distance measurements at 1.64%, demonstrating its practical value.
-
0. 引言
在红外热成像设备的设计和应用中，经常针对不同厂家或者不同型号的红外探测器定制非标的红外图像处理算法，以及标定不同的算法参数。由于算法模型或者算法参数经常变化，导致设计算法、仿真、在硬件上调试算法的时间很多，开发周期很长，开发效率低下等问题。而常规的红外图像处理算法，包括数据采集、时域滤波、非均匀性校正、空域滤波、锐化增强、坏点校正以及调光映射等。设计的初期，需要从算法原理设计、算法模型的建立、数学过程的计算，转化成可实现的编程语言，然后实现和显示。
随着小型化、低功耗、低成本的红外热成像设备应用的普及和民用。FPGA处理器非常适合于该种应用需求，FPGA是高速并行的处理器，适合于图像阵列的算法处理和加速，并且功耗低，可反复编程设计，所以常应用于红外热成像设备中。
1. 传统的红外图像仿真方法
基于FPGA的红外图像处理算法，仿真流程示意图如图 1所示。
从图 1中可知，利用FPGA处理器进行图像处理，需要两步的仿真结果。
第一步：根据算法需求，设计算法原理，在Matlab软件上编程实现算法过程，先用浮点数进行设计和计算，代码设计和编写完成后，导入测试图像，进行仿真和显示，在显示窗口中显示出来[1-4]。对显示出来的图像效果进行评估，看看图像效果有没有达到算法原理期望的结果，如果没有，调整算法参数和实现过程，反复迭代调整直至图像效果达到期望的结果。达到期望结果后，进行定点化设计，将算法实现过程中的浮点数，全部转化成定点化数，比如INT8、INT16、INT32等，并且转化完成后，保证算法实现的结果仍然达到期望值，不损失精度，不丢失细节。然后再更换测试图像，测试数据设计成依次递增或者递减的特征数据，再进行仿真。
第二步：文献[5]、[6]提出定点化之后的算法原理和实现过程，编写FPGA的硬件描述语言，设计FPGA的逻辑，将第一步过程中的算法原理实现出来，再进行ModelSim仿真，仿真测试的输入激励是第一步中同样依次递增或者递减的特征数据，得到仿真结果，与第一步中每个关键节点（关键步骤）的结果进行比对，保证每一步的结果都与Matlab仿真的结果相同，才能确保算法效果的达到。
传统的红外图像仿真方法，分成上述两个步骤，先要进行Matlab仿真，显示评判效果达到之后，再启动定点化，将定点化之后的算法过程转化成FPGA中可以实现的过程，并用FPGA的硬件描述语言实现相关的逻辑，再进行ModelSim仿真，由于ModelSim不能像Matlab工具一样方便导入一张图像（图片数据）进行仿真，仿真结果不能直观地可视化显示。所以在第一步、第二步过程中，输入激励的时候制作一些递增、递减的相同特征数据进行仿真。对每一步关键步骤和最后结果的仿真比对，保证数据正确，才能保证算法原理的实现和算法效果的达到。
2. 基于ModelSim可视化的红外图像仿真方法
从上述传统的红外图像仿真过程看，既要实现Matlab代码编写、仿真、还要做定点化设计。等FPGA代码编写完成后，在ModelSim仿真的时候还要进行每一步过程的计算结果比对，并且不能直接可视化的方式看到算法运行的结果。存在实现过程复杂、开发效率低下，开发周期长等问题。针对这些问题，本文提出了一种新的基于ModelSim可视化仿真的红外图像仿真方法。如图 2所示为本文的实现框图。
从图 2中可知，基于ModelSim可视化的红外图像仿真方法相比传统的红外图像仿真方法，仿真过程简单很多，开发效率也会提高很多。在算法原理设计完成后，直接编写FPGA的硬件描述语言实现算法计算过程，再进行ModelSim仿真，仿真的时候，不再用特定的递增数据或者递减的特征数据做输入激励，而是用之前原始采集到的红外图像，如果算法原理是针对16 bit的原始红外图像处理，可以是Y16数据，针对8 bit的调光之后红外图像处理可以是Y8数据，之前采集到的红外图像Y16或者Y8数据，存放在RAW文件中。而RAW文件中的图像数据是可以用ImageJ查看的，ImageJ工具可以直接显示16位或者8位的RAW图像。
对于红外图像算法所用到的数据文件——RAW文件，是不能直接导入ModelSim进行仿真的，需要经过binary工具将raw文件转换成txt文件，在ModelSim中通过系统调用＄readmemb/ readmemh函数读入TXT文件的方式读入到内存中，然后进行图像算法处理，算法处理完成，调用＄writememb/ ＄writememh函数将算法处理之后的图像写入txt文件中，通过txt2bin工具，将txt格式的数据转换成bin文件，再通过直接改后缀名，将.bin改成.raw文件。这样输入输出都是raw格式的数据文件，导入ImageJ工具中显示，以可视化的方式显示出了图像。
所以，这样红外图像算法处理的输入是图像数据，输出是处理之后的图像数据，可以直观地在ImageJ工具中显示出来对比，分析红外图像算法的处理过程是否正确。并且每一步的计算过程和关键步骤的结果也可以通过如图 3内存查看的方式、图 4内存读写过程仿真的方式查看数据在内存中存储、写入和读出是否异常。并通过如图 5红外图像算法处理仿真过程来查看数据计算过程正确与否。
![]()
图 4 红外图像数据内存读写仿真波形数据Figure 4. Infrared image data memory reading and writing simulation waveform data![]()
图 5 红外图像算法处理仿真波形数据Figure 5. Infrared image algorithm processing simulation waveform data这样数据输入，写入内存，然后从内存中读出，再进行红外图像算法处理，每一步数据的处理都是可以查询和追溯的，所以既方便又快捷。如图 6所示为本文进行红外图像滤波降噪算法处理过程中的输入源图和处理完成之后输出结果对比图Image显示，图 7为本文中基于ModelSim仿真过程中输入输出文件结构示意图。
![]()
图 6 红外图像滤波降噪输入输出对比图Figure 6. Infrared image filtering noise reduction input and output contrast diagram![]()
图 7 基于ModelSim仿真过程文件结构示意图Figure 7. Schematic diagram of file structure based on ModelSim在反复调整算法过程，以及算法参数的情况下，能够很快得到想要的算法结果，比如图 6中右边是降噪之后的效果图，降噪之后，图像噪声能消除了，但是图像变得模糊了，说明降噪算法参数设置不合适，通过调整滤波器的系数和阈值之后，降噪效果有明显的改善，如图 8所示。
![]()
图 8 红外图像滤波降噪后优化参数效果图Figure 8. Optimization parameter effect after infrared image filtering and noise reduction上述图 6与图 8中的红外图像滤波降噪算法为非局部平均滤波降噪算法，算法流程如图 9所示。这种降噪算法是一种利用图像自相似性的空域滤波算法，相比传统高斯平滑、双边滤波等方法，保护更多的图像细节。图像各点之间可以同时进行运算，非常适合于在FPGA并行处理器上运算。根据相似性计算权重的时候，如果相似性阈值选择太大，算法滤波出来的效果如图 6所示，过度平滑了，图像变模糊了，而选择合适的相似性阈值，得到滤波出来的效果如图 8所示，既能滤除噪声，又能保留图像细节。在该种红外图像仿真方法中能很快得到一组适合的算法参数。
基于该种ModelSim可视化的红外图像仿真方法，能够快速地修改算法参数和调整算法计算过程，运行之后得到图像算法的仿真结果，并且输入、算法计算、输出等环节里的每一步数据都是可以通过内存或者波形查看的方式追溯数据处理过程，保证数据向着期望的方向计算和处理。
3. 分析讨论
本文提出两种红外图像的仿真方法，传统的红外图像仿真方法，需要进行Matlab仿真，仿真结束后，再进行定点化设计，才能指导FPGA进行编程和实现，最后启动ModelSim的仿真，并且传统的ModelSim仿真并不能直接对图像数据的输入进行仿真并且可视化，而是制作相关的递增或者递减的特征数据作为输入，并且Matlab仿真同样以该特征数据作为输入，进行仿真，最后对2组仿真数据结果进行比对，比对结果一致代表该算法在FPGA中运行正常，能达到期望的算法效果。该过程复杂、繁琐、开发效率低下、开发周期长等问题不可忽视。所以本文在传统的红外图像仿真方法上进行了改进和优化，提出了一种新的基于ModelSim可视化的红外图像仿真方法与系统。该种方法在传统方法上省去了Matlab仿真的过程和环节，同时也省去了定点化的设计过程。在算法原理设计完成后，启动FPGA硬件描述语言的编写和仿真，只是在仿真的时候，输入图像可以用之前采集好的红外图像或者用PS工具生成一张图片，保存为.raw文件，在仿真输入的时候用binary工具将raw格式文件转换成txt文件，就可以启动仿真过程了，仿真结束后，生成的结果TXT，再通过txt2bin工具，将txt格式的数据转换成bin文件，再通过直接改后缀名的方式，将.bin改成.raw文件。用ImageJ工具打开source.raw和result.raw文件就可以直观地对比显示在图像窗口上了。并且对于算法参数、计算过程的调整，也是很快得到相应的输出结果。该过程相对传统的Matlab仿真和ModelSim联合仿真要方便很多，尤其是在算法调整和参数的调整的情况下，又要重复一遍Matlab仿真，再去ModelSim仿真的过程。但是该种方法对于红外图像算法原理的理解和FPGA逻辑实现图像算法的能力要求比较高。并且本文针对红外图像的仿真方法与传统的红外图像仿真方法，在适用范围上是一样的，对象都是红外图像的算法仿真。针对具体的算法模型，需要将算法分解成各计算步骤，然后针对各计算步骤进行数据仿真，所以对于其他文献[7]中不同的算法，比如弱小目标的背景的抑制，突出目标的增强算法等都是一样的仿真过程。
4. 结论
对于红外图像处理算法在FPGA的实现过程中，本文阐述了传统的仿真方法，先进行Matlab仿真，仿真效果达到的前提下，再进行定点化设计，指导FPGA进行逻辑设计，完成算法原理的实现，最后启动ModelSim仿真，而且仿真结果的正确评判标准是与Matlab仿真结果比对一致，不一致的话，要优化定点化过程，再进行仿真，重复直至结果一致。而本文的仿真方法基于ModelSim的可视化仿真，省去了上述繁琐的开发过程，直接将图像源文件转化后导入ModelSim仿真，算法处理完成后，转成图像结果文件进行比对，用可视化的方式评判图像经过算法处理之后是否达到算法原理期望达到的算法效果。同时如果算法未到达期望效果，通过调整参数、算法实现过程，以及追溯输入图像、写入、读出内存过程，判断图像算法计算过程中数据的正确与否。所以该方法与传统的红外图像仿真方法相比，评估算法效果以可视化显示输入、输出对比图差异性来达到。评估算法计算过程的正确性，同样可以追溯数据处理过程的每一步的正确性来达到。所以该仿真方法的仿真效果是与传统的方法一致的。但是开发过程缩减了和效率上大大提升了，开发周期短。尤其是在反复调参和优化过程中，显得更为明显和方便便捷。
-
表 1 双目标定结果
Table 1 Binocular calibration results
Left camera Right camera Focal length (fx, fy) (785.0543, 795.8341) (793.0270, 798.7419) Principal point
coordinates (u, v)(212.2896, 127.0004) (232.9362, 124.3936) Rotation matrix $ \left[ {\begin{array}{*{20}{c}} {0.9997}&{ - 0.0008}&{0.0225} \\ {0.0007}&{1.0000}&{ - 0.0025} \\ { - 0.0225}&{0.0025}&{0.9997} \end{array}} \right] $ Translation vector [－59.3119, 0.0486, －5.6672] 
下载: 导出CSV
表 2 几何约束对比
Table 2 Geometric constraints comparison
Constraint conditions Initial matched points Matched points after constraints Running time/s No constraint 212 212 0.168 Slope constraint 212 126 0.151 Distance constraint 212 126 0.159 Slope and distance constraint 212 91 0.134
下载: 导出CSV
表 3 各种算法数据结果对比
Table 3 Comparison of data results of various algorithms
Scene Algorithm Mean slope Max slope Mean distance/pixel Max distance/pixel Running time/s ORB 0.02022 0.36751 45.14567 159.77012 0.146 Scene 1 ORB-RANSAC 0.00112 0.01486 34.31680 40.00000 0.143 Our algorithm 0.00017 0.00426 34.58159 36.20497 0.139 ORB -0.00451 0.58498 67.30733 293.21835 0.141 Scene 2 ORB-RANSAC 0.00384 0.02436 42.07100 46.40000 0.140 Our algorithm 0.00333 0.01403 42.76380 47.01064 0.133
下载: 导出CSV
表 4 算法测距结果
Table 4 Algorithm distance measurement results
Number Actual distance/mm ORB/mm ORB+RANSAC/mm Our algorithm/mm 1 900 760.85 936.82 922.61 2 950 825.97 960.21 943.55 3 1000 861.55 995.18 996.32 4 1050 805.70 1052.85 1053.48 5 1100 929.40 1151.27 1147.48
下载: 导出CSV
-
[1] Zaarane A, Slimani I, Hamdoun A, et al. Vehicle to vehicle distance measurement for self-driving systems[C]//Proceedings of the 2019 6th International Conference on Control, Decision and Information Technologies (CoDIT), 2019: 1587-1591. DOI: 10.1109/CoDIT.2019.8820572.
[2] JIANG Chengfu, GAO Yuanlou, YANG Pingfa. Research on target ranging of mobile robot based on binocular vision[C]//Proceedings of the 2021 3rd International Conference on Robotics and Computer Vision (ICRCV), 2021: 1-6, DOI: 10.1109/ICRCV52986.2021.9546971.
[3] MA Yunpeng, LI Qingwu, CHU Lulu, et al. Real-time detection and spatial localization of insulators for UAV inspection based on binocular stereo vision[J]. Remote Sensing, 2021, 13(2): 230. DOI: 10.3390/rs13020230
[4] SU Chang, TAN Gongquan, LUO Yufeng. Research on stereo matching technology based on binocular vision[J]. OALib, 2019, 6(9): 1-10.
[5] LI Jun, WANG Haihui, ZHANG Liubin, et al. The research of random sample consensus matching algorithm in PCA-SIFT stereo matching method[C]//Proceedings of the 2019 Chinese Control And Decision Conference (CCDC), 2019: 3338-3341.
[6] 付元辰, 马鸣庸, 丁龙阳. 面向室内视觉定位的点特征提取算法比较[J]. 导航定位学报, 2022, 10(1): 36-40. https://www.cnki.com.cn/Article/CJFDTOTAL-CHWZ202201005.htm FU Yuanchen, MA Mingyong, DING Longyang. Comparative research on point feature extraction algorithms for indoor visual positioning[J]. Journal of Navigation and Positioning, 2022, 10(1): 36-40. https://www.cnki.com.cn/Article/CJFDTOTAL-CHWZ202201005.htm
[7] Lowe David G. Distinctive image features from scale-invariant keypoints[J]. International Journal of Computer Vision, 2004, 60: 91-110. DOI: 10.1023/B:VISI.0000029664.99615.94
[8] FENG Yuping, LI Shuguang. Research on an image mosaic algorithm based on improved ORB feature combined with SURF[C]//Proceedings of the 2018 Chinese Control And Decision Conference (CCDC), 2018: 4809-4814.
[9] Bay H, Ess A, Tuytelaars T, et al. Speeded-up robust features (SURF) [J]. Computer Vision and Image Understanding, 2008, 110(3): 346-359. DOI: 10.1016/j.cviu.2007.09.014
[10] Rublee E, Rabaud V, Konolige K, et al. ORB: An efficient alternative to SIFT or SURF[C]//2011 International Conference on Computer Vision, 2011: 2564-2571.
[11] Rosten E, Porter R, Drummond T. Faster and better: a machine learning approach to corner detection [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2010, 32(1): 105-119. DOI: 10.1109/TPAMI.2008.275
[12] Calonder M, Lepetit V, Strecha C, et al. BRIEF: binary robust independent elementary features[C]//Proceedings of the Computer Vision-ECCV, 2010: 778-792.
[13] ZHANG Yingying, ZHANG Jiangzhou, ZHANG Lu, et al. Research on panorama reconstruction technique of uav aerial image based on improved ORB algorithm[C]//Proceedings of the 2019 3rd International Conference on Electronic Information Technology and Computer Engineering (EITCE), 2019: 1252-1256.
[14] 党宏社, 李俊达, 张选德. 基于加权网格运动统计的改进ORB算法[J]. 陕西科技大学学报, 2022, 40(1): 182-187. https://www.cnki.com.cn/Article/CJFDTOTAL-XBQG202201027.htm DANG Hongshe, LI Junda, ZHANG Xuande. Improved ORB algorithm based on weighted grid motion statistics [J]. Journal of Shaanxi University of Science & Technology, 2022, 40(1): 182-187. https://www.cnki.com.cn/Article/CJFDTOTAL-XBQG202201027.htm
[15] 谷学静, 郭俊, 刘海望, 等. 基于四叉树分解法改进的ORB特征匹配算法[J]. 激光杂志, 2021, 42(6): 56-61. https://www.cnki.com.cn/Article/CJFDTOTAL-JGZZ202106013.htm GU Xuejing, GUO Jun, LIU Haiwang, et al. An improved ORB feature matching algorithm based on quadtree decomposition method[J]. Laser Journal, 2021, 42(6): 56-61. https://www.cnki.com.cn/Article/CJFDTOTAL-JGZZ202106013.htm
[16] 焦嵩鸣, 钟宇飞, 姚鑫, 等. 一种改进自适应阈值的ORB算法研究[J]. 激光杂志, 2022, 43(6): 85-90. https://www.cnki.com.cn/Article/CJFDTOTAL-JGZZ202206016.htm JIAO Songming, ZHONG Yufei, YAO Xin, et al. Research on an improved ORB algorithm of adaptive threshold [J]. Laser Journal, 2022, 43(6): 85-90. https://www.cnki.com.cn/Article/CJFDTOTAL-JGZZ202206016.htm
[17] SUN Mingchun, HUA Chunjian, PAN Rui. Binocular ranging based on improved ORB-RANSAC[C]//Proceedings of the 2022 41st Chinese Control Conference (CCC), 2022: 6216-6221.
[18] 宁小娟, 李洁茹, 高凡, 等. 基于最佳几何约束和RANSAC的特征匹配算法[J]. 系统仿真学报, 2022, 34(4): 727-734. https://www.cnki.com.cn/Article/CJFDTOTAL-XTFZ202204008.htm NING Xiaojuan, LI Jieru, GAO Fan, et al. Feature matching algorithm based on optimal geometric constraints and RANSAC[J]. Journal of System Simulation, 2022, 34(4): 727-734. https://www.cnki.com.cn/Article/CJFDTOTAL-XTFZ202204008.htm
[19] 李珊, 李浩, 余兰, 等. 基于动态自适应调整阈值的SURF改进匹配算法[J]. 地理空间信息, 2017, 15(3): 100-102. https://www.cnki.com.cn/Article/CJFDTOTAL-DXKJ201703031.htm LI Shan, LI Hao, YU Lan, et al. Improved SURF matching algorithm based on dynamic adaptive threshold adjustment[J]. Geospatial Information, 2017, 15(3): 100-102. https://www.cnki.com.cn/Article/CJFDTOTAL-DXKJ201703031.htm
[20] Muja M, Lowe D G. Fast approximate nearest neighbors with automatic algorithm configuration[C]//Proceedings of the International Conference on Computer Vision Theory and Applications, 2009: 331-340.
[21] CAI Zhiming, OU Yiwen, LING Yufeng, et al. Feature detection and matching with linear adjustment and adaptive thresholding[J]. IEEE Access, 2020, 8: 189735-189746. DOI: 10.1109/ACCESS.2020.3030183
[22] Fischler M A, Bolles R C. Random sample consensus: a paradigm for model fitting with applications to image analysis and automated cartography[J]. Commun ACM, 1981, 24: 381-395. DOI: 10.1145/358669.358692
[23] Ramadan M, El Tokhey M, Ragab A, et al. Adopted image matching techniques for aiding indoor navigation[J]. Ain Shams Engineering Journal, 2021, 12(4): 3649-3658. DOI: 10.1016/j.asej.2021.04.029
[24] ZHANG Z. A flexible new technique for camera calibration[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(11): 1330-1334. DOI: 10.1109/34.888718
[25] LI Chao, JIA Yongxing, WANG Huali, et al. Improved ORB algorithm based on binocular vision[C]//Proceedings of the 2019 IEEE 5th International Conference on Computer and Communications (ICCC), 2019: 1739-1743.
计量
- 文章访问数: 53
- HTML全文浏览量: 11
- PDF下载量: 25
