基于置信度的飞行时间点云去噪方法

王明星, 郑福, 王艳秋, 孙志斌

王明星, 郑福, 王艳秋, 孙志斌. 基于置信度的飞行时间点云去噪方法[J]. 红外技术, 2022, 44(5): 513-520.
引用本文: 王明星, 郑福, 王艳秋, 孙志斌. 基于置信度的飞行时间点云去噪方法[J]. 红外技术, 2022, 44(5): 513-520.
WANG Mingxing, ZHENG Fu, WANG Yanqiu, SUN Zhibin. Time-of-Flight Point Cloud Denoising Method Based on Confidence Level[J]. Infrared Technology , 2022, 44(5): 513-520.
Citation: WANG Mingxing, ZHENG Fu, WANG Yanqiu, SUN Zhibin. Time-of-Flight Point Cloud Denoising Method Based on Confidence Level[J]. Infrared Technology , 2022, 44(5): 513-520.

基于置信度的飞行时间点云去噪方法

基金项目: 

国家重点研发计划 2016YFE0131500

中国科学院青年创新促进会优秀会员项目 2013105

中国科学院青年创新促进会优秀会员项目 Y201728

中国科学院科研仪器设备研制项目 YJKYYQ20190008

发改委国家重大科技基础设施 2018YFA0404201

发改委国家重大科技基础设施 2018YFA0404202

空间科学战略先导专项 XDA15016300

国家重大科学仪器设备开发专项 2013YQ030595

空间科学战略先导专项 XDA15013600

国家自然科学基金委面上项目 61474123

国家自然科学基金委面上项目 61274024

详细信息
    作者简介:

    王明星(1998-),男,江西人,硕士研究生,主要研究方向为点云数据处理与应用,E-mail: wangmingxing20@mails.ucas.ac.cn

    通讯作者:

    孙志斌(1978-),男,山西人,博士,研究员,博士生导师,主要研究方向为空间光子学、光子信息学、空间材料学和物理电子学。E-mail: zbsun@nssc.ac.cn

  • 中图分类号: TN391

Time-of-Flight Point Cloud Denoising Method Based on Confidence Level

  • 摘要: 飞行时间(Time-of-Flight,ToF)三维成像方法由于多路径干扰和混合像素等问题降低了目标物体深度测量的精度。传统的方法通过优化重构异常点云数据或滤除噪声点云数据来提高目标的准确性,但是这些方法复杂度高且容易导致过度平滑。三维点云图像中的有效点云与噪声点云之间的关系很难用数学模型来表示。针对上述问题,本文提出了一种基于置信度的飞行时间点云去噪方法。首先,分析多帧点云数据的概率相关性,以点云数据的置信度作为判别有效点云与噪声点云的依据;其次,利用多帧点云之间的矢量对偶性,提出了一种快速提取不同置信度点云的算法,其时间复杂度为O(L);最后使用该算法提取多帧三维图像中置信度高的点云数据获得目标物体的真实测量数据,并重点对4组不同场景的点云数据进行对比实验。实验结果表明,该算法能够在有效滤除噪声的同时,显著提高目标物体的距离测量精度,增强目标物体的特征,因此具有广泛的应用价值。
    Abstract: The time-of-flight (ToF) 3D imaging method suffers from reduced precision in the depth measurement of target objects because of multipath interference and mixed pixels. Traditional methods improve the accuracy of the measurement by optimizing and reconstructing abnormal point cloud data or filtering noisy point cloud data. However, these methods are complex and can easily lead to excessive smoothing. The relationship between a valid point cloud and noisy point cloud in a 3D point cloud image is difficult to express using a mathematical model. To address these problems, a point cloud denoising method based on the confidence level is proposed in this paper. First, the probability correlation of multi-frame point cloud data is analyzed, and the confidence level of the point cloud data is used as the basis to distinguish valid point clouds from noisy point clouds. Second, by utilizing the vector duality between multi-frame point clouds, a fast algorithm for extracting point clouds with different confidence levels is presented, and its time complexity is O(L). Finally, the algorithm is used to extract the point cloud data with a high confidence level in multi-frame 3D images to obtain the real measurement data of the target object. We focus on the comparative experiments of four groups of point cloud data in different scenes. The experimental results show that the algorithm can not only effectively filter the noise but also significantly improve the distance measurement accuracy of the target object and enhance the characteristics of the target object; therefore, it has extensive application value.
  • 多模态图像融合[1]是指从不同模态的源图像中提取重要信息,合成一幅比单一源图像更清晰、内容更全面的图像,便于人眼的观察和计算机的处理。

    近年来,随着多尺度几何分析[2]、稀疏表示[3]、深度学习[4]等理论的发展,多模态图像融合技术取得了很大的进展。Bulanon等[5]采用拉普拉斯金字塔变换将源图像中的特征按照不同的尺度分解到不同的分解层上,由此来融合源图像中的显著特征;Zhan等人[6]提出了基于离散小波变换(discrete wavelet transform, DWT)的红外与可见光图像融合方法,虽然DWT在保留图像细节方面具有良好的性能,但缺乏平移不变性,导致融合图像的边界不连续。Liu等[7]提出了一种基于自适应稀疏表示(adaptive sparse representation,ASR)的多模态图像融合算法,融合的高频子带中保留了源图像的结构特征,但融合结果对比度极低、细节丢失严重。文献[8]提出了一种基于卷积神经网络(convolutional neural network,CNN)的图像融合算法,能同时实现显著性水平测评和权重分配,但融合结果中丢失了较多的细节信息。文献[9]提出了一种基于自适应脉冲耦合神经网络(adaptive pulse coupled neural network,APCNN)的非下采样轮廓波变换(non-subsampled contourlet transform,NSCT)域图像融合算法,由于APCNN模型中的连接强度设置为常数影响了融合结果的精度,且NSCT对各向异性的信息表示能力较弱,导致融合图像中丢失了边缘信息,针对此问题,文献[10]将非下采样剪切波变换(non-subsampled shearlet transform, NSST)和APCNN相结合,解决了NSCT方向有限的问题,且具有平移不变性[11],因此被广泛应用[10-13]。以上算法虽然在一定程度上提高了融合图像的质量,但都存在图像的边缘细节丢失、视觉效果差等问题。

    为了增加融合图像中的细节信息,提出了一种基于NSST-DWT-ICSAPCNN的多模态图像融合方法。采用NSST对源图像进行多尺度、多方向的分解得到高频和低频子带图像。考虑到NSST对细节处理精度仍不够高,而DWT在保留图像细节方面具有良好的性能,因此采用DWT进一步分解低频子带,提取源图像中容易被NSST分解忽略的细节信息。此外,为了增强中心神经元受到周围神经元的影响程度,将局部标准差的Sigmoid函数作为连接强度来构建改进型连接强度自适应脉冲耦合神经网络(improved connection strength adaptive pulse coupled neural network, ICSAPCNN),由于APCNN具有全局耦合特性和脉冲同步特性[14],因此能更好地利用高频子带图像的全局特征。本文结合NSST、DWT、ICSAPCNN的互补特性融合多模态图像,通过实验验证了所提算法的有效性。

    NSST分解过程有两步,第一步采用非下采样金字塔滤波器组(NSPF)对待融合的源图像进行n级尺度分解,实现图像的多尺度化。第二步采用剪切滤波器(SFB)实现高频子带的多方向化,第k级方向分解个数为2k。最终得到n+1个子带图像[11],即1个低频和n个高频子带图像,均与源图像的大小相同。

    NSST不仅可以在多方向和多尺度上表示图像,还具有平移不变性,并且其分解过程中没有使用下采样运算,消除了伪吉布斯现象。NSST二级分解过程如图 1所示,本文中NSST分解的级数设置为4,方向数设为[8, 8, 16, 16]。

    图  1  NSST二级分解过程
    Figure  1.  The two-level decomposition process of NSST

    DWT可以将源图像分解成一系列的能量子带和细节子带图像,分解过程使用一组高通、低通滤波器来执行,如图 2所示:先对图像ai中每行构成的一维数据进行一维小波分解,得到高、低频信息。再对每列构成的一维数据做相同的操作,最终得到4个子带图像:ai-1hj-11hj-12hj-13。其中,ai-1由行低通、列低通得到,包含图像的近似信息,hj-11由行低通、列高通得到,hj-12由行高通、列低通得到,hj-13由行高通、列高通得到。hj-11hj-12hj-13分别包含水平、垂直、对角方向上的边缘细节信息[15]

    图  2  DWT分解过程
    Figure  2.  The decomposition process of DWT

    APCNN模型是通过模拟猫的大脑视觉皮层中同步脉冲发放现象而建立起来的一个简化模型[16],它不需要任何的训练过程,而是基于迭代计算,其数学方程描述如式(1)~(5)所示:

    $$ F_{ij}[n]=S_{ij} $$ (1)
    $$ {L_{ij}}[n] = {V_L}\sum\limits_{kl} {{W_{ijkl}}{Y_{kl}}[n - 1]} $$ (2)
    $$ {U_{ij}}[n] = {{\text{e}}^{ - {\alpha _{\text{F}}}}}{U_{ij}}[n - 1] + {F_{ij}}[n](1 + \beta {L_{ij}}[n]) $$ (3)
    $$ {Y_{ij}}[n] = \left\{ {\begin{array}{*{20}{c}} {1,\quad {U_{ij}}[n] \gt {E_{ij}}[n - 1]} \\ {0,\quad {U_{ij}}[n] \leqslant {E_{ij}}[n - 1]} \end{array}} \right. $$ (4)
    $$ {E_{ij}}[n] = {{\text{e}}^{ - {\alpha _{\text{E}}}}}{E_{ij}}[n - 1] + {V_E}{Y_{ij}}[n] $$ (5)

    输入图像中的像素点(i, j)与APCNN模型中的神经元之间存在一一对应的关系[17],神经元获取外部刺激输入的通道有两个,一个是反馈输入Fij,由像素点(i, j)的灰度绝对值Sij决定,另一个是连接输入Lij,其中VL是放大系数,Wijkl为突触连接矩阵。将FijLij进行非线性相乘调制后得到神经元的内部活动项Uij,其中αF为反馈输入的衰减时间常数。当Uij大于动态阈值Eij时发放脉冲Yij,神经元产生一次点火。当神经元点火时,Eij立刻增大,然后又按照指数逐渐衰减,直到神经元再次发放脉冲,其中αE为动态阈值的衰减常数,VE为脉冲的放大系数。当迭代结束时,得到点火频率映射图。

    基于本文方法的图像融合流程如图 3所示,采用NSST对源图像IAIB进行分解得到高低频子带;再对低频子带进行DWT分解得到低频能量子带和细节子带,并采用最大值选择规则融合能量子带,利用ICSAPCNN分别对细节子带和高频子带进行融合;对能量子带和细节子带进行DWT逆变换得到融合的低频子带;最后采用NSST逆变换重构出融合图像IF

    图  3  基于NSST-DWT-ICSAPCNN的融合流程图
    Figure  3.  The fusion diagram based on NSST-DWT-ICSAPCNN

    本文结合区域能量(RE)和梯度能量(EOG)融合低频系数,选择M×N区域窗口,具体步骤如下:

    Step 1    根据式(6)分别计算两幅低频能量子带图像的区域能量RE1和RE2

    $$ {\text{R}}{{\text{E}}_X}(i,j) = \sum\nolimits_{i \leqslant M} {\sum\nolimits_{j \leqslant N} {{L_X}{{(i,j)}^2}} } $$ (6)

    Step 2    根据式(7)分别计算两幅低频能量子带图像的梯度能量EOG1和EOG2

    $$ {\text{EO}}{{\text{G}}_X}(i,j) = \sum\nolimits_{i \leqslant M} {\sum\nolimits_{j \leqslant N} {{{\left| {{G_X}(i,j)} \right|}^2}} } $$ (7)

    式中:LX(i, j)和GX(i, j)分别表示(i, j)位置的低频能量子带系数值和梯度值。

    $$ {G_X}(i,j) = \sqrt {{{({L_X}(i,j) - {L_X}(i + 1,j))}^2} + {{({L_X}(i,j) - {L_X}(i,j + 1))}^2}} $$ (8)

    Step 3    将RE和EOG相乘作为低频的显著性水平度量(ALM),定义如式(9)所示:

    $$ {\text{AL}}{{\text{M}}_X}(i,j) = {\text{R}}{{\text{E}}_X}(i,j) * {\text{EO}}{{\text{G}}_X}(i,j) $$ (9)

    上式(6)~(9)中,X∈{1, 2}。

    Step 4    根据极大值规则选择ALM较大的点所对应的低频系数作为融合的低频系数LF(i, j):

    $$ {L_{\text{F}}}(i,j) = \left\{ {\begin{array}{*{20}{c}} {{L_1}(i,j),}&{{\text{AL}}{{\text{M}}_1}(i,j) \geqslant {\text{AL}}{{\text{M}}_2}(i,j)} \\ {{L_2}(i,j),}&{{\text{AL}}{{\text{M}}_1}(i,j) \lt {\text{AL}}{{\text{M}}_2}(i,j)} \end{array}} \right. $$ (10)

    连接强度取值范围为(0, 1),调节着神经元之间的相互影响程度。本文利用Sigmoid函数表示APCNN模型的连接强度βij,避免了将连接强度设置为常数时模型的不灵活性。考虑到人眼视觉神经系统中各个神经元的连接强度不会完全相同,令连接强度由输入图像的局部标准差决定,标准差越大的区域对应的高频子带中包含更多的显著特征,连接强度随之增大,从而增强神经元受到周围神经元的影响程度,提高了ICSAPCNN对高频子带全局信息的利用程度。

    $$ {\beta _{ij}} = \frac{1}{{(1 + \exp ( - {\sigma _{ij}}))}} $$ (11)

    式中:σij为局部标准差,其定义如式(12)所示;$ \overline {{x_{ij}}} $为区域内以神经元(i, j)为中心的灰度均值;xkl为周围神经元(k, l)的灰度值;m为区域内神经元的总数。

    $$ {\sigma _{ij}} = \sqrt {\frac{1}{m}\sum\nolimits_{k = 1}^3 {\sum\nolimits_{l = 1}^3 {{{({x_{kl}} - \overline {{x_{ij}}} )}^2}} } } $$ (12)

    ICSAPCNN模型中各神经元由某一高频子带刺激后,将得到对应的点火频率映射图,点火次数表征高频系数中包含细节信息的显著程度,次数越大,对应位置所包含的细节信息越丰富。因此选择点火次数较大的点所对应的系数作为融合的高频系数,高频子带和低频细节子带具体的融合步骤如下:

    Step 1    初始化ICSAPCNN模型,将输入激励Sij设为高频子带(低频细节子带)图像像素点(i, j)的灰度值,并令Lij[n]=Uij[n]=Yij[n]=Eij[n]=0。

    Step 2    根据式(11)计算改进的连接强度βij,其余参数根据文献[9]设定。

    Step 3    根据式(13)计算模型每次迭代结束后的点火次数:

    $$ T_{ij}^{s,l}[n] = T_{ij}^{s,l}[n - 1] + Y_{ij}^{s,l}[n] $$ (13)

    Step 4    根据式(14)选择融合的高频系数(低频细节子带系数)。

    $$ H_{\text{F}}^{s,l}(i,j) = \left\{ {\begin{array}{*{20}{c}} {H_{\text{A}}^{s,l}(i,j),}&{T_{\text{A}}^{s,l}(i,j) \geqslant T_{\text{B}}^{s,l}(i,j)} \\ {H_{\text{B}}^{s,l}(i,j),}&{T_{\text{A}}^{s,l}(i,j) \lt T_{\text{B}}^{s,l}(i,j)} \end{array}} \right. $$ (14)

    式(13)~(14)中:sl分别对应高频子带(低频细节子带)的第s层、第l个方向。式(14)中A、B分别对应两幅高频子带图像或两幅低频细节子带图像。

    本文所有实验均在Windows10,MATLAB 2019a软件上运行。为了验证本文方法的有效性,实验所用到的多模态图像包括6组红外图像(Infrared)与可见光图像(Visible),8组计算机断层扫描图像(CT)与核磁共振图像(MRI)。与近几年的4种图像融合方法做对比,文献[7]采用基于ASR的融合方法,文献[8]采用基于CNN的融合方法,文献[9]和文献[10]均采用基于多尺度变换和APCNN的融合方法(分别记为NSCT-APCNN、NSST-APCNN),本文实验分析中展示了部分多模态源图像的融合结果。

    Zheng等人在文献[18]中总结了很多评估融合图像质量的客观指标,本文选取的评估指标包括熵QEN,互信息QMI,标准差QSD,视觉信息保真度QVIFF,非线性相关信息熵QIE,基于Tsallis的熵QTE。对于本文所有的客观评估指标,其值越大,融合后的图像质量越高,融合效果越好。

    本文列出了部分源图像的融合结果,图 4(a)图 4(b)分别是“road”可见光和红外源图像,图 4(c)~(g)为对两幅源图像应用不同方法得到的融合结果。观察可知:使用ASR和CNN方法的融合结果中能量严重丢失,公路上的行人分辨率极低,视觉效果差;使用NSCT-APCNN和NSST-APCNN方法的融合结果中人物边缘模糊,细节信息丢失;本文利用Sigmoid函数表示连接强度,在两幅高频子带对应位置的标准差相差较小时ICSAPCNN模型也能表现出较好的效果。由局部放大图可知,基于本文方法的结果中人物清晰,辨识度高,保留了源图像中的重要信息。图 5(a)图 5(b)~(g)分别是“tree”可见光和红外源图像,图 5(c)为对两幅源图像应用不同方法得到的融合结果。观察融合结果可知基于本文方法的融合结果最清晰,融合效果最好。由不同方法融合“road”和“tree”两组红外与可见光源图像的客观评估指标值如表 1所示,显然,由本文方法得到的客观评估指标值均较高。由不同方法融合6组红外和可见光源图像的客观评估指标结果的平均值如表 2所示,由表 2可知,除了QSDQTE,其余4个指标QENQMIQVIFFQIE均为最优,与主观视觉效果保持一致,验证了本文方法对于红外与可见光图像融合的有效性。

    图  4  “road”红外和可见光图像以及融合结果
    Figure  4.  The "road" infrared and visible source images and fusion results
    图  5  “tree”红外和可见光图像以及融合结果
    Figure  5.  The "tree" infrared and visible source images and fusion results
    表  1  两组红外与可见光图像客观评估指标值
    Table  1.  Values of objective evaluation index for 2 groups of infrared and visible images
    Images Metrics ASR[7] CNN[8] NSCT-APCNN[9] NSST-APCNN[10] NSST-DWT-ICSAPCNN
    Road QEN 7.1339 7.4964 7.3703 7.331 7.4247
    QMI 3.0046 3.2051 3.0786 3.2336 3.0167
    QSD 38.3922 48.4964 45.5887 44.5039 51.7009
    QVIFF 0.4469 0.5842 0.5206 0.5078 0.6275
    QIE 0.8055 0.8054 0.8052 0.8053 0.8062
    QTE 0.5749 0.5207 0.5401 0.5454 0.5886
    Tree QEN 6.3464 7.1022 6.9596 6.9152 7.1043
    QMI 1.2234 1.1755 1.3188 1.7535 2.1287
    QSD 24.3398 37.2648 32.8565 31.4357 34.8227
    QVIFF 0.3177 0.4706 0.3822 0.3798 0.4261
    QIE 0.8033 0.8043 0.8035 0.8035 0.8040
    QTE 0.4090 0.2861 0.2981 0.3279 0.3282
    下载: 导出CSV 
    | 显示表格
    表  2  六组红外与可见光图像客观评估指标平均值
    Table  2.  Average values of objective evaluation index for 6 groups of infrared and visible images
    Metrics ASR[7] CNN[8] NSCT-APCNN[9] NSST-APCNN[10] NSST-DWT-ICSAPCNN
    QEN 6.2345 6.8978 6.9633 6.9094 7.0247
    QMI 2.8656 3.2917 3.6756 4.1826 4.3438
    QSD 24.7236 38.7514 37.0670 35.4332 38.6467
    QVIFF 0.3761 0.5399 0.5445 0.5032 0.5514
    QIE 0.8063 0.8076 0.8086 0.8090 0.8097
    QTE 0.7311 0.6582 0.6534 0.6971 0.6841
    下载: 导出CSV 
    | 显示表格

    图 6(a)图 6(b)分别为致死性脑卒中CT和MRI源图像,图 6(c)~(g)为对两幅医学源图像应用不同方法得到的融合结果。观察仿真结果图可知:使用ASR方法的融合结果亮度较暗,对比度严重丢失,视觉效果差;使用CNN方法的融合结果存在能量丢失现象;使用NSCT-APCNN和NSST-APCNN的融合方法是直接对低频子带图像进行融合,这种做法不能充分提取到源图像的细节信息;本文利用DWT进一步分解低频子带图像,提取源图像中容易被NSST分解忽略的信息,由局部放大图可知,得到的融合结果(图 6(g))中保留了源图像较多的细节信息,且对比度与源图像保持一致,视觉效果最好。图 7(a)~(b)分别为脑膜瘤CT和MRI源图像,图 7(c)~(g)为融合结果,观察可知,基于本文方法的融合结果细节信息最丰富,融合效果最好。由不同方法融合两组医学源图像的客观评估值如表 3所示,显然,由本文方法得到的客观评估指标值均较高。由不同融合方法融合8组医学图像的客观评估指标结果的平均值如表 4所示,由表 4可知,除了QSD,其他5个评估指标均为最优,与主观视觉效果一致,验证了本文方法对于多模态医学图像融合的有效性。

    图  6  致死性脑卒中CT和MRI图像以及融合结果
    Figure  6.  The fatal stroke CT and MRI source images and fusion results
    图  7  脑膜瘤CT和MRI图像以及融合结果
    Figure  7.  The meningoma CT and MRI source images and fusion results
    表  3  两组医学图像客观评估指标值
    Table  3.  Values of objective evaluation index for 2 groups of medical images
    Images Metrics ASR[7] CNN[8] NSCT-APCNN[9] NSST-APCNN[10] NSST-DWT-ICSAPCNN
    fatal stroke QEN 4.5440 4.8244 5.0632 4.8747 5.1693
    QMI 2.5170 2.8593 2.7118 2.8665 2.7618
    QSD 72.3351 90.2448 90.0339 84.2365 88.4652
    QVIFF 0.2691 0.3333 0.3259 0.3100 0.3131
    QIE 0.8051 0.8055 0.8054 0.8051 0.8054
    QTE 0.6663 0.7252 0.7277 0.7102 0.7896
    meningoma QEN 4.1794 4.2013 4.3485 4.6852 4.6013
    QMI 2.5408 2.9163 2.9516 3.0001 3.0665
    QSD 72.0789 88.7470 92.8914 90.2904 91.3901
    QVIFF 0.4940 0.6192 0.6279 0.5624 0.6292
    QIE 0.8056 0.8059 0.8062 0.8064 0.8064
    QTE 0.7907 0.7923 0.8445 0.8733 0.8804
    下载: 导出CSV 
    | 显示表格
    表  4  八组医学图像客观评估指标平均值
    Table  4.  Average values of objective evaluation index for 8 groups of medical images
    Metrics ASR[7] CNN[8] NSCT-APCNN[9] NSST-APCNN[10] NSST-DWT-ICSAPCNN
    QEN 4.3242 4.6515 4.7943 4.7715 4.8254
    QMI 2.6843 2.9002 2.8697 2.8998 2.9848
    QSD 66.6290 83.3568 85.9244 85.7634 85.7755
    QVIFF 0.3561 0.4417 0.4562 0.4491 0.4647
    QIE 0.8057 0.8061 0.8061 0.8062 0.8062
    QTE 0.7033 0.7494 0.7608 0.7593 0.7818
    下载: 导出CSV 
    | 显示表格

    为了在融合过程中提取更多的图像信息,提出了一种基于NSST-DWT-ICSAPCNN的多模态图像融合方法。对源图像经NSST分解得到的低频子带图像做DWT分解,解决了部分源图像细节丢失的问题。此外,将低频子带图像的区域能量和梯度能量相结合作为显著性水平度量,有效地保留了图像的能量和边缘细节信息。采用ICSAPCNN获取低频细节子带图像和高频子带图像的点火频率映射图,提高了对低频细节子带和高频子带图像全局信息的利用程度。实验结果显示所提算法相比于其他4种多模态图像融合算法,在主观视觉和客观评估指标方面均表现最优,同时验证了本文方法对于多模态红外和可见光图像与多模态医学图像均有较好的融合效果。下一步将继续研究双树复小波变换(Dual Tree Complex Wavelet Transform,DTCWT)、双密度双树复小波变换(Double Density Dual Tree Complex Wavelet Transform,DDDTCWT)对低频子带图像做进一步分解的效果。

  • 图  1   TOF相机成像原理

    Figure  1.   The principle of ToF imaging

    图  2   飞行像素噪声的产生

    Figure  2.   Generation of flying pixels noise

    图  3   实际场景中点云噪声示例

    Figure  3.   Examples of point cloud noise in a real scene

    图  4   实验装置

    Figure  4.   Experimental equipment

    图  5   TOF相机拍摄的点云数据示例

    Figure  5.   Example of point cloud data taken by TOF camera

    图  6   10帧点云图各像素单元求和结果

    Figure  6.   Summation result of pixel units of 10-frame images

    图  7   提取不同置信度点云结果

    Figure  7.   The results of point clouds with different confidence

    图  8   置信度去噪结果(左)和红色选中区域置信度去噪前后距离Z随坐标X的变化图像(右)

    Figure  8.   Confidence denoising result (left) and Image of Z varying with X before and after confidence denoising in red selected area (right)

    图  9   B1组原始点云俯视图(左)与2帧加和后点云俯视图(右)对比

    Figure  9.   Comparison of top view of original point cloud (left) and top view of point cloud after sum of 2 frames (right)

    图  10   不同帧数点云矢量加和的结果以及相对应的置信度去噪的结果(A1、B1、C1、D1组)

    Figure  10.   The results of the sum of point clouds vectors with different frame numbers and the corresponding confidence denoising results

    算法基于置信度的点云去噪
    输入: $ {P}_{i},i=1,...,n $                            //n帧点云图像
    输出: $ Pt\;\&\;Confidence $                      //点云集和对应置信度
    1:if $ {P}_{1}.Count=...={P}_{n}.Count $    //检查是否为同源点云
    2:    $ {P}_{add}\leftarrow {P}_{1}.Location+...+{P}_{1}.Location $  //矢量加和
    3:    $ Pt\&Confidence\leftarrow Segmention\left({P}_{add}\right) $  //分割提取
    4:    $ Pt\leftarrow pointCloud\left(Pt\right) $
    5:else
    6:    output输入错误
    7:    return
    8:return $ Pt\&Confidence $
    下载: 导出CSV

    表  1   不同置信度的点云数量及所占比率

    Table  1   The number and percentage of point clouds with different confidence

    Confidence level 100% 90% 80% 70% 60% 50% 40% 30% 20% 10% Total
    Number of point clouds 21238 135 132 121 91 107 139 147 174 249 22533
    Proportion 0.9425 0.0060 0.0059 0.0054 0.0040 0.0047 0.0062 0.0065 0.0077 0.0111 1
    下载: 导出CSV

    表  2   不同帧数置信度去噪后点云数量

    Table  2   The number of point clouds after confidence filtering with different frame numbers

    Groups Pass-Through Filtering 2 Frames 4 Frames 6 Frames 8 Frames 10 Frames
    A1 21802 21563 21390 21343 21276 21238
    A2 20932 20784 20615 20557 20489 20417
    B1 39870 35106 31168 29226 27702 26531
    B2 55180 50005 45664 43525 41793 40471
    C1 30424 29969 29851 29743 29659 29572
    C2 15897 15802 15793 15718 15641 15579
    D1 47241 47028 46914 46832 46748 46657
    D2 49512 49386 49297 49208 49117 49034
    下载: 导出CSV
  • [1]

    LI L. Time-of-flight camera–an introduction[R/OL]. [2021-10-08]. chrome-extension: //ibllepbpahcoppkjjllbabhnigcbffpihttp://www-cs.ccny.cuny.edu/~wolberg/capstone/kinect/ToFBasicsTI14.pdf.

    [2]

    Foix S, Alenya G, Torras C. Lock-in time-of-flight (ToF) cameras: A survey[J]. IEEE Sensors Journal, 2011, 11(9): 1917-1926. DOI: 10.1109/JSEN.2010.2101060

    [3]

    Whyte R, Streeter L, Cree M J, et al. Review of methods for resolving multi-path interference in time-of-flight range cameras[C]//Sensors, IEEE, 2014: 629-632.

    [4]

    ZENG J, CHEUNG G, Ng M, et al. 3D point cloud denoising using graph Laplacian regularization of a low dimensional manifold model[J]. IEEE Transactions on Image Processing, 2019, 29: 3474-3489.

    [5]

    Fleishman S, Cohen-Or D, Silva C T. Robust moving least-squares fitting with sharp features[J]. ACM transactions on graphics (TOG), 2005, 24(3): 544-552. DOI: 10.1145/1073204.1073227

    [6]

    Guennebaud G, Germann M, Gross M. Dynamic sampling and rendering of algebraic point set surfaces[C]//Computer Graphics Forum, 2008, 27(2): 653-662.

    [7]

    Öztireli A C, Guennebaud G, Gross M. Feature preserving point set surfaces based on non-linear kernel regression[C]//Computer Graphics Forum, 2009, 28(2): 493-501.

    [8]

    SUN Y, Schaefer S, WANG W. Denoising point sets via L0 minimization[J]. Computer Aided Geometric Design, 2015, 35: 2-15.

    [9]

    Lipman Y, Cohen-Or D, Levin D, et al. Parameterization-free projection for geometry reconstruction[J]. ACM Transactions on Graphics (TOG), 2007, 26(3): 22-es. DOI: 10.1145/1276377.1276405

    [10]

    HUANG H, LI D, ZHANG H, et al. Consolidation of unorganized point clouds for surface reconstruction[J]. ACM Transactions on Graphics (TOG), 2009, 28(5): 1-7.

    [11]

    HUANG H, WU S, GONG M, et al. Edge-aware point set resampling[J]. ACM Transactions on Graphics (TOG), 2013, 32(1): 1-12.

    [12]

    Avron H, Sharf A, Greif C, et al. ℓ1-sparse reconstruction of sharp point set surfaces[J]. ACM Transactions on Graphics (TOG), 2010, 29(5): 1-12.

    [13]

    Buades A, Coll B, Morel J M. A non-local algorithm for image denoising[C]//IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05), 2005, 2: 60-65.

    [14]

    Dabov K, Foi A, Katkovnik V, et al. Image denoising by sparse 3-D transform-domain collaborative filtering[J]. IEEE Transactions on Image Processing, 2007, 16(8): 2080-2095. DOI: 10.1109/TIP.2007.901238

    [15]

    WANG R, CHEN W, ZHANG S, et al. Similarity-based denoising of point-sampled surfaces[J]. Journal of Zhejiang University-Science A, 2008, 9(6): 807-815. DOI: 10.1631/jzus.A071465

    [16]

    HE Y, CHEN S. Recent advances in 3D data acquisition and processing by time-of-flight camera[J]. IEEE Access, 2019, 7: 12495-12510. DOI: 10.1109/ACCESS.2019.2891693

    [17]

    Reynolds M, Doboš J, Peel L, et al. Capturing time-of-flight data with confidence[C]//CVPR, IEEE, 2011: 945-952.

  • 期刊类型引用(3)

    1. 朱泽宇,肖满生,徐萌,王瑶瑶,颜谨. 基于改进YOLOv8n的轻量化PCB板表面缺陷检测算法. 软件导刊. 2025(04): 69-74 . 百度学术
    2. 李扬,陈伟,杨清永,李现国,徐常余,徐晟. 基于大核分离和通道先验卷积注意的PCB缺陷检测方法. 燕山大学学报. 2024(06): 519-527+549 . 百度学术
    3. 王崟,陆利坤,齐亚莉,曾庆涛. 基于优化YOLOv8-X的印刷电路板缺陷智能检测方法. 现代计算机. 2024(24): 29-35 . 百度学术

    其他类型引用(0)

图(10)  /  表(3)
计量
  • 文章访问数:  453
  • HTML全文浏览量:  64
  • PDF下载量:  41
  • 被引次数: 3
出版历程
  • 收稿日期:  2021-10-07
  • 修回日期:  2021-11-10
  • 刊出日期:  2022-05-19

目录

/

返回文章
返回