本发明属计算机视觉,具体涉及到室内点云的语义分割方法。
背景技术:
1、室内三维点云数据是由高精度扫描技术(激光雷达等)获得的室内空间的数字化表示,每个点都具有空间坐标、颜色和反射率等属性。在计算机视觉领域,室内点云的复杂语义分割则是将点云中的每个点分类到其对应的语义类别,如墙面、地板、家具等。
2、目前主要的点云语义分割方法大致分为三类:基于点处理、基于transformer、基于图卷积神经网络的方法。基于点处理的方法可以直接在点云上操作,无需构建复杂的数据结构。但其难以捕捉点云中的长距离空间几何依赖关系,从而忽略全局上下文信息。新兴的基于transformer的方法利用自注意力机制来捕捉长距离点云间的依赖关系,有效地处理具有复杂结构的三维点云。但该方法的计算费用较高,不易处理大规模的场景点云,并且对点云的局部结构缺乏足够的认识。基于图卷积神经网络的方法通过将点云构建为图结构,以更好地捕捉局部邻域信息和全局空间结构特征。这种方法能够更全面地处理具有复杂几何和拓扑结构的点云数据,因此成为了室内点云的复杂语义分割方法的首选。
3、现有的基于图卷积的分割方法能够充分考虑点之间的拓扑关系,但由于其通常采用固定邻域半径的方法来构建图结构,捕捉到的局部特征会存在细节信息的丢失。室内空间的点云密度也因空间布局和物体分布而具备很大差异,因此现有方法在处理高密度区域时可能会丢失一部分上下文信息,在处理低密度区域时可能无法充分捕捉足够的局部特征。此外,不同尺度特征的有效融合对于提升复杂多样的室内环境中点云的语义分割精度也至关重要。
技术实现思路
1、本发明所要解决的技术问题在于克服上述现有技术的缺点,提供一种自适应强、分割性能好的基于自适应和多尺度特征融合的室内点云语义分割方法。
2、解决上述技术问题所采用的技术方案步骤如下:
3、(1)室内点云预处理
4、选择室内点云数据集,进行预处理:将s3dis点云数据集中的272个房间按1m×1m的面积分割成包含4096个点的采样块,间距为0.5m;按5:1划分为训练集和测试集。
5、(2)构建室内点云语义分割网络
6、室内点云语义分割网络由自适应局部邻域搜索模块与多尺度特征融合模块、共享多层感知机mlp依次串联构成。
7、所述的多尺度特征融合模块由特征提取分支1与特征提取分支2、特征提取分支3、室内点云空间金字塔池化层依次串联构成。
8、(3)训练室内点云语义分割网络
9、1)构建加权交叉熵损失函数
10、按式(1)构建加权交叉熵损失函数:
11、
12、其中,c是类别的数量,c取值为有限的正整数,ni是第i个类别,fi是类别i在数据集中出现的相对频率,yi是第i个样本的真实概率,是第i个样本的预测概率。
13、2)训练室内点云语义分割网络
14、将训练集输入到室内点云语义分割网络中进行训练,操作系统为ubuntu22.04,gpu为nvidia rtx4090d,cpu为intelxeonplatinum8474c,训练参数为:初始学习率为0.001,动量衰减为0.5,批处理量为32,训练轮数为200,训练至加权交叉熵损失函数收敛。
15、(4)测试室内点云语义分割网络
16、将测试集输入到训练后的室内点云语义分割网络中进行测试,输出室内点云语义分割结果,并将其进行可视化。
17、在本发明的步骤(2)构建室内点云语义分割网络中,所述的特征提取分支1由上下文感知注意力卷积模块1与图空间注意力卷积模块1并联构成;所述的特征提取分支2由上下文感知注意力卷积模块2与图空间注意力卷积模块2并联构成;所述的特征提取分支3由上下文感知注意力卷积模块3与图空间注意力卷积模块3并联构成。
18、本发明的自适应局部邻域搜索模块的构建方法为:
19、按式(2)确定每个点的自适应局部邻域范围ni:
20、
21、其中,n为邻居点的数量、为有限的正整数,d(pij)为pi与pj之间的欧氏距离,d(pi)和d(pj)均为局部密度,pi为局部邻域的中心点,pj为pi的邻居点,knn为邻域内距离最近的k个邻居点的数量选择操作,k取值范围为15~45。
22、由每个点的自适应局部邻域范围ni反复循环n次,构建成自适应局部邻域搜索模块。
23、本发明的上下文感知注意力卷积模块1的构建方法如下:
24、按式(3)确定上下文感知注意力卷积模块1提取出的特征fi%:
25、
26、其中,αx为注意力分数,fi为自适应局部邻域搜索模块的局部特征,m为邻居点的总数,mh为用于增强模型对关键特判断的辅助信息,h为其他特征属性的统称,w为最近邻居点的数量,w取值范围为取值为16~36,r为最近邻域数量,根据自适应局部邻域搜索模块具体确定,rx为第x邻域,s为点云的位置坐标,pi为邻域的中心点,为第x邻域中的第k个邻居点的特征,为第x邻域中的邻居点的特征。
27、构建成上下文感知注意力卷积模块1;上下文感知注意力卷积模块2、上下文感知注意力卷积模块3的构建方法与上下文感知注意力卷积模块1的构建方法相同。
28、本发明的图空间注意力卷积模块1的构建方法如下:
29、按式(4)得到图空间注意力卷积模块1提取的特征z:
30、z=σ(θ((h×wt)⊙((h×wt)t)))×h(4)
31、h=x×w
32、其中,x表示自适应局部邻域搜索模块中的n×9维特征,w表示9×m维权重,θ为得到相似性特征的leakyrelu函数,σ为归一化操作的softmax函数,⊙为逐元素相乘。
33、构建成图空间注意力卷积模块1。图空间注意力卷积模块2、图空间注意力卷积模块3的构建方法与图空间注意力卷积模块1的构建方法相同。
34、本发明的室内点云空间金字塔池化层的构建方法如下:
35、按式(5)得室内点云空间金字塔池化层聚合后的特征f:
36、
37、其中,con表示多尺度特征拼接,l表示重叠池化操作,f表示特征图,si为第i个室内点的位置坐标,i的取值为有限的正整数。
38、构建成室内点云空间金字塔池化层。
39、本发明与现有技术相比,具有以下的有益效果:
40、本发明通过点云的密度变化来自适应调整每个点的局部感受野,能够缓解现有其他方法因固定邻域半径而造成的局部细节丢失问题;使用上下文感知注意力卷积和图空间注意力卷积两个模块分别获取点之间的关键上下文语义特征和复杂空间几何特征,提升网络对三维点云的空间信息利用能力;室内点云空间金字塔池化层将不同感受野获取到的多层次特征进行组合,增强整个网络提取和表达不同尺度特征的能力。经对比实验表明,本发明能够在复杂的室内环境中实现更精准地识别分割,尤其是少数样本的语义类别和易混淆的建筑结构,为室内三维场景解析和重建提供了一种新的技术参考。
1.一种基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于由下述步骤组成:
2.根据权利要求1所述的基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于在步骤(2)构建室内点云语义分割网络中,所述的特征提取分支1由上下文感知注意力卷积模块1与图空间注意力卷积模块1并联构成;所述的特征提取分支2由上下文感知注意力卷积模块2与图空间注意力卷积模块2并联构成;所述的特征提取分支3由上下文感知注意力卷积模块3与图空间注意力卷积模块3并联构成。
3.根据权利要求1所述的基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于,所述的自适应局部邻域搜索模块的构建方法为:
4.根据权利要求1所述的基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于所述的上下文感知注意力卷积模块1的构建方法如下:
5.根据权利要求1所述的基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于所述的图空间注意力卷积模块1的构建方法如下:
6.根据权利要求1所述的基于自适应和多尺度特征融合的室内点云语义分割方法,其特征在于所述的室内点云空间金字塔池化层的构建方法如下: