本技术涉及自动驾驶领域,特别是涉及车辆的环境感知方法、系统和环境感知模型的训练方法。
背景技术:
1、自动驾驶感知技术对无人驾驶车来说是非常重要的模块。感知主要包括了目标检测、分割、深度估计以及预测等任务,能够帮助车辆通过传感器感知到道路环境信息。然而在相关技术中,环境感知方法主要依赖于单一的传感器,如激光雷达或摄像头,这些传感器在复杂环境下往往难以提供全面、准确的环境信息。例如,在光线不足或天气恶劣的情况下,摄像头的感知能力会大大下降;而激光雷达虽然不受光线影响,但在某些复杂场景中可能难以区分不同物体,从而影响车辆环境感知的准确性。
2、目前针对相关技术中车辆环境感知的准确性低的问题,尚未提出有效的解决方案。
技术实现思路
1、本技术实施例提供了一种车辆的环境感知方法、系统和环境感知模型的训练方法,以至少解决相关技术中车辆环境感知的准确性低的问题。
2、第一方面,本技术实施例提供了一种车辆的环境感知方法,所述方法包括:
3、基于所述车辆上的图像传感器,获取携带有纹理信息的图像特征;
4、基于第一激光传感器,获取携带深度信息的鸟瞰点云特征;
5、基于第二激光传感器,获取携带有高度信息的距离点云特征;所述第一激光传感器和所述第二激光传感器在所述车辆上的安装位置不同;
6、对所述图像特征、所述鸟瞰点云特征和所述距离点云特征进行融合处理,生成包括所述纹理信息、所述深度信息和所述纹理信息的目标环境感知信息。
7、在其中一些实施例中,所述对所述图像特征、所述鸟瞰点云特征和所述距离点云特征进行融合处理,生成目标环境感知信息,还包括:
8、对所述图像特征和所述鸟瞰点云特征进行特征融合,得到第一融合特征;
9、对所述鸟瞰点云特征和所述距离点云特征进行特征融合,得到第二融合特征;
10、对所述第一融合特征和所述第二融合特征进行特征融合,得到所述目标环境感知信息。
11、在其中一些实施例中,获取所述第一融合特征、所述第二融合特征和所述目标环境感知信息,包括:
12、将所述图像特征和所述鸟瞰点云特征输入至第一注意力机制网络进行权重处理,得到权重分数,并基于所述权重分数对所述图像特征和所述鸟瞰点云特征进行特征融合,得到所述第一融合特征;
13、将所述鸟瞰点云特征和所述距离点云特征输入至第二注意力机制网络进行特征融合,得到所述第二融合特征;
14、将所述第一融合特征和所述第二融合特征输入至第三注意力机制网络进行特征融合,得到所述目标环境感知信息;其中,所述第一注意力机制网络、所述第二注意力机制网络分别连接至所述第三注意力机制网络。
15、在其中一些实施例中,获取所述图像特征、所述鸟瞰点云特征和所述距离点云特征,还包括:
16、将所述图像传感器采集的图像信息输入至第一编码器模型进行特征提取处理,得到所述图像特征;所述第一编码器模型连接所述第一注意力机制网络;
17、将所述第一激光传感器采集的第一点云数据输入至第二编码器模型进行特征提取处理,得到所述鸟瞰点云特征;所述第二编码器模型分别连接所述第一注意力机制网络和所述第二注意力机制网络;
18、将所述第二激光传感器采集的第二点云数据输入至第三编码器模型进行特征提取处理,得到所述距离点云特征;所述第三编码器模型连接所述第二注意力机制网络。
19、在其中一些实施例中,所述对所述第一融合特征和所述第二融合特征进行特征融合,得到所述目标环境感知信息,还包括:
20、将所述第一融合特征和所述第二融合特征输入至第三注意力机制网络进行特征融合,得到目标融合特征;
21、将所述目标融合特征输入至解码器模型进行解码处理,并输出所述目标环境感知信息;其中,所述第三注意力机制网络连接至所述解码器模型。
22、在其中一些实施例中,所述第一激光传感器设置于车辆顶部,所述第二激光传感器设置于车辆前部;和/或,所述图像传感器有至少两个,各所述图像传感器组成环视图像传感器。
23、第二方面,本技术实施例提供了一种环境感知模型的训练方法,所述方法包括:
24、获取训练数据集;所述训练数据集携带有真实环境标签;
25、将所述训练数据集分别输入至第一初始编码器、第二初始编码器和第三初始编码器,输出对应的第一训练特征、第二训练特征和第三训练特征;
26、将所述第一训练特征和所述第二训练特征输入至第一初始注意力机制网络,输出第四训练特征;
27、将所述第二训练特征和所述第三训练特征输入至第二初始注意力机制网络,输出第五训练特征;
28、将所述第四训练特征、所述第五训练特征输入至第三初始注意力机制网络,输出训练融合特征;
29、将所述训练融合特征输入至第一初始解码器,输出第一预测结果;
30、根据所述第一预测结果和所述真实环境标签,计算第一损失函数结果,并将所述第一损失函数结果的梯度反向传递至所述第一初始解码器进行迭代训练,生成训练后的环境感知模型。
31、在其中一些实施例中,所述将所述第一损失函数结果的梯度反向传递至所述第一初始解码器进行迭代训练,生成训练后的环境感知模型,包括:
32、将所述第四训练特征输入至第二初始解码器,输出第二预测结果;根据所述第二预测结果和所述真实环境标签,计算第二损失函数结果;
33、将所述第五训练特征输入至第三初始解码器,输出第三预测结果;根据所述第三预测结果和所述真实环境标签,计算第三损失函数结果;
34、根据所述第一损失函数结果、所述第二损失函数结果和所述第三损失函数结果,计算总损失函数结果;
35、将所述总损失函数结果的梯度反向传递进行迭代训练,生成所述环境感知模型。
36、第三方面,本技术实施例提供了一种车辆的环境感知系统,包括图像传感器、第一激光传感器、第二激光传感器和控制器;
37、所述控制器,分别连接所述图像传感器、所述第一激光传感器、和所述第二激光传感器,用于执行如上述第一方面所述的车辆的环境感知方法。
38、第四方面,本技术实施例提供了一种车辆,包括如上述第二方面所述的车辆的环境感知系统。
39、相比于相关技术,本技术实施例提供的车辆的环境感知方法、系统和环境感知模型的训练方法,通过基于车辆上的图像传感器,获取携带有纹理信息的图像特征;基于第一激光传感器,获取携带深度信息的鸟瞰点云特征;基于第二激光传感器,获取携带有高度信息的距离点云特征;第一激光传感器和第二激光传感器在车辆上的安装位置不同;对图像特征、鸟瞰点云特征和距离点云特征进行融合处理,生成包括纹理信息、深度信息和纹理信息的目标环境感知信息。基于此,能够对自动驾驶车辆周围环境进行精准的三维目标检测,有效了提升对“鬼探头”、“低矮障碍物”等目标的识别能力,在复杂环境下对近距离、盲区感知能力有显著提升,对复杂环境和光照变化具有较强的适应能力,从而解决了在复杂场景下车辆环境感知的准确性低的问题。
40、本技术的一个或多个实施例的细节在以下附图和描述中提出,以使本技术的其他特征、目的和优点更加简明易懂。
1.一种车辆的环境感知方法,其特征在于,所述方法包括:
2.根据权利要求1所述的环境感知方法,其特征在于,所述对所述图像特征、所述鸟瞰点云特征和所述距离点云特征进行融合处理,生成目标环境感知信息,还包括:
3.根据权利要求2所述的环境感知方法,其特征在于,获取所述第一融合特征、所述第二融合特征和所述目标环境感知信息,包括:
4.根据权利要求3所述的环境感知方法,其特征在于,获取所述图像特征、所述鸟瞰点云特征和所述距离点云特征,还包括:
5.根据权利要求4所述的环境感知方法,其特征在于,所述对所述第一融合特征和所述第二融合特征进行特征融合,得到所述目标环境感知信息,还包括:
6.根据权利要求1至5任一项所述的环境感知方法,其特征在于,所述第一激光传感器设置于车辆顶部,所述第二激光传感器设置于车辆前部;和/或,所述图像传感器有至少两个,各所述图像传感器组成环视图像传感器。
7.一种环境感知模型的训练方法,其特征在于,所述方法包括:
8.根据权利要求7所述的训练方法,其特征在于,所述将所述第一损失函数结果的梯度反向传递至所述第一初始解码器进行迭代训练,生成训练后环境感知模型,包括:
9.一种车辆的环境感知系统,其特征在于,包括图像传感器、第一激光传感器、第二激光传感器和控制器;
10.一种车辆,其特征在于,包括如权利要求9所述的车辆的环境感知系统。
