一种神经网络算子优化方法、电子设备和介质与流程

专利2026-02-08  12


本发明涉及神经网络,特别是涉及一种神经网络算子优化方法、电子设备和介质。


背景技术:

1、随着人工智能技术的迅速发展,深度学习模型的规模和复杂度不断攀升,导致对计算资源和内存的需求急剧增加,不仅限制了模型在边缘设备上的部署,还显著增加了运行成本和能源消耗。此外,现有模型在处理分布外或异常数据时表现出较差的鲁棒性,容易受到噪声干扰,影响其泛化能力和实际应用价值。


技术实现思路

1、针对上述现有技术的不足,本专利申请所要解决的技术问题是如何提供一种精度高,稳定性强和适用范围广的神经网络算子优化方法、电子设备和介质。

2、为了解决上述技术问题,本发明采用了如下的技术方案:

3、一种神经网络算子优化方法,包括模型训练阶段和模型部署阶段,模型训练阶段含有以下步骤:s1:对.pt文件用yolov5转成onnx模型;s2:修改onnx模型,将slice和concat算子删除,输入的数据直接传给conv算子;s3:使用opencv的函数对图像进行处理;s4:通过模型量化将原本的浮点数量化为整数;s5:对图像做归一化处理,最后将新修改的模型进行推理。

4、作为优化,步骤s1中,用export.py导出onnx文件。

5、作为优化,步骤s3中,图像的预处理部分都是在cpu上进行。

6、作为优化,步骤s4中,所述整数为uint8。

7、作为优化,步骤s5中,将浮点存储(运算)转换为整型存储(运算),降低模型所需内存和计算资源。

8、作为优化,步骤s5中,推理后的数据再进一步的处理,通过非极大值抑制nms、阈值处理对推理得出的数据进行筛选。

9、一种电子设备,其特征在于,所述设备内部包含处理器和存储器

10、处理器,用于读取所述存储器中的指令,并执行如权利要求1-6中任一项所述的方法。

11、一种存储介质,其特征在于,其上存储神经网络模型、优化算法以及相关数据,其上内容被处理器调用时,使得所述处理器执行如权利要求1-6中任一项所述的方法。

12、本发明具有以下效果:

13、本专利有效提升模型性能,减少了资源的消耗。改善模型的准确性和泛化能力。通过提高计算速度和降低资源消耗。通过降低功耗,可以延长设备的续航时间并减少能源成本。



技术特征:

1.一种神经网络算子优化方法,其特征在于,包括模型训练阶段和模型部署阶段,模型训练阶段含有以下步骤:

2.根据权利要求1所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s1中,用export.py导出onnx文件。

3.根据权利要求2所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s3中,图像的预处理部分都是在cpu上进行。

4.根据权利要求3所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s4中,所述整数为uint8。

5.根据权利要求4所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s5中,将浮点存储(运算)转换为整型存储(运算),降低模型所需内存和计算资源。

6.根据权利要求5所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s5中,推理后的数据再进一步的处理,通过非极大值抑制nms、阈值处理对推理得出的数据进行筛选。

7.一种电子设备,其特征在于,所述设备内部包含处理器和存储器

8.一种存储介质,其特征在于,其上存储神经网络模型、优化算法以及相关数据,其上内容被处理器调用时,使得所述处理器执行如权利要求1-6中任一项所述的方法。


技术总结
本发明涉及一种神经网络算子优化方法、电子设备和介质,包括以下步骤,S1:用yolov5转成onnx模型;S2:修改onnx模型,将slice和Concat算子删除,输入的数据直接传给Conv算子;S3:使用opencv的函数对图像进行处理;S4:通过模型量化将原本的浮点数量化为整数;S5:对图像做归一化处理,最后将新修改的模型进行推理。本发明具有精度高,稳定性强和适用范围广的优点。

技术研发人员:张浩,刘建,张洪江,林俊峰,杨意
受保护的技术使用者:重庆车载软件开发有限公司
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-29545.html