本发明涉及神经网络,特别是涉及一种神经网络算子优化方法、电子设备和介质。
背景技术:
1、随着人工智能技术的迅速发展,深度学习模型的规模和复杂度不断攀升,导致对计算资源和内存的需求急剧增加,不仅限制了模型在边缘设备上的部署,还显著增加了运行成本和能源消耗。此外,现有模型在处理分布外或异常数据时表现出较差的鲁棒性,容易受到噪声干扰,影响其泛化能力和实际应用价值。
技术实现思路
1、针对上述现有技术的不足,本专利申请所要解决的技术问题是如何提供一种精度高,稳定性强和适用范围广的神经网络算子优化方法、电子设备和介质。
2、为了解决上述技术问题,本发明采用了如下的技术方案:
3、一种神经网络算子优化方法,包括模型训练阶段和模型部署阶段,模型训练阶段含有以下步骤:s1:对.pt文件用yolov5转成onnx模型;s2:修改onnx模型,将slice和concat算子删除,输入的数据直接传给conv算子;s3:使用opencv的函数对图像进行处理;s4:通过模型量化将原本的浮点数量化为整数;s5:对图像做归一化处理,最后将新修改的模型进行推理。
4、作为优化,步骤s1中,用export.py导出onnx文件。
5、作为优化,步骤s3中,图像的预处理部分都是在cpu上进行。
6、作为优化,步骤s4中,所述整数为uint8。
7、作为优化,步骤s5中,将浮点存储(运算)转换为整型存储(运算),降低模型所需内存和计算资源。
8、作为优化,步骤s5中,推理后的数据再进一步的处理,通过非极大值抑制nms、阈值处理对推理得出的数据进行筛选。
9、一种电子设备,其特征在于,所述设备内部包含处理器和存储器
10、处理器,用于读取所述存储器中的指令,并执行如权利要求1-6中任一项所述的方法。
11、一种存储介质,其特征在于,其上存储神经网络模型、优化算法以及相关数据,其上内容被处理器调用时,使得所述处理器执行如权利要求1-6中任一项所述的方法。
12、本发明具有以下效果:
13、本专利有效提升模型性能,减少了资源的消耗。改善模型的准确性和泛化能力。通过提高计算速度和降低资源消耗。通过降低功耗,可以延长设备的续航时间并减少能源成本。
1.一种神经网络算子优化方法,其特征在于,包括模型训练阶段和模型部署阶段,模型训练阶段含有以下步骤:
2.根据权利要求1所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s1中,用export.py导出onnx文件。
3.根据权利要求2所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s3中,图像的预处理部分都是在cpu上进行。
4.根据权利要求3所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s4中,所述整数为uint8。
5.根据权利要求4所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s5中,将浮点存储(运算)转换为整型存储(运算),降低模型所需内存和计算资源。
6.根据权利要求5所述的一种神经网络算子优化方法、电子设备和介质,其特征在于,步骤s5中,推理后的数据再进一步的处理,通过非极大值抑制nms、阈值处理对推理得出的数据进行筛选。
7.一种电子设备,其特征在于,所述设备内部包含处理器和存储器
8.一种存储介质,其特征在于,其上存储神经网络模型、优化算法以及相关数据,其上内容被处理器调用时,使得所述处理器执行如权利要求1-6中任一项所述的方法。
