一种水下图像轻量化处理方法和装置

专利2025-03-04  27


本发明涉及水下图像处理领域,更具体地说,它涉及一种水下图像轻量化处理方法和装置。


背景技术:

1、海洋牧场利用机器视觉技术观察海洋牧场水下环境具有长时间、非接触、低成本等优点。但受限于水下影像质量及水下生物在运动中伴随的扭动、变形、遮挡、重叠等情况的影响,适用于该环境的高精度深度学习目标检测模型往往结构更为复杂,模型中的参数更多,计算量大,在低算力设备中难以实时运行。

2、目前在解决这些问题时,普遍采用b/s架构,即前端摄像头回传影像至后端服务器,后端服务器接收到前端设备传回数据,通过调用构建好的深度学习模型识别环境对影像进行处理识别分析。这种形式需要将大量数据传输到云端进行计算,会存在较高的网络开销、高延迟和传输数据易被截获的风险。当前端设备增加,需要运营商带宽也逐步提高,部署成本指数级提升。

3、为了解决现有海洋牧场所存在的数据中心负载较高,运营商带宽占用高的问题,需要改进系统数据处理流程,提高效率。将整体的后端服务器数据中心转移至前端水下设备中,进行分散化部署。但是这又带来了问题,即水下识别模型在实现良好性能过程中不可避免的变得更加复杂,现有的低算力边缘设备难以部署运行。因此有必要提出模型的轻量化处理算法,在尽可能保证精度的前提下实现模型的轻量化瘦身,将得到的瘦身后的模型在边缘设备中部署加速实现实时运行。


技术实现思路

1、本发明的目的是提供一种水下图像轻量化处理方法和装置,能够在保证精度的情况下,降低能耗,加快运行效率。

2、本发明的上述技术目的是通过以下技术方案得以实现的:一种水下图像轻量化处理方法,包括如下步骤:

3、s1、选定教师模型和学生模型,获取历史图像数据,并划分数据集,使用数据集对选定的教师模型进行训练得到固化的教师模型;

4、s2.将数据集分别输入到教师模型和选定的学生模型,分别输出得到特征图;对学生模型输出的特征图使用第一设定阈值进行筛选,输出筛选后的掩膜特征图;

5、s3.将学生模型输出的掩膜特征图与教师模型输出的特征图归一化后结合求取损失;

6、s4.将学生模型输出的特征图和教师模型的特征图进行解耦,求取预测损失;

7、s5.使用数据集训练学生模型,求取损失;

8、s6.将、、通过各自的权重结合相加得到最终损失,根据最终损失,轮次迭代进行蒸馏学习,输出得到成品学生模型;

9、s7.将成品学生模型部署到边缘设备软件中进行应用。

10、作为本发明的一种优选技术方案,在获取到历史图像数据后,对历史图像数据进行预处理得到标准图片,预处理包括:图片大小变换、图像翻转、图像归一化。

11、作为本发明的一种优选技术方案,在得到标准图片后,根据水下动物种类对每项标准图片数据进行种类标注,划分得到若干个水下动物数据集,从每个水下动物数据集中都选择预设比例的数据来设置数据集的训练集、测试集。

12、作为本发明的一种优选技术方案,所述教师模型为网络复杂度、精度超过预设模型选择阈值的深度学习模型,所述学生模型为是运行速度和精度超过预设阈值的深度学习模型。

13、作为本发明的一种优选技术方案,对学生模型输出的特征图使用第一设定阈值进行筛选,输出筛选后的掩膜特征图的过程为:

14、设:超过预设阈值的特征图为1,不超过的为0,和分别表示教师模型和学生模型的第个特征图;在特征图上,设置随机掩膜来覆盖特征,则第个学生特征图像素掩膜可以表示为:;其中,是特征图中(0,1)中的随机数,,分别是特征图中的水平坐标和竖直坐标,是一个超参数,表示掩蔽比;

15、使用相应的掩膜覆盖学生模型的特征图,通过生成像素的方式拟合教师特征图,其过程表达式为:

16、,

17、;

18、其中,表示掩膜掩盖学生模型特征图后与教师模型特征图对齐,表示掩膜图,表示学生模型特征图,表示对齐后的掩膜覆盖学生模型的特征图,代表包含两个卷积和以及一个激活层的保护层,表示经过多个卷积及激活层处理后的掩膜特征图。

19、作为本发明的一种优选技术方案,求取损失的过程为:

20、对学生模型输出的掩膜数据与教师模型输出的特征图进行归一化处理;

21、再通过均方差函数求取损失l1,其表达式为:,是蒸馏层总层数的和,表示通道数,表示特征图的高,表示特征图的宽,为蒸馏层第层,为第个通道,表示归一化处理完成,和分别表示学生模型和教师模型的特征图;

22、损失的求取过程为:预测损失包括目标类损失tckd及非目标类损失nckd,并分别进行预测后结合求取损失,包括:将kl散度作为损失函数并将其解耦为目标类和非目标类;对于目标类和非目标类的损失,设:为每个元素第个类的概率,为类的数量,为第个类的logit值,为第个类的logit值,对于每个元素通过softmax,则有:

23、;

24、设目标类二进制概率为,非目标类二进制概率为,目标类的logit值为,为非目标类第个类的logit值,则有:

25、,

26、,

27、设为非目标类之间的独立模型概率,其每个元素计算方法为:

28、 ;

29、其中,将预测模拟解耦合为目标类和非目标类,将目标类中的和非目标类中的统称为,和表示教师模型和学生模型,将这些带入kl散度中进行求解,则有:;其中,为教师模型在元素上的概率,为教师模型非目标类之间的独立模型概率,为学生模型非目标类之间的独立模型概率,带入后得到kl散度即为:

30、;

31、对tckd和nckd解耦再次解耦,加入超参数和,得到了预测模拟损失的公式:

32、;

33、最终损失的表达式为:,其中,、、为各自的预先设定的权重。

34、作为本发明的一种优选技术方案,s7的部署过程为:在边缘设备中进行前置环境安装;

35、将最终学生模型转化为pt文件再转化为torchscript文件,最终转化为engine文件,对得到的engine文件进行硬件编译;

36、将engine文件嵌入边缘设备软件中;

37、通过边缘设备软件接收水上显控机位发送的报文命令开启相应功能,通过学生模型进行数据处理分析,得到水下生物分类信息及个数。

38、一种水下图像轻量化处理装置,包括:处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时实现上述方法。

39、综上所述,本发明具有以下有益效果:在尽可能保证精度的前提下实现模型的轻量化瘦身。将得到的瘦身后的模型在边缘设备中部署加速实现实时运行,可以节省在云端构建高性能计算的数据中心的作用,相比而言,只需要和之前一样构建计算机存储阵列和软件控制显示的计算机即可。在能耗方面,远端边缘设备所需能耗较高性能计算的数据中心相比要更加节能。本发明还将数据处理部分部署于远端边缘设备中,当海洋牧场站点逐渐增多时,可以不受云端计算中心性能限制,更有助于提高效率。


技术特征:

1.一种水下图像轻量化处理方法,其特征是:包括如下步骤:

2.根据权利要求1所述的一种水下图像轻量化处理方法,其特征是:在获取到历史图像数据后,对历史图像数据进行预处理得到标准图片,预处理包括:图片大小变换、图像翻转、图像归一化。

3.根据权利要求2所述的一种水下图像轻量化处理方法,其特征是:在得到标准图片后,根据水下动物种类对每项标准图片数据进行种类标注,划分得到若干个水下动物数据集,从每个水下动物数据集中都选择预设比例的数据来设置数据集的训练集、测试集。

4.根据权利要求3所述的一种水下图像轻量化处理方法,其特征是:所述教师模型为网络复杂度、精度超过预设模型选择阈值的深度学习模型,所述学生模型为是运行速度和精度超过预设阈值的深度学习模型。

5.根据权利要求4所述的一种水下图像轻量化处理方法,其特征是:对学生模型输出的特征图使用第一设定阈值进行筛选,输出筛选后的掩膜特征图的过程为:

6.根据权利要求5所述的一种水下图像轻量化处理方法,其特征是:

7.根据权利要求6所述的一种水下图像轻量化处理方法,其特征是:

8.一种水下图像轻量化处理装置,其特征是:包括:处理器和存储器,所述存储器存储有所述处理器可执行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1-7中任一项所述的方法。


技术总结
本发明涉及水下图像处理领域,公开了一种水下图像轻量化处理方法和装置,其技术方案要点是,包括如下步骤:选定教师模型和学生模型,获取历史图像数据,并划分数据集,使用数据集对选定的教师模型进行训练得到固化的教师模型;将数据集分别输入到教师模型和选定的学生模型,分别输出得到特征图;对学生模型输出特征图进行筛选,输出筛选后的掩膜特征图;将掩膜特征图与教师模型输出特征图归一化后结合求取损失;将学生模型输出特征图和教师模型特征图解耦,求取预测损失;使用数据集训练学生模型,求取损失;将、、通过各自的权重结合相加得到最终损失,并轮次迭代进行蒸馏学习,得到成品学生模型;将成品学生模型部署应用。

技术研发人员:李培良,庞博,刘韬,贺双颜,顾艳镇
受保护的技术使用者:浙江大学海南研究院
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-22229.html