智能计算中心的算力低延迟网络传输方法及相关设备与流程

专利2025-12-20  17


本发明涉及智能计算中心的算力,具体涉及一种智能计算中心的算力低延迟网络传输方法及相关设备。


背景技术:

1、“智能计算中心”是指通过使用大规模异构算力资源,包括通用算力和智能算力,主要为人工智能应用(如人工智能深度学习模型开发、模型训练和模型推理等场景)提供所需算力、数据和算法的设施。智能计算中心涵盖设施、硬件、软件,并可提供从底层算力到顶层应用使能的全栈能力。

2、在智能计算中心中设置有容器(pod)或虚拟机(virtual machine,vm)通过容器或虚拟机承载不同的算力任务,并实现对不同的算力任务的执行。例如,通过容器或虚拟机承载不同的模型训练任务,并完成对不同模型的训练。

3、目前,智能计算中心中容器或虚拟机的数据通过智能计算中心的以太网(ethernet,eth)接入网络,以实现数据交互。但以太网的数据传输仅能适应对时延不敏感的应用场景,无法满足对时延要求较高的应用场景。

4、可见,现有技术中存在智能计算中心的网络传输时延较大的问题。


技术实现思路

1、本发明实施例提供一种智能计算中心的算力低延迟网络传输方法及相关设备,以解决现有技术中存在智能计算中心的网络传输时延较大的问题。

2、为解决上述问题,本发明是这样实现的:

3、第一方面,本发明实施例提供一种智能计算中心的算力低延迟网络传输方法,所述智能计算中心配置有至少一个融合以太网远程直接内存访问roce网卡,所述方法包括:

4、步骤s1、获取目标对象关联的目标roce网卡对应的配置策略,所述目标对象为所述智能计算中心的容器或虚拟机,所述目标对象用于承载算力任务,所述目标roce网卡为所述至少一个roce网卡中的roce网卡,所述配置策略包括所述目标roce网卡的网络连接模式,所述网络连接模式为无限带宽ib模式或roce模式;

5、步骤s2、为所述目标对象分配所述目标roce网卡的接口资源,所述接口资源用于所述目标对象通过所述目标roce网卡基于所述网络连接模式接入网络。

6、在一个实施例中,所述方法还包括:

7、步骤s3、在所述目标roce网卡对应的配置策略更新的情况下,获取更新后的配置策略;

8、步骤s4、在所述更新后的配置策略包括的所述网络连接模式发生变化的情况下,重启所述目标roce网卡对应的主机,以更新所述目标roce网卡的所述网络连接模式;

9、其中,在所述重启所述目标roce网卡对应的主机之后,所述接口资源用于所述目标对象通过所述目标roce网卡基于更新后的所述网络连接模式接入网络。

10、在一个实施例中,所述步骤s2包括:

11、步骤s21、获取所述目标对象对应的配置信息;

12、步骤s22、基于所述配置信息为所述目标对象分配所述目标roce网卡的所述接口资源。

13、在一个实施例中,在所述目标对象为所述容器的情况下,所述配置信息包括所述容器对应的网络命名空间;在所述目标对象为所述虚拟机的情况下,所述配置信息包括所述目标roce网卡的所述接口资源对应的编号;

14、所述步骤s22包括:

15、步骤s221、在所述目标对象为所述容器的情况下,为所述目标对象分配所述接口资源,并将所述接口资源的命名空间切换为所述容器对应的网络命名空间;

16、步骤s222、在所述目标对象为所述虚拟机的情况下,基于所述编号为所述目标对象分配所述接口资源。

17、在一个实施例中,所述目标roce网卡关联至少一个目标对象,其中,

18、在所述目标roce网卡关联一个所述目标对象的情况下,所述目标对象通过物理功能pf直通接入网络;

19、在所述目标roce网卡关联多个所述目标对象的情况下,多个所述目标对象通过虚拟功能vf直通接入网络。

20、在一个实施例中,所述目标对象对应一个所述配置策略,所述配置策略对应一个或多个所述目标对象。

21、第二方面,本发明实施例还提供一种智能计算中心的算力低延迟网络传输装置,所述智能计算中心配置有至少一个融合以太网远程直接内存访问roce网卡,所述装置包括:

22、第一获取模块,用于获取目标对象关联的目标roce网卡对应的配置策略,所述目标对象为所述智能计算中心的容器或虚拟机,所述目标对象用于承载算力任务,所述目标roce网卡为所述至少一个roce网卡中的roce网卡,所述配置策略包括所述目标roce网卡的网络连接模式,所述网络连接模式为无限带宽ib模式或以太网eth模式;

23、分配模块,用于为所述目标对象分配所述目标roce网卡的接口资源,所述接口资源用于所述目标对象通过所述目标roce网卡基于所述网络连接模式接入网络。

24、第三方面,本发明实施例还提供一种电子设备,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上述第一方面所述的智能计算中心的算力低延迟网络传输方法中的步骤。

25、第四方面,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的智能计算中心的算力低延迟网络传输方法中的步骤。

26、第五方面,本发明实施例还提供一种计算机程序产品,包括计算机指令,所述计算机指令被处理器执行时实现如上述第一方面所述的智能计算中心的算力低延迟网络传输方法中的步骤。

27、在本发明实施例中,通过获取目标对象关联的目标roce网卡对应的配置策略,目标对象为智能计算中心的容器或虚拟机,目标对象用于承载算力任务,目标roce网卡为至少一个roce网卡中的roce网卡,配置策略包括目标roce网卡的网络连接模式,网络连接模式为无限带宽ib模式或roce模式,为目标对象分配目标roce网卡的接口资源,接口资源用于目标对象通过目标roce网卡基于网络连接模式接入网络,使得目标对象可以通过ib模式或roce模式接入网络,从而可以在待交互数据较多的情况下通过ib模式接入网络,在待交互数据较少的情况下通过roce模式接入网络,实现数据的快速交互,进而降低了智能计算中心的网络传输时延。



技术特征:

1.一种智能计算中心的算力低延迟网络传输方法,所述智能计算中心配置有至少一个融合以太网远程直接内存访问roce网卡,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述方法还包括:

3.如权利要求1或2所述的方法,其特征在于,所述步骤s2包括:

4.如权利要求3所述的方法,其特征在于,在所述目标对象为所述容器的情况下,所述配置信息包括所述容器对应的网络命名空间;在所述目标对象为所述虚拟机的情况下,所述配置信息包括所述目标roce网卡的所述接口资源对应的编号;

5.如权利要求3所述的方法,其特征在于,所述目标roce网卡关联至少一个目标对象,其中,

6.如权利要求1或2所述的方法,其特征在于,所述目标对象对应一个所述配置策略,所述配置策略对应一个或多个所述目标对象。

7.一种智能计算中心的算力低延迟网络传输装置,所述智能计算中心配置有至少一个融合以太网远程直接内存访问roce网卡,其特征在于,所述装置包括:

8.一种电子设备,其特征在于,包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序,所述程序被所述处理器执行时实现如权利要求1至7中任一项所述的智能计算中心的算力低延迟网络传输方法的步骤。

9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的智能计算中心的算力低延迟网络传输方法的步骤。

10.一种计算机程序产品,其特征在于,包括计算机指令,所述计算机指令被处理器执行时实现如权利要求1至6中任一项所述的智能计算中心的算力低延迟网络传输方法的步骤。


技术总结
本发明提供一种智能计算中心的算力低延迟网络传输方法及相关设备,涉及智能计算中心的算力技术领域,所述智能计算中心配置有至少一个融合以太网远程直接内存访问ROCE网卡,该方法包括:步骤S1、获取目标对象关联的目标ROCE网卡对应的配置策略,所述目标对象为所述智能计算中心的容器或虚拟机,所述目标对象用于承载算力任务,所述目标ROCE网卡为所述至少一个ROCE网卡中的ROCE网卡,所述配置策略包括所述目标ROCE网卡的网络连接模式,所述网络连接模式为无限带宽IB模式或ROCE模式;步骤S2、为所述目标对象分配所述目标ROCE网卡的接口资源,所述接口资源用于所述目标对象通过所述目标ROCE网卡基于所述网络连接模式接入网络。本发明降低了网络传输时延。

技术研发人员:马亮亮,焦悦光,胡宗星
受保护的技术使用者:北京九章云极科技有限公司
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-28399.html