用于分布式人工智能的方法、架构、设备和系统与流程

专利2025-11-17  1



背景技术:

1、本公开总体上涉及通信、软件和编码领域,包括例如涉及协作型人工智能(ai)的方法、架构、设备、系统。


技术实现思路

1、在第一方面,本发明原理涉及一种方法,其中第一装置:从第二装置接收指示多个分布式人工智能ai模型的信息,其中所述多个分布式ai模型中的每个模型对应于相同的ai服务;向所述第二装置发送消息,所述消息包括指示来自所述多个分布式ai模型当中的所选择的分布式ai模型的信息,其中所述所选择的分布式ai模型包括组成所述ai服务的多个模型子集;接收与所述所选择的分布式ai模型的模型子集对应的信息;以及基于与所述模型子集对应的所述信息来运行所述所选择的分布式ai模型的所述模型子集。

2、在第二方面,本发明原理涉及一种第一装置,所述第一装置包括:存储器,所述存储器存储处理器可执行的程序指令;以及至少一个硬件处理器,所述至少一个硬件处理器被配置为执行所述程序指令以:从第二装置接收指示多个分布式人工智能ai模型的信息,其中所述多个分布式ai模型中的每个模型对应于相同的ai服务;向所述第二装置发送消息,所述消息包括指示来自所述多个分布式ai模型当中的所选择的分布式ai模型的信息,其中所述所选择的分布式ai模型包括组成所述ai服务的多个模型子集;以及接收与所述所选择的分布式ai模型的模型子集对应的信息;以及基于所述与所述模型子集对应的信息来运行所述所选择的分布式ai模型的所述模型子集。



技术特征:

1.一种方法,包括:

2.根据权利要求1所述的方法,包括:

3.根据权利要求1或2所述的方法,包括:

4.根据权利要求3所述的方法,其中所述指示所述ai服务的信息包括:服务标识符以及用于所述服务的ai模型是否能够分布在多个装置上的指示。

5.根据权利要求1所述的方法,其中所述消息还包括指示以下项中的至少一者的信息:由所述第一装置使用的ai引擎、所述第一装置是否支持分布式ai模型、被允许执行模型子集的装置的类型、以及源自所述第一装置处的感测数据的估计带宽。

6.根据权利要求1所述的方法,其中所述指示所述多个分布式ai模型的信息包括:指示已经具有模型子集的装置的信息。

7.根据权利要求1所述的方法,包括:

8.根据权利要求7所述的方法,其中所述至少一个环境条件包括:带宽、时延要求、能量要求、安全考虑和隐私考虑中的至少一者。

9.根据权利要求1所述的方法,其中使用感测数据作为输入来运行所述模型子集以获得中间结果;所述方法包括:

10.根据权利要求9所述的方法,包括:

11.根据权利要求10所述的方法,其中:

12.根据权利要求10所述的方法,其中通过建立的传输会话从所述第三装置接收所述最终结果,所述方法还包括:

13.根据权利要求9所述的方法,其中通过建立的传输会话向所述第三装置提供所述中间结果,所述方法还包括:

14.根据权利要求9所述的方法,其中所述中间结果包括:中间数据和指示所述中间数据的性质的元数据。

15.根据权利要求1所述的方法,其中使用中间结果作为输入来运行所述模型子集以获得最终结果,所述中间结果从已经使用另一个模型子集推理出所述中间结果的第三装置获得;所述方法包括:

16.根据权利要求1所述的方法,其中分布式ai模型的所述模型子集被配置成用于在至少两个不同的装置上执行。

17.根据权利要求16所述的方法,其中所述模型子集之间的边界由分割点限定。

18.根据权利要求1所述的方法,其中所述消息还包括:指示所述所选择的分布式ai模型的所选择的模型子集的信息。

19.一种第一装置,包括:

20.根据权利要求19所述的第一装置,其中所述至少一个硬件处理器还被配置为:

21.根据权利要求19或20所述的第一装置,其中所述至少一个硬件处理器还被配置为:

22.根据权利要求21所述的第一装置,其中所述指示所述ai服务的信息包括:服务标识符以及用于所述服务的ai模型是否能够分布在多个装置上的指示。

23.根据权利要求19所述的第一装置,其中所述消息还包括指示以下项中的至少一者的信息:由所述第一装置使用的ai引擎、所述第一装置是否支持分布式ai模型、被允许执行模型子集的装置的类型、以及源自所述第一装置处的感测数据的估计带宽。

24.根据权利要求19所述的第一装置,其中所述指示所述多个分布式ai模型的信息包括:指示已经具有模型子集的装置的信息。

25.根据权利要求19所述的第一装置,其中所述至少一个硬件处理器还被配置为:

26.根据权利要求25所述的第一装置,其中所述至少一个环境条件包括:带宽、时延要求、能量要求、安全考虑和隐私考虑中的至少一者。

27.根据权利要求19所述的第一装置,其中使用感测数据作为输入来运行所述模型子集以获得中间结果,并且其中所述至少一个硬件处理器还被配置为:

28.根据权利要求27所述的第一装置,其中所述至少一个硬件处理器还被配置为:

29.根据权利要求28所述的第一装置,其中:

30.根据权利要求28所述的第一装置,其中通过建立的传输会话从所述第三装置接收所述最终结果,并且其中所述至少一个硬件处理器还被配置为接收与所述传输会话相关的元数据。

31.根据权利要求27所述的第一装置,其中通过建立的传输会话向所述第三装置提供所述中间结果,并且其中所述至少一个硬件处理器还被配置为接收与所述传输会话相关的元数据。

32.根据权利要求27所述的第一装置,其中所述中间结果包括:中间数据和指示所述中间数据的性质的元数据。

33.根据权利要求19所述的第一装置,其中使用中间结果作为输入来运行所述模型子集以获得最终结果,所述中间结果从已经使用另一个模型子集推理出所述中间结果的第三装置获得,并且其中所述至少一个硬件处理器还被配置为:

34.根据权利要求19所述的第一装置,其中分布式ai模型的所述模型子集被配置成用于在至少两个不同的装置上执行。

35.根据权利要求34所述的第一装置,其中所述模型子集之间的边界由分割点限定。

36.根据权利要求19所述的第一装置,其中所述消息还包括:指示所述所选择的分布式ai模型的所选择的模型子集的信息。

37.根据权利要求19所述的第一装置,其中第一装置是无线发射/接收单元wtru。


技术总结
用于分布式人工智能AI的过程、方法、架构、设备、系统、装置和计算机程序产品。一种第一装置,所述第一装置:从第二装置接收指示多个分布式人工智能AI模型的信息,其中所述多个分布式AI模型中的每个模型对应于相同的AI服务;向所述第二装置发送消息,所述消息包括指示来自所述多个分布式AI模型当中的所选择的分布式AI模型的信息,其中所述所选择的分布式AI模型包括组成所述AI服务的多个模型子集;接收与所述选择的分布式AI模型的模型子集相对应的信息;以及基于所述与所述模型子集对应的信息来运行所述所选择的分布式AI模型的所述模型子集。

技术研发人员:S·奥诺,C·昆奎斯,T·菲洛什
受保护的技术使用者:交互数字CE专利控股有限公司
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-27956.html