(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211250853.1 (22)申请日 2022.10.13 (71)申请人 南京邮电大 学 地址 210003 江苏省南京市 鼓楼区新模范 马路66号 (72)发明人 张登银　刘子捷　陈皓然　程义　 陈灿　朱孟达　许晖　 (74)专利代理 机构 南京纵横知识产权代理有限 公司 32224 专利代理师 严志平 (51)Int.Cl. G06F 9/455(2006.01) G06F 9/48(2006.01) G06N 20/00(2019.01) G16Y 30/00(2020.01) (54)发明名称 一种面向物联网的机器学习容器镜像下载 系统及其方法 (57)摘要 本发明公开了计算机领域的一种面向物联 网的机器学习容器镜像下载系统及其方法， 解决 机器学习容器镜像的体积较大、 边缘节点间竞相 争夺中心式容器镜像仓库的出口带宽资源， 推迟 容器启动时间影 响任务的执行效率技术的问题； 其包括： 一个主控节点和多个计算节点； 主控节 点： 存储、 转换机器学习模型， 将转换格式的机器 学习模型构建为机器学习容器镜像； 构建机器学 习容器镜像的镜像信息完成向计算节点下发镜 像下载指令； 计算节点： 接收所述镜像下载指令， 下载机器学习容器镜像， 启动机器学习容器； 接 收来自物联网设备收集的数据， 向物联网设备返 回数据处理结果； 本发明能够提升面向物联网场 景下的机器学习容器 镜像的下载效率。 权利要求书2页 说明书8页 附图7页 CN 115543538 A 2022.12.30 CN 115543538 A 1.一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 包括一个主控节点和 多个计算节点； 所述主控节点： 用于存储、 转换机器学习 模型， 将转换格 式的机器学习模型构建为机器 学习容器镜像； 当构建机器学习容器镜像的镜像信息完成后， 向计算节点下发镜像下载指 令； 所述计算节点： 用于接收所述镜像下载指令， 下载机器学习容器镜像， 并启动机器学习 容器； 并接收来自物联网设备收集的数据， 向物联网设备返回数据处 理结果。 2.根据权利要求1所述的一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 所述机器学习模型包括计算机 视觉和自然语言处 理领域的预训练机器学习模型。 3.根据权利要求1所述的一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 所述主控节点包括控制平面、 机器学习模型仓库、 机器学习模 型转换器、 机器学习容器镜像 构建器、 机器学习容器镜像仓库和调度器； 所述控制平面， 用于读取、 解析用户设置的机器学习容器部署参数， 所述机器学习容器 部署参数包括机器学习模型的类型及所述机器学习模型依赖的对应的机器学习计算框架 和需要部署机器学习容器的计算节点 参数； 所述机器学习模型仓库， 用于储 存机器学习模型； 所述机器学习模型转换器， 用于将所述机器学习模型转换为ONNX格式的机器学习模 型； 机器学习容器镜像构建器， 用于依据转换为ONNX格 式的机器学习模型构建所述机器学 习容器镜像； 所述机器学习容器镜像仓库， 用于存 储带有镜像信息的所述机器学习容器镜像； 所述调度器， 用于接收控制平面设置的需要部署所述机器学习容器的计算节点参数和 所述机器学习容器镜像的镜像信息， 向所述计算节点发送镜像下 载指令。 4.根据权利要求3所述的一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 所述计算节点包括镜像分发代理、 容器引擎和分布式存 储组件； 所述镜像分发代理， 用于接收所述镜像下载指令、 通知容器引擎下载所述机器学习容 器镜像、 拦截容器引擎对所述机器学习容器镜像的下载请求、 访问所在计算节点的分布式 存储组件； 所述容器引擎， 用于接收镜像分发代理的通知， 发起下载所述机器学习容器镜像的请 求； 所述分布式存储组件， 用于存储下载的所述机器学习容器镜像， 各分布式存储组件之 间相互连接， 为所述镜像分发代理获取包含所述机器学习容器镜像的下载源， 并从获取 的 所述下载源处下 载所述机器学习容器镜像。 5.根据权利要求4所述的一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 所述分布式存储组件采用Bitswap协 议从机器学习容器镜像的下载源下载机器学习容器镜 像。 6.根据权利要求3所述的一种面向物联网的机器学习容器镜像下载系统， 其特征在于， 构建完成的所述机器学习容器镜像包括： 执 行所述机器学习模型的运行脚本及其依赖库。 7.一种面向物联网的机器学习容器镜像下载系统的方法， 其特征在于， 所述方法包括权　利　要　求　书 1/2 页 2 CN 115543538 A 2以下步骤： 所述控制平面读取所述用户设置的机器学习容器部署参数， 解析出机器学习 模型的名 称通过机器学习模型仓库查找所需的机器学习模型； 所述机器学习容器镜像构建器接收经 转换后的所述ONNX格式的机器学习模型， 构建为机器学习容器镜像； 所述机器学习容器镜 像仓库将存 储的所述机器学习容器镜像的信息发送至所述调度器； 所述镜像分发代理接收镜像下载指令后， 对应所述分布式存储组件从所述机器学习容 器镜像的下载源获取所述机器学习容器镜像的文件全部； 启动对应的所述机器学习容器； 计算节点接 收物联网设备收集到的数据， 并交由启动的所述机器学习容器进行数据 处理； 镜像分发代理将所述机器学习容器的数据处 理结果反馈 至物联网设备。 8.根据权利要求6所述的一种面向物联网的机器学习容器镜像下载系统的方法， 其特 征在于， 所述机器学习模型转换器对调取的所述机器学习模型进行格式转换的步骤： 所述机器学习模型转换器接收所述控制平面发送的依赖于给定机器学习计算框架的 所述机器学习模型； 并读取机器学习计算框架转换为ON NX格式的模板文件； 若文件读取失败， 所述机器学习模型转换器将读取失败原因和时间戳写入本地的日志 文件中以便运维人员排 查错误； 若文件读取成功， 所述机器学习模型转换器根据机器学习计算框架转换为ONNX格 式的 模板文件， 将依赖 于给定机器学习计算框架的机器学习模型转换为ON NX格式。 9.根据权利要求6所述的一种面向物联网的机器学习容器镜像下载系统的方法， 其特 征在于， 所述 容器引擎获取 所述机器学习容器镜像的文件的步骤： 所述镜像分发代理通知所述容器向所述机器学习容器镜像仓库发起对所述机器学习 容器镜像下载请求； 同时， 所述镜像分发代理拦截 所述容器引擎 发起的下载请求， 并访问所 述分布式存 储组件， 查看本地是否存在所述机器学习容器镜像的文件； 若存在， 所述镜像分发代理从所述分布式存储组件中获取所述机器学习容器镜像的文 件， 发送至所述 容器引擎； 若不存在； 所述分布式存储组件查询其他所述计算节点的分布式存储组件内是否包含 所需的所述机器学习容器镜像的文件； 若未在其他所述计算节点的列表内查出， 则所述镜像分发代理向主控节点的所述机器 学习容器镜像仓库发起下载所述机器学习容器镜像的请求， 并将下载得到的所述机器学习 容器镜像的文件发送至容器引擎； 若在其他某几个所述计算节点的分布式存储组件内查出； 选择所述分布式存储组件传 输速率最高的计算节点作为所述机器学习容器镜像的下载源； 并将所述机器容器镜像发送 至所述容器引擎。权　利　要　求　书 2/2 页 3 CN 115543538 A 3