(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211210685.3 (22)申请日 2022.09.30 (71)申请人 哈尔滨理工大 学 地址 150080 黑龙江省哈尔滨市南岗区学 府路52号 (72)发明人 康守强　肖杨　王玉静　王庆岩　 梁欣涛　谢金宝　宋显华　 (74)专利代理 机构 黑龙江立超同创知识产权代 理有限责任公司 23217 专利代理师 杨立超 (51)Int.Cl. G06K 9/00(2022.01) G06K 9/62(2022.01) G06N 20/00(2019.01) G06N 3/04(2006.01)G06N 3/08(2006.01) G01M 13/045(2019.01) (54)发明名称 一种用于不同规格滚动轴承故障诊断的联 邦模型迁移学习方法及系统 (57)摘要 本发明提出一种用于不同规格滚动轴承故 障诊断的联邦模 型迁移学习方法及系统， 涉及滚 动轴承故障诊断技术领域， 用以解决现有联邦学 习方法对于不同规格的滚动轴承的故障诊断效 果不佳的问题。 本发明方法的技术要点包括： 对 多个用户振动数据做短时傅里叶变换， 构建时频 图数据集； 各用户训练本地模型并将模型参数上 传至服务器， 同时引入差值更新和参数稀疏化算 法改进联邦学习中本地模型参数传递策略； 服务 器采用联邦平均算法聚合模型参数并更新本地 模型， 迭代后建立用于迁移学习的共享模型； 提 出逐层解冻策略保留共享模型部分参数并发送 给每个用户， 利用本地数据微调共享模型， 获得 适用于每个用户的个性化模型。 本发 明具有较高 准确率和良好的泛化 性能。 权利要求书2页 说明书14页 附图7页 CN 115481665 A 2022.12.16 CN 115481665 A 1.一种用于不同规格滚动轴承故障诊断的联邦模型迁移学习方法， 其特征在于， 包括 以下步骤： (1)本地数据集及本地模型构建 选取不同型号滚动轴承振动数据作为各用户本地数据集， 并通过短时傅里叶变换得到 用户本地时频图样本集； 利用本地时频图样本集训练卷积神经网络得到多个用户本地模 型； (2)共享模型构建 利用改进参数传递策略， 用户将训练好的本地模型参数上传至服务器， 服务器使用联 邦平均算法聚合用户上传的参数并更新本地模型， 不断重复此过程直至达到最大联邦迭代 次数， 得到用于 迁移学习的共享模型； (3)个性化模型构建 服务器将用于迁移学习的共享模型发送至各用户， 根据逐层解冻策略决定保留共享模 型哪些层参数， 并使用本地数据集对共享模型微调， 得到适用于用户本地数据集的个性化 模型。 2.根据权利要求1所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习方 法， 其特征在于， 对于(2)共享模型构建中所述改进参数传递策 略为： 引入一种参数稀疏化 算法改进联邦学习过程中参数传递策略， 以解决用户上传参数时的隐私泄 露。 3.根据权利要求2所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习方 法， 其特征在于， 采用的参数稀疏化 算法在联邦学习中的具体步骤 包括： (21)用户使用本地数据训练好本地模型后， 按层计算本轮初下发的全局模型参数与本 轮训练好的本地模型参数差值， 每一层的差值 为一个矩阵； (22)用户本地生成一个和模型参数同样大小的矩阵， 矩阵由0、 1组成， 1的个数由事先 规定好的参数稀疏化度决定； (23)将步骤(21)中得到的差值矩阵与步骤(22)中生成的参数稀疏化矩阵对应位置相 乘得到新的差值矩阵； (24)将新的差值矩阵发送给服务器， 服务器收集所有用户的差值矩阵取其平均数， 加 到上一轮的全局模型参数矩阵上， 形成下一轮的全局模型。 4.根据权利要求3所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习方 法， 其特征在于， 对于(2)共享模 型构建中所述联邦平均算法是联邦学习中的模 型参数聚合 方法， 其表达式如下式所示： 其中， 表示第j轮联邦中第k个用户本地模型参数， Gj+1表示第j+1轮全局模型参数。 5.根据权利要求1 ‑4中任一项所述的一种用于不同规格滚动轴 承故障诊断的联邦模型 迁移学习方法， 其特征在于， 对于(3)个性化模型构建中所述逐层解冻策略用于对网络微 调， 具体方法为： 除了全连接层的参数， 将用于迁移学习的共享模型的其他模型参数迁移至 目标域网络， 作为目标域网络的初始 化参数， 从最后一层卷积层向前逐层解冻， 并使用目标 域已知标签样本微调网络 。 6.一种用于不同规格滚动轴承故障诊断的联邦模型迁移学习 系统， 其特 征在于， 包括：权　利　要　求　书 1/2 页 2 CN 115481665 A 2本地数据集及本地模型构建模块， 用于选取不同型号滚动轴承振动数据作为各用户本 地数据集， 并通过短时傅里叶变换得到用户本地时频图样本集； 利用本地时频图样本集训 练卷积神经网络得到多个用户本地模型； 共享模型构建模块， 用于利用改进参数传递策略， 用户将训练好的本地模型参数上传 至服务器， 服务器使用联邦平均算法聚合用户上传的参数并更新本地模型， 不断重复此过 程直至达到最大联邦迭代次数， 得到用于 迁移学习的共享模型； 个性化模型构建模块， 用于服务器将用于迁移学习的共享模型发送至各用户， 根据逐 层解冻策略决定保留共享模型哪些层参数， 并使用本地数据集对共享模型微调， 得到适用 于用户本地数据集的个性 化模型。 7.根据权利要求6所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习系 统， 其特征在于， 所述共享模型构建模块中所述改进参数传递策略为： 引入一种参数稀疏化 算法改进联邦学习过程中参数传递策略， 以解决用户上传参数时的隐私泄 露。 8.根据权利要求7所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习系 统， 其特征在于， 所述共享模型构建模块中采用的参数稀疏化算法在联邦学习中的具体步 骤包括： (21)用户使用本地数据训练好本地模型后， 按层计算本轮初下发的全局模型参数与本 轮训练好的本地模型参数差值， 每一层的差值 为一个矩阵； (22)用户本地生成一个和模型参数同样大小的矩阵， 矩阵由0、 1组成， 1的个数由事先 规定好的参数稀疏化度决定； (23)将步骤(21)中得到的差值矩阵与步骤(22)中生成的参数稀疏化矩阵对应位置相 乘得到新的差值矩阵； (24)将新的差值矩阵发送给服务器， 服务器收集所有用户的差值矩阵取其平均数， 加 到上一轮的全局模型参数矩阵上， 形成下一轮的全局模型。 9.根据权利要求8所述的一种用于不同规格滚动轴 承故障诊断的联邦模型迁移学习系 统， 其特征在于， 所述共享模型构建模块中所述联邦平均算法是联邦学习中的模型参数聚 合方法， 其表达式如下式所示： 其中， 表示第j轮联邦中第k个用户本地模型参数， Gj+1表示第j+1轮全局模型参数。 10.根据权利要求6 ‑9中任一项所述的一种用于不同规格滚动轴承故障诊断的联邦模 型迁移学习系统， 其特征在于， 所述个性化模型构建模块中所述逐层解冻 策略用于对网络 微调， 具体方法为： 除了全连接层的参数， 将用于迁移学习的共享模 型的其他模 型参数迁移 至目标域网络， 作为目标域网络的初始 化参数， 从最后一层卷积层向前逐层解冻， 并使用目 标域已知标签样本微调网络 。权　利　要　求　书 2/2 页 3 CN 115481665 A 3