(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211138452.7 (22)申请日 2022.09.19 (71)申请人 蚂蚁区块链科技 （上海） 有限公司 地址 200010 上海市黄浦区外马路618号8 层803室 (72)发明人 张祺智　李漓春　殷山　 (74)专利代理 机构 北京亿腾知识产权代理事务 所(普通合伙) 11309 专利代理师 陈霁　周良玉 (51)Int.Cl. G06N 3/08(2006.01) G06N 3/04(2006.01) G06N 20/00(2019.01) (54)发明名称 基于多方安全计算联合更新模型的方法及 装置 (57)摘要 本说明书实施例提供一种基于多方安全计 算的联合更新模 型的方法及装置， 在基于多 方安 全计算联合更新模型过程中， 对于模 型中包含的 全连接层， 根据其正向业务处理过程和反向梯度 确定过程， 基于表征业务数据性质的各种矩阵的 维度特点构建双线性三角形， 其中， 双线性三角 形中两两矩 阵空间向另一个矩 阵空间的映射为 预定双线性映射。 如此， 在针对该全连接层基于 输入矩阵所在矩 阵空间和参数矩 阵所在空间的 双线性映射进行正向计算得到输出矩阵后， 可以 通过安全转换， 得到与输出矩阵在同一个矩阵空 间的其他矩阵， 并利用该其他矩阵与输入矩阵、 参数矩阵相关联， 以较少的通信量进行后续计 算。 权利要求书3页 说明书12页 附图3页 CN 115526309 A 2022.12.27 CN 115526309 A 1.一种基于多方安全计算联合更新模型的方法， 所述模型由多个参与方各自利用本地 的业务数据联合进行更新， 所述模型包括第一全连接层， 所述第一全连接层对应第一矩阵 空间的输入矩阵、 第二矩阵空间的参数矩阵、 第三矩阵空间的输出矩阵， 第一矩阵空间、 第 二矩阵空间、 第三矩阵空间基于预定的双线性映射构成双线性三角形， 其中， 由第一矩阵空 间、 第二矩阵空间向第三矩阵空间的双线性映射为第一映射， 由第三矩阵空间、 第二矩阵空 间向第一矩阵空间的双线性映射为第二映射， 从第三矩阵空间、 第一矩阵空间向第二矩阵 空间的双线性映射 为第三映射； 所述方法由所述多个参与方中的第一方执行， 所述第一方持有参数矩阵w、 输入矩阵x 分别对应的第一分片w0、 x0， 所述方法包括： 利用第一分片w0、 x0， 与其他方经由基于第一映射的双线性映射协议， 确定参数矩阵w 对输入矩阵x进行处 理的输出矩阵y， 得到所述输出矩阵y的第一分片y0； 根据所述输出矩阵y的第 一分片y0， 与其他方完成所述模型的正向计算， 并确定反向传 播过程中， 模型损失针对所述输出矩阵y的整体梯度 矩阵z， 从而 得到整体梯度 矩阵z的第一 分片z0； 根据z0， 与其他方经由基于第二映射的双线性映射协议， 确定整体梯度矩阵z对特征矩 阵x的第一梯度 矩阵q， 得到第一梯度矩阵q的第一分片q0； 以及/或者： 基于第三映射的双 线 性映射协议， 确定整体梯度矩阵z对参数矩阵w的第二梯度矩阵s， 得到第二梯度矩阵s的第 一分片s0； 按照第一梯度矩阵q的第一分片q0和/或第二梯度矩阵s的第一分片s0， 进行所述模型 的安全更新。 2.如权利要求1所述的方法， 其中， 所述方法还 包括： 获取第三方针对第一矩阵空间、 第二矩阵空间、 第三矩阵空间分别生成的第一扰动矩 阵 第二扰动矩阵 第三扰动矩阵 以及平衡项 各自对应的第一分片 其中， 各个平衡项分别用于消除各个预定的双线性映射基于第一扰动矩 阵 第二扰动矩阵 第三扰动矩阵 引入的偏差 。 3.如权利 要求2所述的方法， 其中， 所述利用第一分片w0、 x0， 与其他方经由基于第一映 射的双线性映射协 议， 确定参数矩阵w对输入矩阵x进 行处理的输出矩阵y， 得到所述输出矩 阵y的第一分片y0包括： 利用x0、 确定通过第一扰动 矩阵 针对特征矩阵x进行扰动的第一扰动结果矩阵δx的 第一分片 δx0； 利用w0、 确定通过第二扰动矩阵 针对参数矩阵w进行扰动的第二扰动结果矩阵δw 的第一分片 δ w0； 与其他参与 方通过公开相应分片的方式确定第 一扰动结果矩阵δx、 第 二扰动结果矩阵 δ w； 在本地利用所述第一映射分别处理第一扰动结果矩阵δx与参数矩阵w的第一分片w0、 第一扰动矩阵 的第一分片 与第二扰动结果矩阵δw， 得到第三矩阵空间的第一映射矩阵 的第一分片、 第二映射矩阵的第一分片； 将所述平衡项 的第一分片与所述第一 映射矩阵的第一分片、 第二 映射矩阵的第一分权　利　要　求　书 1/3 页 2 CN 115526309 A 2片进行融合， 得到所述输出矩阵y的第一分片y0 。 4.如权利要求3所述的方法， 其中， 平衡项 经由所述第一映射对第一扰动矩阵 第二 扰动矩阵 的处理确定， 第一扰动结果矩阵δx的第一分片 δx0由x0与 的差确定， 第二扰动 结果矩阵δ w的第一分片 δ w0由w0与 的差确定； 所述将所述平衡项 的第一分片与所述第一 映射矩阵的第一分片、 第二 映射矩阵的第 一分片进行融合包括： 将所述平衡项 的第一分片与所述第一 映射矩阵的第一分片、 第二 映射矩阵的第一分 片叠加。 5.如权利要求1所述的方法， 其中， 所述输出矩阵y的整体梯度矩阵z均为第 三矩阵空间 中的矩阵， 整体梯度矩阵z为基于预言机的安全映射处 理所述输出矩阵y的处 理结果。 6.如权利要求3所述的方法， 其中， 在根据z0， 与其他方经由基于第二映射的双线性映 射协议， 确定整体梯度矩阵z对特征矩阵x的第一梯度矩阵q， 得到第一梯度矩阵q的第一分 片q0的情况 下： 利用第三扰动矩阵 的第一分片 对整体梯度矩阵z的第一分片z0进行扰动， 得到整体 梯度矩阵z对应的第三扰动结果δz的第一分片 δz0， 从而基于其他方得到的第三扰动结果δz 的其他分片恢复第三扰动结果 δz； 利用所述第二映射分别处理第二扰动结果矩阵δw与整体梯度矩阵z的第一分片z0、 第 二扰动矩阵 的第一分片 与第三扰动结果矩阵δz， 得到第一矩阵空间的第三映射矩阵的 第一分片、 第四映射矩阵的第一分片； 将所述平衡项 的第一分片 与所述第三映射矩阵的第一分片、 第四映射矩阵的第一 分片进行融合， 得到所述第一梯度矩阵q的第一分片q0 。 7.如权利要求3所述的方法， 其中， 在根据z0， 基于第 三映射的双线性映射协议， 确定整 体梯度矩阵z对参数矩阵w的第二梯度矩阵s， 得到第二梯度矩阵s的第一分片s0的情况 下： 利用第三扰动 矩阵 的第一分片 对整体梯度矩阵z的第一分片z0进行扰动， 得到整体 梯度矩阵z对应的第三扰动结果δz的第一分片 δz0， 从而基于其他方得到的第三扰动结果δz 的其他分片恢复第三扰动结果 δz； 利用所述第三映射分别处理第三扰动结果矩阵δz与特征矩阵x的第一分片x0、 第三扰 动矩阵 的第一分片 与第一扰动结果矩阵δx， 得到第二矩阵空间的第五映射矩阵的第一 分片、 第六映射矩阵的第一分片； 将所述平衡项 的第一分片 与所述第五映射矩阵的第一分片、 第六映射矩阵的第一 分片进行融合， 得到所述第二梯度矩阵s的第一分片s0 。 8.一种基于多方安全计算联合更新模型的装置， 所述模型由多个参与方各自利用本地 的业务数据联合进行更新， 所述模型包括第一全连接层， 所述第一全连接层对应第一矩阵 空间的输入矩阵、 第二矩阵空间的参数矩阵、 第三矩阵空间的输出矩阵， 第一矩阵空间、 第 二矩阵空间、 第三矩阵空间基于预定的双线性映射构成双线性三角形， 其中， 由第一矩阵空 间、 第二矩阵空间向第三矩阵空间的双线性映射为第一映射， 由第三矩阵空间、 第二矩阵空 间向第一矩阵空间的双线性映射为第二映射， 从第三矩阵空间、 第一矩阵空间向第二矩阵 空间的双线性映射 为第三映射；权　利　要　求　书 2/3 页 3 CN 115526309 A 3