(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211087736.8 (22)申请日 2022.09.07 (71)申请人 飞马智科信息技 术股份有限公司 地址 243000 安徽省马鞍山市雨 山区湖南 西路8号 (72)发明人 何诗兴　凌晨　周道付　檀长松　 薛明磊　张枫　 (74)专利代理 机构 南京九致知识产权代理事务 所(普通合伙) 32307 专利代理师 严巧巧 (51)Int.Cl. G06V 10/764(2022.01) G06V 10/774(2022.01) G06V 10/46(2022.01) G06V 10/778(2022.01)G06N 20/00(2019.01) (54)发明名称 一种基于联邦学习的差分隐私图像分类方 法及装置 (57)摘要 本发明公开了一种基于联邦学习的差分隐 私图像分类方法及装置。 所述方法包括： 通过本 地图像集及自适应梯度下 降算法及随机梯度下 降算法进行局部模型训练； 在自适应梯度下降算 法中设置动态学习率取值范围为[ηl,ηu]； 其 中， 取值上界ηu＝r+α*， 取值下界ηl＝α*； r为 标准化一阶动量估计， α*为最终学习率； 基于上 述训练结果获取局部参数 及 所述局部参数与上一轮全局参数的参数差值， 并 将稀疏化处理的所述参数差值发送给服务器用 于聚合并形成添加差分隐私噪声的全局参数； 获 取所述全局参数以更新局部模型； 重复上述过程 至得到最优化局部模型， 并通过其对待分类图像 进行处理。 本发明可保证模型收敛至全局最优， 并使其获得良好泛化能力， 且利用差分隐私噪声 有效避免了模型反推 。 权利要求书2页 说明书8页 附图3页 CN 115527061 A 2022.12.27 CN 115527061 A 1.一种基于联邦学习的差分隐私图像分类方法， 其特 征在于， 包括： 通过本地图像集并按照自适应梯度下降算法及随机梯度下降算法进行局部模型的训 练； 其中， 在所述自适应梯度 下降算法中设置动态学习率的取值范围为[ ηl, ηu]以实现所述 自适应梯度 下降算法与 所述随机梯度 下降算法间的自动切换； 其中， 取值上界ηu＝r+α*， 取 值下界ηl＝α*； 其中， r为标准 化一阶动量估计， α*为最终学习率； 基于上述训练结果获取本轮局部参数以及所述局部参数与上一轮全局参数的参数差 值； 所述本轮局部 参数为 其中， wt‑1为上一轮的局部 参数， 为本轮一阶动 量估计偏置校正 值， η'为裁 剪学习率； 将稀疏化处理的所述参数差值发送给服务器用于聚合并形成添加有差分隐私噪声的 全局参数； 获取所述全局参数以更新所述局部模型； 重复上述过程 直至得到最优化的局部模型； 通过所述最优化的局部模型对待分类的图像进行图像分类处 理。 2.根据权利要求1所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 所述通 过本地图像集并按照自适应梯度下降算法进行局部模型的训练， 包括： 计算第t轮迭代目标函数的梯度 其中， wt‑1为第t‑1轮的权重矩阵， ft为 目标函数； 基于所述梯度gt计算第t轮的一阶动量估计mt＝β1mt‑1+(1‑β1)gt， 及二阶动量估计Vt＝β 2Vt‑1+(1‑β2)gt2； 其中， β1和β2为超参数， mt‑1为第t‑1轮的一阶动量估计， Vt‑1为第t‑1轮的二 阶动量估计； 通过 计算一阶动量估计偏置校正值， 通过 计算二阶动量估计偏置 校正值； 并通过 计算标准 化一阶动量估计； 通过 ηu＝r+α*得到所述取值上界ηu， 并通过 ηl＝α*得到所述取值下界ηl。 3.根据权利要求2所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 所述裁 剪学习率的表达式为： 其中， αt为第t轮的初始学习率。 4.根据权利要求1所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 所述通 过本地图像集及自适应梯度下降算法进行局部模型的训练之前， 包括： 获取与编码后全局模型相应的二进制消息； 对所述二进制消息解码成张量形式以构建所述局部模型。 5.根据权利要求1所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 所述将 稀疏化处 理的所述 参数差值发送给服 务器， 包括： 基于top‑k稀疏化算法获取参数差值中的非零元 素；权　利　要　求　书 1/2 页 2 CN 115527061 A 2基于sign 函数将所述非零元 素量化为三元张量； 将与所述 三元张量对应的二进制消息发送给服 务器。 6.根据权利要求1所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 获取所 述全局参数以更新所述局部模型， 包括： 获取稀疏化处 理及编码后的全局参数； 对所述全局参数进行解码以更新所述局部模型。 7.根据权利要求4 ‑6任一项所述的基于联邦学习的差分隐私图像分类方法， 其特征在 于， 所述编码通过Go lomb编码方式进行。 8.根据权利要求1所述的基于联邦学习的差分隐私图像分类方法， 其特征在于， 所述全 局参数基于 获得； 其中， Mt+1为第t+1轮的全局模型， Mt 为第t轮的全局模型， K为客户端个数， NGS(σ2S2)为差分隐私噪声， 为 缩放后的所述参数差值， 其中， mk为第k个客户端的局部模型， || ·||2为欧氏距离， S为随机 算法的每一组输出。 9.一种基于联邦学习的差分隐私图像分类装置， 其特 征在于， 包括： 模型训练模块， 用于通过本地图像集及 自适应梯度下降算法进行局部模型的训练； 其 中， 在自适应梯度下降算法中动态学习率的取值范围为[ηl, ηu]， 其中， 取值上界ηu＝r+α*， 取值下界ηl＝α*； 其中， r为标准 化一阶动量估计， α*为最终学习率； 参数更新模块， 用于基于训练结果获取本轮局部参数以及所述局部参数与 上一轮全局 参数的参数差值； 所述本轮局部参数为 其中， wt‑1为上一轮的局部参数， 为本轮一阶动量估计偏置校正 值， η'为裁 剪学习率； 参数发送模块， 稀疏化处理 的所述参数差值发送给服务器用于聚合并形成添加有差分 隐私噪声的全局参数； 参数获取模块， 用于获取 所述全局参数以更新所述局部模型； 循环模块， 用于依次重复调取 上述模块 直至得到最优化的局部模型； 图像分类模块， 用于通过 所述最优化的局部模型对待分类的图像进行图像分类处 理。 10.根据权利要求9所述的基于联邦学习的差分隐私图像分类装置， 其特 征在于， 包括： 模型构建模块， 用于先通过获取与编码后全局模型相应的二进制消息， 再对所述二进 制消息解码成张量形式以构建所述局部模型。权　利　要　求　书 2/2 页 3 CN 115527061 A 3