(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210959383.X (22)申请日 2022.08.10 (71)申请人 郑州大学 地址 450040 河南省郑州市高新 技术开发 区科学大道100号 (72)发明人 刘欢　 (74)专利代理 机构 成都鱼爪智云知识产权代理 有限公司 513 08 专利代理师 梁悦敏 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/06(2006.01) G06N 3/08(2006.01) G06N 20/00(2019.01) (54)发明名称 一种基于机器学习的神经网络模型优化方 法及系统 (57)摘要 本申请提出了一种基于机器学习的神经网 络模型优化方法及系统， 涉及机器学习领域。 一 种基于机器学习的神经网络模型优化方法包括： 获取待优化的神经网络模型的结构、 参数、 每一 层对应的权重参数及每一层的神经元个数； 对待 优化的神经网络模型的目标优化层的上层加入 虚拟层， 并将加入虚拟层的待优化的神经网络模 型转化为初始模 型； 对初始模型结合待优化的神 经网络模型的结构、 参数、 每一层对应的权重参 数及每一层的神经元个数进行融合处理， 输出组 合优化策略， 使用组合优化策略对待优化的神经 网络模型进行优化。 能够提高在图像识别的识别 精度或分类中的分类精度， 同时还解决了神经网 络模型在硬件加速 器上布局受限的问题。 权利要求书2页 说明书6页 附图3页 CN 115271045 A 2022.11.01 CN 115271045 A 1.一种基于 机器学习的神经网络模型优化方法， 其特 征在于， 包括： 获取待优化的神经网络模型的结构、 参数、 每一层对应的权重参数及每一层的神经元 个数； 对待优化的神经网络模型的目标优化层的上层加入虚拟层， 并将加入虚拟层的待优化 的神经网络模型转 化为初始模型； 对初始模型结合待优化的神经网络模型的结构、 参数、 每一层对应的权重参数及每一 层的神经元个数进行融合处理， 输出组合优化策略， 使用组合优化策略对待优化的神经网 络模型进行优化。 2.如权利要求1所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 所述 获取待优化的神经网络模型 的结构、 参数、 每一层对应的权重参数及每一层的神经元个数 包括： 设置待优化的神经网络模型的学习框架， 学习框架包括待优化的神经网络模型本体和 待优化的神经网络模型的优化器， 待优化的神经网络模型优化器用于对与其对应的神经网 络本体的结构、 参数、 每一层对应的权 重参数及每一层的神经 元个数进行调整。 3.如权利要求2所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 还包 括： 获取待优化的神经网络模型中每一层的神经元个数与 上层的神经元个数的乘积， 将算 出的乘积中大于预设阈值的层确定为目标优化层。 4.如权利要求1所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 所述 对待优化的神经网络模型的目标优化层的上层加入虚拟层， 并将加入虚拟层的待优化的神 经网络模型转 化为初始模型包括： 根据虚拟层的权重系数， 以及可容纳的权重范围， 确定虚拟层权重尺度因子， 根据尺度 因子以及虚拟层的权 重， 对虚拟层进行权 重优化处 理。 5.如权利要求4所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 还包 括： 在进行权 重优化处 理后的虚拟层后， 再 添加预设的归一 化层。 6.如权利要求1所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 所述 对初始模型结合待优化的神经网络模型 的结构、 参数、 每一层对应的权重参数及每一层的 神经元个数进行融合处理， 输出组合优化策略， 使用组合优化策略对待优化的神经网络模 型进行优化包括： 将融合处理后的神经网络模型按照对应的输出组合优化策略排列顺序进行排列， 以从 输出组合优化策略中选择 预测性能损失更小的神经网络模型。 7.如权利要求6所述的一种基于机器学习的神经网络模型优化方法， 其特征在于， 还包 括： 选择组合优化策略排列顺序进行排列中排在第 一位的神经网络模型进行输出， 或选择 排名靠前的多个神经网络模型的加权结果进行输出。 8.一种基于 机器学习的神经网络模型优化系统， 其特 征在于， 包括： 获取模块， 用于获取待优化的神经网络模型的结构、 参数、 每一层对应的权重参数及每 一层的神经 元个数；权　利　要　求　书 1/2 页 2 CN 115271045 A 2虚拟层模块， 用于对待优化的神经网络模型的目标优化层的上层加入虚拟层， 并将加 入虚拟层的待优化的神经网络模型转 化为初始模型； 优化模块， 用于对初始模型结合待优化的神经网络模型的结构、 参数、 每一层对应的权 重参数及每一层的神经元个数进行融合处理， 输出组合优化策略， 使用组合优化策略对待 优化的神经网络模型进行优化。 9.如权利要求8所述的一种基于机器学习的神经网络模型优化系统， 其特征在于， 包 括： 用于存储计算机指令的至少一个存 储器； 与所述存储器通讯的至少一个处理器， 其中当所述至少一个处理器执行所述计算机指 令时， 所述至少一个处 理器使所述系统执 行： 获取模块、 虚拟层模块及优化模块。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该计算机程序被 处理器执行时实现如权利要求1 ‑7中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 115271045 A 3