iso file download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210994734.0 (22)申请日 2022.08.18 (71)申请人 哈尔滨工业大 学 (深圳) 地址 518055 广东省深圳市南 山区桃源街 道深圳大 学城哈尔滨工业大 学校区 (72)发明人 陈俊杰 李家豪 陈清财  (74)专利代理 机构 深圳市君胜知识产权代理事 务所(普通 合伙) 44268 专利代理师 吴志益 徐凯凯 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 20/00(2019.01) (54)发明名称 一种基于鉴别器森林提高生成对抗网络泛 化能力的方法 (57)摘要 本发明公开了一种基于鉴别器森林提高生 成对抗网络泛化能力的方法, 包括: 构建由一个 生成器和鉴别器森林组成的生 成对抗网络模型; 生成训练样 本, 基于训练样本对鉴别器森林进行 训练; 通过生成器得到第一生成样本, 将第一生 成样本输入到训练过的鉴别器森林中的每个鉴 别器中, 得到鉴别器的损失值, 以得到训练梯度, 并更新生 成器的训练参数, 再以最小化的方式对 生成器进行训练, 得到更新的生成器; 基于更新 的生成器, 重新执行生成训练样本的步骤, 以对 鉴别器进行下一次迭代训练。 本发 明提出由鉴别 器森林和一个生成器组成的生 成对抗网络模型, 能够通过鉴别器数量的增加, 降低泛化误差上 界, 提高生成样本的质量和多样性, 增强模型的 隐私保护能力。 权利要求书2页 说明书12页 附图5页 CN 115329938 A 2022.11.11 CN 115329938 A 1.一种基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征在于, 所述方法包 括: 构建由一个生成器和鉴别器森林组成的生成对抗网络模型; 生成训练样本, 基于所述训练样本对所述鉴别器森林中的每个鉴别器分别进行训练, 得到训练过的鉴别器森林; 通过所述生成器得到第 一生成样本, 将所述第 一生成样本输入到所述训练过的鉴别器 森林中的每 个鉴别器中, 得到所述 鉴别器的损失值; 根据所述鉴别器的损失值得到训练梯度, 根据所述训练梯度更新所述生成器的训练参 数, 并以最小化的方式对所述 生成器进行训练, 得到更新的生成器; 基于所述更新的生成器, 重新执行所述生成训练样本的步骤, 以对所述鉴别器进行下 一次迭代训练, 直到 完成迭代次数为止 。 2.根据权利要求1所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征 在于, 所述构建由一个生成器和鉴别器森林组成的生成对抗网络模型之前, 包括: 构建所述生成器的神经网络结构, 在卷积层和卷积层之间采用批量归一化进行归一化 处理, 并采用泄 露的修正线性单 元进行激活; 为所有鉴别器构建相同的神经网络结构, 在每个鉴别器的卷积层和卷积层之间采用批 量归一化进行归一 化处理, 并采用泄 露的修正线性单 元进行激活。 3.根据权利要求1所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征 在于, 所述生成训练样本, 基于所述训练样本对所述鉴别器森林中的每个鉴别器分别进行 训练, 得到训练过的鉴别器森林, 包括: 获取真实样本, 并根据所述真实样本构 建原始样本集, 通过Bootstrap采样方法进行随 机有放回地采样, 得到与若干鉴别器一 一对应的若干训练数据集; 将随机采样的128维的高斯噪声数据输入所述 生成器, 得到第二 生成样本; 根据所述训练数据集中的真实样本和所述第二生成样本为每个鉴别器分别生成独立 的训练样本; 基于所述训练样本, 针对每一个鉴别器分别利用Adam优化器, 采用交叉熵损失函数以 最大化的方式进行训练, 得到所述训练过的鉴别器森林。 4.根据权利要求1所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征 在于, 所述通过所述生成器得到第一生成样本, 将所述第一生成样本输入到所述训练过 的 鉴别器森林中的每 个鉴别器中, 得到每 个鉴别器的损失值, 包括: 设定高斯分布, 从所述高斯分布上随机采样128维数据作为所述生成器的输入, 得到所 述第一生成样本; 其中, 所述第一 生成样本带有生成标签; 将所述第一生成样本输入到所述每个鉴别器, 采用交叉熵损失函数得到所述鉴别器的 损失值。 5.根据权利要求4所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征 在于, 所述 根据所述 鉴别器的损失值得到训练梯度, 包括: 将全部鉴别器的损失值进行均值汇总, 得到均值汇总损失值; 根据所述均值汇总损失值计算所述训练梯度。 6.根据权利要求4所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征权 利 要 求 书 1/2 页 2 CN 115329938 A 2在于, 所述 根据所述 鉴别器的损失值得到训练梯度, 包括: 将全部鉴别器的损失值进行加权汇总, 得到加权汇总损失值; 根据所述加权汇总损失值计算所述训练梯度。 7.根据权利要求1所述的基于鉴别器森林提高生成对抗网络泛化能力的方法, 其特征 在于, 所述方法还 包括: 设置所述 生成器和所述 鉴别器森林在一次迭代训练中的训练次数比例为1: 1。 8.一种基于鉴别器森林提高生成对抗网络泛化能力的装置, 其特征在于, 所述装置包 括: 生成对抗网络模型构建模块, 用于构建由一个生成器和鉴别器森林组成的生成对抗网 络模型; 鉴别器训练模块, 用于生成训练样本, 基于所述训练样本对所述鉴别器森林中的每个 鉴别器分别进行训练, 得到训练过的鉴别器森林; 损失值获取模块, 用于通过所述生成器得到第一生成样本, 将所述第一生成样本输入 到所述训练过的鉴别器森林中的每 个鉴别器中, 得到所述 鉴别器的损失值; 生成器训练模块, 用于根据所述鉴别器的损 失值得到训练梯度, 根据所述训练梯度更 新所述生成器的训练参数, 并以最小化的方式对所述 生成器进行训练, 得到更新的生成器; 更新迭代模块, 用于基于所述更新的生成器, 重新执行鉴别器训练模块中的内容, 以对 所述鉴别器进行 下一次迭代训练, 直到 完成迭代次数为止 。 9.一种智能终端, 其特征在于, 所述智能终端包括存储器、 处理器及存储在所述存储器 中并可在所述处理器上运行的基于鉴别器森林提高生成对抗网络泛化能力程序, 所述处理 器执行所述基于鉴别器森林提高生成对抗网络泛化能力程序时, 实现如权利要求1 ‑7任一 项所述的基于鉴别器森林提高生成对抗网络泛化能力的方法的步骤。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质上存储有基于鉴 别器森林提高生成对抗网络泛化能力程序, 所述基于鉴别器森林提高生成对抗网络泛化能 力程序被处理器执行时, 实现如权利要求1 ‑7任一项所述的基于鉴别器森林提高生成对抗 网络泛化能力的方法的步骤。权 利 要 求 书 2/2 页 3 CN 115329938 A 3

.PDF文档 专利 一种基于鉴别器森林提高生成对抗网络泛化能力的方法

文档预览
中文文档 20 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共20页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于鉴别器森林提高生成对抗网络泛化能力的方法 第 1 页 专利 一种基于鉴别器森林提高生成对抗网络泛化能力的方法 第 2 页 专利 一种基于鉴别器森林提高生成对抗网络泛化能力的方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:01:06上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。