iso file download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210995942.2 (22)申请日 2022.08.18 (71)申请人 贝壳找房 (北京) 科技有限公司 地址 100085 北京市海淀区西二 旗西路2号 院35号楼01层102-1 (72)发明人 魏林林 马宝昌  (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 谢志超 (51)Int.Cl. G06F 16/332(2019.01) G06F 16/35(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于自学习白化网络的人机交互方法及电 子设备 (57)摘要 本申请提供一种基于自学习白化网络的人 机交互方法及电子设备, 该方法包括: 获取用户 输入的待回复文本; 将所述待回复文本输入目标 模型, 所述目标模型从预设问答库中匹配出目标 匹配文本, 并输出与所述目标匹配文本对应的回 复文本; 其中, 所述目标模型包括: 基于自学习白 化网络层的文本分类模型; 所述自学习白化网络 层用于降低模型的训练过程与预测过程存在的 差异对模型预测能力的影 响; 所述训练过程与预 测过程存在的差异包括: 各向异性的训练过程与 各向同性的预测过程之间的差异。 本申请实施例 提供的基于自学习白化网络的人机交互方法, 用 于降低训练过程对训练样本的要求, 并训练处最 优模型。 权利要求书2页 说明书11页 附图3页 CN 115525743 A 2022.12.27 CN 115525743 A 1.一种基于自学习白化网络的人机交 互方法, 其特 征在于, 包括: 获取用户输入的待回复文本; 将所述待回复文本输入目标模型, 所述目标模型从预设问答库中匹配出目标匹配文 本, 并输出与所述目标匹配文本对应的回复文本; 其中, 所述目标模型包括: 基于自学习白化网络层的文本分类模型; 所述自学习白化网 络层用于降低模型的训练过程与预测过程存在的差异对模型预测能力的影响; 所述训练过 程与预测过程存在的差异包括: 各向异性的训练过程与各向同性的预测过程之间的差异。 2.根据权利要求1所述的方法, 其特征在于, 所述目标模型为按照以下步骤对所述文本 分类模型训练后得到: 获取目标样本; 将所述目标样本中的文本进行编码, 并将编码后得到的文本向量执 行白化变换操作; 基于变换后的文本向量计算交叉熵损失, 并通过反 向传播更新所述文本分类模型的模 型参数; 在满足预设条件后, 停止所述文本分类模型的训练, 得到所述目标模型。 3.根据权利要求2所述的方法, 其特征在于, 所述目标样本中的任一目标样本包括: 第 一文本和第二文本; 将所述目标样本中的文本进行编码, 并将编码后得到的文本向量执行白化变换操作, 包括: 通过对所述第一文本执行两次编码操作, 得到第一文本向量和第二文本向量; 所述第 一文本向量和所述第二文本向量 为不同的向量; 对所述第二文本执 行编码操作, 得到第三文本向量。 4.根据权利要求3所述的方法, 其特征在于, 所述将所述目标样本中的文本进行编码, 包括: 基于变换后的第一自学习参数以及变换后的第二自学习参数, 对所述第一文本向量、 所述第二文本 向量以及所述第三文本 向量分别执行白化变换操作, 得到第四文本 向量、 第 五文本向量以及第六文本向量。 5.根据权利要求4所述的方法, 其特征在于, 所述将所述目标样本 中的文本进行编码之 前, 所述方法还 包括: 初始化所述自学习白化网络层第一自学习参数以及第二自学习参数; 对所述第一自学习参数以及所述第 二自学习参数进行非线性变换操作, 得到所述变换 后的第一自学习参数以及所述变换后的第二自学习参数。 6.根据权利要求4所述的方法, 其特征在于, 所述基于变换后的文本向量计算交叉熵损 失, 并通过反向传播更新所述文本分类模型的模型参数, 包括: 分别计算所述第四文本向量、 所述第五文本向量以及第六文本向量对应的概率分布 值, 得到对应的第一 概率分布值、 第二 概率分布值以及第三 概率分布值; 基于所述第一概率分布值、 所述第二概率分布值以及所述第三概率分布值, 得到所述 第一文本对应的第一交叉熵损失值以及所述第二文本对应的第二交叉熵损失值; 将所述第一交叉熵损失值与所述第二交叉熵损失值加权求和后, 得到最终损失值; 其中, 所述第 一交叉熵损失值和所述第 二交叉熵损失值为基于所述目标样本的标签确权 利 要 求 书 1/2 页 2 CN 115525743 A 2定的。 7.根据权利要求6所述的方法, 其特征在于, 所述将所述第 一交叉熵损失值与 所述第二 交叉熵损失值加权求和后, 得到最终损失值之前, 所述方法还 包括: 初始化自学习率, 并通过激活函数对所述自学习率执 行非线性变换, 得到目标权 重; 所述将所述第一交叉熵损失值与所述第二交叉熵损失值加权求和后, 得到最终损失 值, 包括: 使用所述目标权重, 将所述第一交叉熵损 失值与所述第二交叉熵损 失值加权求和后, 得到所述 最终损失值。 8.一种电子设备, 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序, 其特征在于, 所述处理器执行所述程序时实现如权利要求1至7中任一项 所述基于自学习白化网络的人机交 互方法的步骤。 9.一种计算机程序产品, 包括计算机程序/指令, 其特征在于, 该计算机程序/指令被处 理器执行时实现权利要求1至7中任一项所述基于自学习白化网络的人机交 互方法的步骤。 10.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序 被处理器执行时实现如权利要求1至7中任一项所述基于自学习白化网络的人机交互方法 的步骤。权 利 要 求 书 2/2 页 3 CN 115525743 A 3

.PDF文档 专利 基于自学习白化网络的人机交互方法及电子设备

文档预览
中文文档 17 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于自学习白化网络的人机交互方法及电子设备 第 1 页 专利 基于自学习白化网络的人机交互方法及电子设备 第 2 页 专利 基于自学习白化网络的人机交互方法及电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 02:14:34上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。