(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211128307.0 (22)申请日 2022.09.16 (71)申请人 中国人民解 放军国防科技大 学 地址 410003 湖南省长 沙市开福区德雅路 109号 (72)发明人 蔡飞　张伟康　刘诗贤　陈洪辉　 毛彦颖　刘登峰　王思远　李佩宏　 (74)专利代理 机构 北京风雅颂专利代理有限公 司 11403 专利代理师 曾志鹏 (51)Int.Cl. G06F 16/33(2019.01) G06F 16/332(2019.01) G06F 40/30(2020.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 基于双通道语义增强的多轮对话回复生成 方法及终端设备 (57)摘要 本发明公开了一种基于双通道语义增强的 多轮对话回复生成方法及终端设备， 方法包括获 取对话文本的初始词向量； 获取初始词向量的顺 序语义表 示， 包括获取初始词向量的话语级句子 语义向量， 根据话语级句子语义向量确定初始词 向量的对话级句子语义向量， 将对话级句子语义 向量记为顺序语义表示； 获取初始词向量在图域 上的图域语义表示； 根据顺序语义表 示和图域语 义表示， 对对话文本进行语义增强， 得到增强后 的语义表示； 根据增强后的语义表示， 生成回复 文本。 本发 明旨在融合不同结构建模中的语义优 势， 获得跨度更大的信息关联和语义推理。 本发 明模型在基准模 型上表现优异， 而且缓解了长距 离的语义依赖问题。 权利要求书3页 说明书21页 附图4页 CN 115495552 A 2022.12.20 CN 115495552 A 1.一种基于双通道语义增强的多轮对话回复生成方法， 其特 征是， 包括： 获取对话文本的初始词向量； 获取所述初始词向量的顺序语义表示， 包括获取所述初始词向量的话语级句子语义向 量， 根据所述话语级句 子语义向量确定所述初始词向量的对话级句 子语义向量， 将所述对 话级句子语义向量记为 顺序语义表示； 获取所述初始词向量在图域上的图域语义表示； 根据所述顺序语义表示和所述图域语义表示， 对所述对话文本进行语义增强， 得到增 强后的语义表示； 根据所述增强后的语义表示， 生成回复文本 。 2.如权利要求1所述的方法， 其特征是， 获取所述初始词向量的话语级句子语义向量， 具体包括： 将所述初始词向量依次输入句子层编码器和字词注意力模块， 得到话语级句子语义向 量； 根据所述话语级句子语义向量确定所述初始词向量的对话级句子语义向量， 具体包 括： 将所述话语级句子语义向量依次输入上下文编码器和句子注意力模块， 得到对话级句 子语义向量； 所述句子层编码器和所述上 下文编码器均为双向门控神经网络； 所述字词注意力模块和所述句子注意力模块中使用的机制均为注意力机制。 3.如权利要求1所述的方法， 其特征是， 获取所述初始词向量在图域上的图域语义表 示， 具体包括： 获取所述初始词向量的主题关键词， 根据所述主题关键词确定异构认知图的节点， 所 述节点包括主题 ‑句子簇节点、 对话 查询节点和普通节点； 根据所述异构认知图的节点， 确定所述异构认知图的边及每条边的权重， 所述权重根 据所述初始词向量对应的对话文本中句子间主题重合 程度确定； 利用图神经网络学习所述异构认知图中所述节点的向量表示， 获得所述初始词向量在 图域上的图域语义表示。 4.如权利要求1所述的方法， 其特征是， 根据所述顺序语义表示和所述图域语义表示， 对所述对话文本进行语义增强， 具体包括： 根据第一公式对所述对话文本进行语义增强， 所述第一公式为： 式中， cfinal为所述增强后的语义表示， 为所述顺序语义表示， 为所述图域语 义表示， δ 为所述 顺序语义表示中的语义数量， (1 ‑δ )为所述图域语义表示中的语义数量。 5.如权利要求1 ‑4任一项所述的方法， 其特征是， 根据所述增强后的语义表示， 生成回 复文本， 具体包括： 将所述增强后的语义表示输入至单向门控神经网络 中， 获取生成回复文本 中每个词的 隐藏状态；权　利　要　求　书 1/3 页 2 CN 115495552 A 2根据所述隐藏状态， 确定每 个词的生成概 率， 根据所述 生成概率确定回复文本 。 6.如权利要求5所述的方法， 其特征是， 将所述增强后的语义表示输入至单向门控神经 网络中， 获取生成回复文本中每 个词的隐藏状态， 具体包括： 根据第二公式生成回复文本中每 个词的隐藏状态， 所述第二公式为： 式中， yi为训练阶段生成回复文本中的第i个词， yi‑1为训练阶段生成回复文本中的第i ‑ 1个词， 为yi的隐藏状态， GRU( ·)表示将其中的参数输入至门控神经网络中， 为yi‑1 的隐藏状态， cfinal为所述增强后的语义表示。 7.如权利要求5所述的方法， 其特征是， 根据 所述隐藏状态， 确定每个词的生成概率， 具 体包括： 根据第三公式确定每 个词的生成概 率， 所述第三公式为： 式中， 为预测阶段生成回复文本中的第i个词， 为 的生成概率， 和 分别为预测阶段主题关键词 词表和回复文本词表中第i个词 的生成概 率。 8.如权利要求7所述的方法， 其特征是， 所述 根据第四公式确定， 所述第四公式 为： 式中， η(·)是非线性函数tanh， V为回复文本词表， K为主题关键词词表， 为训练阶 段生成回复文本中第i个词yi的隐藏状态， yi‑1为训练阶段生 成回复文本中第i ‑1个词， cfinal 为所述增强后的语义表示， vocab表示变量 i。 9.如权利要求7所述的方法， 其特征是， 所述 根据第五公式确定， 所述第五公式 为： 式中， η(·)是非线性函数tanh， V为回复文本词表， K为主题关键词词表， 为训练阶 段生成回复文本中第i个词yi的隐藏状态， yi‑1为训练阶段生 成回复文本中第i ‑1个词， cfinal 为所述增强后的语义表示， vocab表示变量 i。 10.一种终端设备， 包括存储器、 处理器以及存储在所述存储器中并可在所述处理器上 运行的计算机程序， 其特征是， 所述处理器执行所述计算机程序时实现如权利要求1至9任权　利　要　求　书 2/3 页 3 CN 115495552 A 3