(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211085132.X (22)申请日 2022.09.06 (71)申请人 东南大学 地址 210096 江苏省南京市玄武区四牌楼 2 号 (72)发明人 杨鹏　赵广振　查显宇　姚雨　 戈妍妍　 (74)专利代理 机构 南京众联专利代理有限公司 32206 专利代理师 杜静静 (51)Int.Cl. G06N 5/04(2006.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 20/00(2019.01)G06F 16/81(2019.01) (54)发明名称 一种基于图神经网络和强化学习的事实验 证方法 (57)摘要 本发明公开了一种基于图神经网络和强化 学习的事实验证方法， 能够验证语料库中陈述语 句和表格型数据中的事实是否相符， 基于 Transformer的图神经网络来模拟多步推理过 程， 步骤如下： 首先， 通过图神经网络将不同类型 的边编码为独立的向量， 并利用自注 意力机制对 提取的多粒度特征进行邻居信息聚合， 然后， 设 计一个监控节点， 根据强化学习的奖励反馈， 在 每个图神经网络层上选择合适的证据词， 通过对 多个图神经网络层的信息聚合， 监控节点可捕获 各种潜在的关键证据， 进行最终验证。 最后， 为了 更加有效地学习聚集的证据信息， 本发明利用 Transformer设计了能够更加充分利用表 格中证 据信息的多步推理框架， 提高事实验证模型的准 确性。 权利要求书2页 说明书5页 附图2页 CN 115511082 A 2022.12.23 CN 115511082 A 1.一种基于 图神经网络和强化学习的事实验证方法， 其特征在于， 所述方法包括以下 步骤： 步骤1： 获取表格文本表示； 步骤2： 图构建及节点初始化； 步骤3： 应用基于Transformer的图神经网络对图进行编码； 步骤4： 由强化学习驱动的节点选择； 步骤5： 进行二次更新以及模型的训练与测试。 2.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法， 其特征在 于， 步骤1： 获取表格文本表示， 具体如下： (1)该步骤首 先将陈述语句和表格内容 拼接， 并在头 部添加[CLS]标识符； (2)之后将长序列输入由MultiNLI语料库增强的预训练语言模型RoBERTa中获得有意 义的特征表示。 3.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法， 其特征在 于， 步骤2： 图构建及节点初始化， 具体如下： (1)提取陈述语句和目标表格之间的行、 列、 数字和单词的共现关系， 以及陈述的句法 依赖结构树， (2)当得到步骤1的标记表示Ei时， 下一步是 获取图的节点级表示， 因为一个图的节点包 含多个token， 为此， 在token表示之上应用一个BiLSTM模型， 然后使用一个MLP层来得到每 个节点的最终表示。 4.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法， 其特征在 于， 步骤3： 应用基于Transformer的图神经网络对图进行编码， 具体如下： (1)采用基于Transformer的图神经网络对图数据进行编码， 该数据能够将关系标签 (即边的类型id)转换为可区分的向量； (2)通过改进自注意力机制将边向量信息添加到计算query和key向量点积的过程中， 实现相邻节点信息聚合； (3)将多个头部自注意层连接起来， 从独立参数空间中获得的向量信息进行融合， 得到 更深层次的表示。 5.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法， 其特征在 于， 步骤4： 由强化学习驱动的节点选择， 具体如下： (1)在图中设计了一个监控节点并制定强化学习过程为监控节点选择有效的证据节 点， 该强化学习的Agent会在几个离散的时间步中与 环境进行交互， 基于强化学习的节 点选 择以每个节点的表示和邻接矩阵作为每 个状态的输入； (2)Agent应用一个策略网络来采样操作， 即确定是否选择了每个节点， 奖励将从行动 中获得， 然后优化策略网络， 在具体例 子中， 每个图推理层为一个步骤， 策略网络在每个步 骤中对监控节点进行节点选择； (3)采用强化学习算法对策略网络进行优化， 通过 策略梯度算法对参数进行 更新。 6.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法， 其特征在 于， 步骤5： 进行二次更新以及模型的训练与测试， 具体如下： (1)为了消除图节点的邻居数分布不均匀对节点信息聚合的影响， 该步骤引入了一个权　利　要　求　书 1/2 页 2 CN 115511082 A 2融合层来增强信息聚合； (2)应用一个si gmoid函数来自适应地为节点j分配一个权重； 然后， 计算邻 居信息以促 进信息聚合； 最后， 将邻居信息与节点信息融合； (3)最小化交叉熵损失L从而训练模型； (4)利用准确性和F1值指标对 模型进行测试与评价， 检验 模型的性能。权　利　要　求　书 2/2 页 3 CN 115511082 A 3