(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211186100.9 (22)申请日 2022.09.28 (71)申请人 吉林大学 地址 130012 吉林省长 春市前进大街269 9 号 (72)发明人 杨志伟　马晶　陈贺昌　林鸿展　 罗子洋　常毅　 (74)专利代理 机构 北京恒博知识产权代理有限 公司 11528 专利代理师 张晓芳 (51)Int.Cl. G06F 16/33(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 16/35(2019.01)G06F 40/211(2020.01) G06F 40/30(2020.01) G06K 9/62(2022.01) (54)发明名称 可解释的虚假文本检测方法、 装置、 存储介 质以及终端 (57)摘要 本申请公开了一种可解释的虚假文本检测 方法、 装置、 存储介质以及终端， 使用虚假文本检 测模型， 生成目标文本的目标文本嵌入表示， 以 及生成未处理原始文本的参考文本嵌入表示； 确 定目标文本的目标证据语句， 以及目标证据语句 的证据文本嵌入表示； 基于目标文本嵌入表示、 参考文本嵌入表示、 以及证据文本嵌入表示确定 目标文本的真实性检测结果， 并基于目标证据语 句解释真实性检测结果。 由于本申请基于原始的 参考文本对目标文本进行真实性检测， 减少检测 时对人工事实核查报告的依 赖， 且从参考文本中 确定出目标文本的真实性检测结果及其判断的 证据文本。 使得文本检测过程中减少对目标文本 的检测时延， 并且真实性检测结果具有可解释 性。 权利要求书2页 说明书17页 附图3页 CN 115269786 A 2022.11.01 CN 115269786 A 1.一种可解释的虚假文本检测方法， 其特征在于， 所述方法应用于虚假文本检测模型， 所述虚假文本检测模型至少包括文本编码器模块、 证据选择器模块以及预测模块， 所述方 法包括： 通过所述文本编码器模块， 生成目标文本的目标文本嵌入表示， 以及生成所述目标文 本对应的参考文本集中各参考文本的参考文本嵌入表示， 所述参考文本为与所述目标文本 具有相关性的未处 理原始文本； 通过所述证据选择器模块， 基于各参考文本嵌入表示确定所述目标文本对应的目标证 据语句， 以及所述目标证据语句的证据文本嵌入表示； 通过所述预测模块， 基于所述目标文本嵌入表示、 所述参考文本嵌入表示、 以及所述证 据文本嵌入表示确定目标文本的真实性检测结果， 并基于所述目标证据语句解释所述真实 性检测结果。 2.根据权利要求1所述的方法， 其特征在于， 所述基于各参考文本嵌入表示确定所述目 标文本对应的目标证据语句， 以及所述目标证据语句的证据文本嵌入表示， 包括： 基于各参考文本嵌入表示确定各参考文本中的目标参考文本的目标参考文本嵌入表 示， 所述目标参 考文本为包 含目标证据语句的参 考文本； 基于各目标参考文本嵌入表示确定各目标参考文本中所述目标文本对应的目标证据 语句， 以及抽取 所述目标证据语句的证据文本嵌入表示。 3.根据权利要求2所述的方法， 其特征在于， 所述基于各参考文本嵌入表示确定各参考 文本中的目标参 考文本的目标参 考文本嵌入表示， 包括： 基于各参 考文本嵌入表示计算各参 考文本的可靠性 排序； 根据各参考文本的可靠性排序确定各参考文本 中的至少一个目标参考文本， 以及从各 参考文本嵌入表示中抽取 各目标参 考文本的目标参 考文本嵌入表示。 4.根据权利要求2所述的方法， 其特征在于， 所述基于各目标参考文本嵌入表示确定各 目标参考文本中所述目标文本对应的目标证据语句， 以及抽取所述目标证据语句的证据文 本嵌入表示， 包括： 基于各目标参 考文本中各语句的预设类型语义特 征计算各语句的语义特 征值； 基于各语句的语义特征值以及预设语义特征阈值， 确定所述目标文本对应的目标证据 语句， 以及从各目标参 考文本嵌入表示中抽取 所述目标证据语句的证据文本嵌入表示。 5.根据权利要求4所述的方法， 其特征在于， 所述预设类型语义特征包括描述相关性、 信息丰富性、 显著 性、 非冗余性中的一种或者多种， 以及所述预设语义特征阈值基于所述目 标参考文本的数量计算得到 。 6.根据权利要求1所述的方法， 其特征在于， 所述生成目标文本的目标文本嵌入表示， 以及生成所述目标文本对应的参 考文本集中各参 考文本的参 考文本嵌入表示， 包括： 获取目标文本的目标词序列， 以及获取所述目标文本对应的参考文本集中各参考文本 的各参考词序列； 根据所述目标词序列生成所述目标文本的目标文本嵌入表示， 以及根据 各参考词序列 生成各参 考文本的参 考文本嵌入表示。 7.根据权利要求1所述的方法， 其特征在于， 所述虚假文本检测模型基于至少一个样本 目标文本、 各样本目标文本对应的样本参考文本集以及多任务损失函数训练得到， 所述多权　利　要　求　书 1/2 页 2 CN 115269786 A 2任务损失函数基于所述证据选择器模块的目标参考文本选择损失、 证据语句选择损失以及 所述预测模块的预测损失得到 。 8.根据权利要求7所述的方法， 其特征在于， 所述目标参考文本选择损失为所述证据选 择器模块针对所述样本目标文本抽取的样本目标参考文本与所述样本目标文本的标准目 标参考文本之 间的损失； 所述证据语句选择损失为所述证据选择器模块针对所述样本目标 文本抽取的样本证据语句与所述样本目标文本的标准证据语句之 间的损失； 所述预测损失 为所述预测模块针对所述样本目标文本得到的样本真实性检测结果与所述样本目标文本 的标准真实性检测结果之间的损失。 9.根据权利要求7所述的方法， 其特征在于， 所述多任务损 失函数为第一乘积、 第二乘 积以及第三乘积之和， 其中， 所述第一乘积为预设文本选择权重与所述 目标参考文本选择 损失的乘积， 所述第二乘积为预设语句 选择权重与所述证据语句 选择损失的乘积， 所述第 三乘积为预设预测权 重与所述预测损失的乘积。 10.一种可解释的虚假文本检测装置， 其特征在于， 应用于虚假文本检测模型， 所述装 置包括： 文本编码器模块， 用于生成目标文本的目标文本嵌入表示， 以及生成所述目标文本对 应的参考文本集中各参考文本的参考文本嵌入表 示， 所述参考文本为与所述目标文本具有 相关性的未处 理原始文本； 证据选择器模块， 用于基于各参考文本嵌入表示确定所述目标文本对应的目标证据语 句， 以及所述目标证据语句的证据文本嵌入表示； 预测模块， 用于基于所述目标文本嵌入表示、 所述参考文本嵌入表示、 以及所述证据文 本嵌入表示确定目标文本的真实性检测结果， 并基于所述目标证据语句解释所述真实性检 测结果。 11.一种计算机存储介质， 其特征在于， 所述计算机存储介质存储有多条指令， 所述指 令适于由处 理器加载并执 行如权利要求1~9任意一项的所述方法的步骤。 12.一种终端， 其特征在于， 包括存储器、 处理器及存储在存储器上并可在处理器上运 行的计算机程序， 所述处 理器执行所述程序时实现如权利要求1~9任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 115269786 A 3