iso file download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210885844.3 (22)申请日 2022.07.26 (71)申请人 北京有竹居网络技 术有限公司 地址 101299 北京市平谷区林荫北街13号 信息大厦802室 (72)发明人 林雨 安哲成 吴培昊 马泽君  (74)专利代理 机构 北京英创嘉友知识产权代理 事务所(普通 合伙) 11447 专利代理师 温易娜 (51)Int.Cl. G06F 40/253(2020.01) G06F 40/216(2020.01) G06F 40/30(2020.01) (54)发明名称 文本词替换方法、 装置、 存储介质及电子设 备 (57)摘要 本公开涉及一种文本词替换方法、 装置、 存 储介质及电子设备, 在生成替换词时, 能够考虑 词的语义信息, 使得替换词更符合上下文语境, 保证替换前后语义一致。 该方法包括: 确定初始 文本句中待替换的文本词, 以及 待替换的文本词 在初始文本句中的目标位置; 将包括目标位置的 初始文本句输入替换词生 成模型, 得到替换词生 成模型输出的替换词生成结果, 其中, 替换词生 成模型是基于标注有语义信息的单词样本训练 得到的, 语义信息包括单词的释义, 以及单词在 释义下的例句, 替换词生 成结果包括待替换的文 本词对应的多个替换词, 以及 多个替换词对应的 概率分布; 根据替换词生成结果, 确定目标替换 词; 用目标替换词替换待替换的文本词。 权利要求书2页 说明书14页 附图3页 CN 115146623 A 2022.10.04 CN 115146623 A 1.一种文本词替换 方法, 其特 征在于, 包括: 确定初始文本句中待替换的文本词, 以及所述待替换的文本词在所述初始文本句中的 目标位置; 将包括所述目标位置的初始文本句输入替换词生成模型, 得到所述替换词生成模型输 出的替换词生成结果, 其中, 所述替换词生成模型是基于标注有语义信息的单词样本训练 得到的, 所述语义信息包括单词的释义, 以及所述单词在所述释义下的例句, 所述替换词生 成结果包括所述待替换的文本词对应的多个替换词, 以及所述多个替换词对应的概率分 布; 根据所述 替换词生成结果, 确定目标替换词; 用所述目标替换词替换 所述待替换的文本词。 2.根据权利要求1所述的方法, 其特征在于, 所述替换词生成模型包括释义编码器和上 下文编码器, 所述 替换词生成模型的训练包括: 通过所述释义编码器将所述单词样本中的每一单词的释义编码为向量表征; 通过所述上下文编码器针对所述单词样本中每一单词对应的例句, 将所述例句中除所 述单词外的其 他单词编码为所述单词的上 下文表征; 所述上下文编码器 基于所述上 下文表征输出替换词生成结果; 至少根据所述上下文表征与所述向量表征之间的语义相似度更新所述释义编码器的 参数与所述上 下文编码器的参数。 3.根据权利要求2所述的方法, 其特征在于, 所述释义编码器的初始参数和所述上下文 编码器的初始参数 是根据基于无 标签的单词样本训练的预设语言模型确定的。 4.根据权利要求1所述的方法, 其特征在于, 所述根据所述替换词生成结果, 确定目标 替换词, 包括: 删除所述 替换词生成结果中的以下至少一种替换词, 得到目标替换词集 合: 与所述待替换的文本词相同的替换词、 与所述待替换的文本词原形相同的替换词、 与 所述待替换的文本词成分不同的替换词、 带有敏感词汇的替换词以及语法错 误的替换词。 5.根据权利要求4所述的方法, 其特征在于, 所述根据所述替换词生成结果, 确定目标 替换词, 包括: 用所述目标替换词集 合中的替换词替换 所述待替换的文本词, 得到多个替换句; 计算每一 替换句与所述初始文本句间的语义相似度, 得到多个 语义相似度值; 根据所述多个语义相似度值以及所述目标替换词集合中替换词的概率分布, 确定所述 目标替换词集 合中每一 替换词的评分结果; 根据所述每一 替换词的评分结果, 确定所述目标替换词。 6.根据权利要求1所述的方法, 其特征在于, 所述用所述目标替换词替换所述待替换的 文本词, 包括: 根据预设规则, 将所述目标替换词进行 形态变化, 得到形态变化后的目标替换词; 用所述形态变化后的目标替换词替换 所述待替换的文本词。 7.根据权利要求1所述的方法, 其特征在于, 所述确定初始文本句中待替换的文本词, 包括: 确定待替换的文本中每一单词的语义重要度;权 利 要 求 书 1/2 页 2 CN 115146623 A 2根据所述每一单词的语义重要度, 将所述待替换的文本中的单词进行排序; 根据排序结果确定所述待替换的文本词。 8.一种文本词替换装置, 其特 征在于, 包括: 第一确定模块, 用于确定初始文本句中待替换的文本词, 以及所述待替换的文本词在 所述初始文本句中的目标位置; 替换词生成模块, 用于将包括所述目标位置的初始文本句输入替换词生成模型, 得到 所述替换词生成模型输出 的替换词生成结果, 其中, 所述替换词生成模型是基于标注有语 义信息的单词样本训练得到的, 所述语义信息包括单词的释义, 以及所述单词在所述释义 下的例句, 所述替换词生成结果包括所述待替换 的文本词对应的多个替换词, 以及所述多 个替换词对应的概 率分布; 第二确定模块, 用于根据所述 替换词生成结果, 确定目标替换词; 替换模块, 用于用所述目标替换词替换 所述待替换的文本词。 9.一种计算机可读介质, 其上存储有计算机程序, 其特征在于, 该程序被处理装置执行 时实现权利要求1 ‑7中任一项所述方法的步骤。 10.一种电子设备, 其特 征在于, 包括: 存储装置, 其上存 储有至少一个 计算机程序; 至少一个处理装置, 用于执行所述存储装置中的所述至少一个计算机程序, 以实现权 利要求1‑7中任一项所述方法的步骤。权 利 要 求 书 2/2 页 3 CN 115146623 A 3

PDF文档 专利 文本词替换方法、装置、存储介质及电子设备

文档预览
中文文档 20 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共20页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 文本词替换方法、装置、存储介质及电子设备 第 1 页 专利 文本词替换方法、装置、存储介质及电子设备 第 2 页 专利 文本词替换方法、装置、存储介质及电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:14:28上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。