iso file download
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210890104.9 (22)申请日 2022.07.27 (71)申请人 西安理工大 学 地址 710048 陕西省西安市碑林区金花 南 路5号 (72)发明人 魏嵬 李晓婉 张贝贝  (74)专利代理 机构 西安弘理专利事务所 61214 专利代理师 王奇 (51)Int.Cl. G06F 16/33(2019.01) G06F 16/335(2019.01) G06F 40/117(2020.01) G06F 40/211(2020.01) G06F 40/247(2020.01) G06F 40/30(2020.01) (54)发明名称 基于句法分析和同义词替换技术的数据平 衡化处理方法 (57)摘要 本发明公开一种基于句法分析和同义词替 换技术的数据平衡化处理方法, 包括以下步骤: 步骤1, 对语句样本进行数据解析, 清洗, 标记; 步 骤2, 在标记好的样本中确定少数类, 从少数类中 挑选代表样本; 步骤3, 对代表样本进行句法分 析, 抽取句法结构特征; 步骤4, 确定代表样本实 体, 构建候选集; 步骤5, 对于候选集中的每个代 表样本实体进行同义词挖掘, 并构建代表样本实 体与其同义词列表之间的映射关系; 步骤6, 根据 句法结构特征, 选择对应同义词列表中的词与代 表样本实体替换以生成新样本。 本发 明解决了机 器学习和深度学习中数据不平衡的问题。 权利要求书1页 说明书5页 附图1页 CN 115146034 A 2022.10.04 CN 115146034 A 1.基于句法分析和同义词替换技术的数据平衡化处理方法, 其特征在于, 包括以下步 骤: 步骤1, 对语句样本进行 数据解析, 清洗, 标记; 步骤2, 在标记好的样本中确定少数类, 从少数类中挑选代 表样本; 步骤3, 对代 表样本进行句法分析, 抽取句法结构特 征; 步骤4, 确定代 表样本实体, 构建候选集; 步骤5, 对于候选集中的每个代表样本实体进行同义词挖掘, 并构建代表样本实体与其 同义词列表之间的映射关系; 步骤6, 根据句法结构特征, 选择对应同义词列表中的词与代表样本实体替换以生成新 样本。 2.如权利要求1所述的基于句法分析和同义词替换技术的数据平衡化处理方法, 其特 征在于, 所述步骤2具体为: 在标记好的样本中统计各个类别的数量, 若两类在数量上 的比 例达到小于等于 6: 4时, 前者即为多数类, 后者即为少数类。 3.如权利要求1所述的基于句法分析和同义词替换技术的数据平衡化处理方法, 其特 征在于, 所述 步骤3中选用N LTK或者D DParser工具进行样本句法分析。 4.如权利要求1所述的基于句法分析和同义词替换技术的数据平衡化处理方法, 其特 征在于, 所述步骤5中采用同义词发现算法或WordNet同义词库工具进行同义词挖掘或查 询。 5.如权利要求1所述的基于句法分析和同义词替换技术的数据平衡化处理方法, 所述 步骤6的具体为: 确定代表样本实体在当前代表样本中的句法结构的成分与作用, 查询当前 代表样本实体映射的同义词列表, 选择与代表样本实体具有相同性质的同义词一一进 行替 换, 合成新的样本 。权 利 要 求 书 1/1 页 2 CN 115146034 A 2基于句法分析和同义词替换技术的数据平衡化处理 方法 技术领域 [0001]本发明属于自然语言处理技术领域, 涉及 一种基于句法分析和同义词替换技术的 数据平衡化处 理方法。 背景技术 [0002]不管自然语言处理还是图像处理等其他人工智能领域, 数据的重要性不言而喻 的。 数据的质量关乎整个模 型的训练 时间, 效率和精度。 质量较高的数据在简单模型上就能 取得较好的效果, 而质量较差的数据 投入再好的模型中也不能达到预期效果, 这就体现了 数据质量的重要性了。 而数据一开始很可能不是高质量数据, 那么如何将低质量数据变成 高质量数据, 这 就是数据预处 理的过程了 。 [0003]在数据预处理的时候有一类棘手的问题就是, 数据类别之间倾斜造成数据不平 衡。 传统的处理方法如过采样, 重采样, 下采样等采样方法, 修改模型的Loss函数, 让模 型将 更多的注意力放在少数类上, 使用数据增强等方法。 本发明将提供一种从数据角度出发, 结 合自然语言特性, 使用句法分析和同义词替换技术进行数据平衡化处理, 从而实现不同类 别的数据在数量上保持基本的平衡。 发明内容 [0004]本发明的目的是提供一种基于句 法分析和同义词替换技术的数据平衡化处理方 法, 解决了现有技 术中存在的句法分析和同义词替换技 术中样本数据不均衡的问题。 [0005]本发明所采用的技 术方案是: [0006]基于句法分析和同义词替换技 术的数据平衡化处 理方法, 包括以下步骤: [0007]步骤1, 对语句样本进行 数据解析, 清洗, 标记; [0008]步骤2, 在标记好的样本中确定少数类, 从少数类中挑选代 表样本; [0009]步骤3, 对代 表样本进行句法分析, 抽取句法结构特 征; [0010]步骤4, 确定代 表样本实体, 构建候选集; [0011]步骤5, 对于候选集中的每个代表样本 实体进行同义词挖掘, 并构建代表样本实体 与其同义词列表之间的映射关系; [0012]步骤6, 根据句法结构特征, 选择对应同义词列表中的词与代表样本 实体替换以生 成新样本 。 [0013]本发明的特点还在于: [0014]步骤2具体为: 在标记好的样本中统计各个类别的数量, 若两类在数量上的比例达 到小于等于 6: 4时, 前者即为多数类, 后者即为少数类。 [0015]步骤3中选用NLTK(Natural  Language  Toolkit)或者DDParser(Baidu   Dependency  Parser)工具进行样本句法分析。 [0016]步骤5中采用同义词发现算法或W ordNet同义词库工具进行同义词挖掘或查询。 [0017]步骤6的具体实施方式为: 确定代表样本实体在句法结构的成分, 选择对应同义词说 明 书 1/5 页 3 CN 115146034 A 3

PDF文档 专利 基于句法分析和同义词替换技术的数据平衡化处理方法

文档预览
中文文档 8 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共8页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于句法分析和同义词替换技术的数据平衡化处理方法 第 1 页 专利 基于句法分析和同义词替换技术的数据平衡化处理方法 第 2 页 专利 基于句法分析和同义词替换技术的数据平衡化处理方法 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:14:27上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。