iso file download
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211197754.1 (22)申请日 2022.09.29 (71)申请人 语联网 (武汉) 信息技 术有限公司 地址 430000 湖北省武汉市武汉东湖新 技 术开发区高新大道999号未来科技城 B2栋 (72)发明人 邓乔波 (74)专利代理 机构 北京中北知识产权代理有限 公司 11253 专利代理师 李新昂 (51)Int.Cl. G06F 40/191(2020.01) G06F 40/289(2020.01) G06F 40/30(2020.01) G06K 9/62(2022.01)G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种换行符识别方法 (57)摘要 本发明公开了一种换行符识别方法, 包括采 用规则和语义模型相结合的方式进行换行符识 别, 利用基于规则的方法对换行符进行识别, 对 于利用规则可以判断的情况则直接返回结果; 利 用规则无法进行判断时, 利用语义模 型判断输出 结果。 本发明的有 益效果是: 提高了pdf转word的 准确率, 并节省了在处理错误换行符时的人工工 时, 并且提高文档质量, 保障了后期文档解析和 文档翻译的质量。 权利要求书2页 说明书5页 附图1页 CN 115455931 A 2022.12.09 CN 115455931 A 1.一种换行符识别方法, 其特征在于, 所述换行符识别方法采用规则和语义模型相结 合的方式进行 换行符识别, 其具体包括以下步骤: 步骤一、 利用规则对换行符识别, 对于利用规则能够判断的情况, 则直接返回结果, 其 中, 所述规则是指根据人们撰写word 的习惯来制定相关规则, 进而判断上下文 是否连续, 且 所述规则的换 行符识别所采用的规则设置有 若干个; 步骤二、 利用规则无法对换行符识别判断时, 则利用语义模型判断输出结果, 其中, 所 述语义模 型是指利用自然语言处理技术, 构建一个二分类模型, 对于每个换行符而言, 模型 的输入是该换行符之前的一段话和该换行符之后的一段话, 模型的输出则是要判断这两句 话是否连续, 如果连续则 删掉换行符, 如果 不连续则保留换 行符。 2.根据权利要求1所述的一种换行符识别方法, 其特征在于: 对换行符识别设定的所述 规则包括: ①上下文字体颜色不 一致判断为 不连续; ②上下文字体大小不 一致判断为 不连续; ③上下文字体 类型不一致判断为 不连续; ④上文末尾为顿号或冒号判断为连续; ⑤上文末尾为句号、 问号、 感叹号或省略号判断为 不连续; ⑥下文开头为无序列表符号时判断为 不连续; ⑦下文开头为有序列表符号时判断为 不连续; ⑧上文或者下文句子为居中格式判断为 不连续; ⑨上文句子太短, 判断为 不连续。 3.根据权利要求1所述的一种换行符识别方法, 其特征在于: 构建所述语义模型的方法 包括: ①训练数据集的构建, 首先搜集中文单语语料, 然后进行数据预处理, 最后训练集构 建; ②语义模型 搭建, 所述语义模型 搭建采用Bi lstm模型; ③语义模型训练, 所述语义模型训练将训练数据集分片处 理; ④语义模型预测, 手动整理多条训练数据集, 并分别进行预测, 以对模型线上的准确率 进行预测。 4.根据权利要求3所述的一种换行符识别方法, 其特征在于: 所述训练数据集构建中的 搜集中文单语 语料具体包括: 清华新闻分类语料: 数据 量: 74万篇新 闻; 文档类别 包括: 体育、 经、 房产、 家居、 教育、 科 技、 时尚、 时政、 游戏以及娱乐; 新闻数据: 包 含250万篇新闻, 新闻来源涵盖 6.3万个媒体; 微信公众号摘要数据: 从网络抓取的微信公众号的文章。 5.根据权利要求3所述的一种换行符识别方法, 其特征在于: 所述训练数据集构建的数 据预处理具体包括: 1)对文本进行分句处 理, 并保留句子的语序信息; 2)对于句子 长度过短, 过长以及包 含过多特殊字符的句子进行 过滤。 6.根据权利要求3所述的一种换行符识别方法, 其特征在于: 所述训练数据集构建的训权 利 要 求 书 1/2 页 2 CN 115455931 A 2练集构建具体包括: 正样本: 随机 选择两个相邻的句子构成正样本; 负样本: 随机选择一个句子, 中间任意位置插入换行符, 并且将其中一半的样本, 前后 分别加干扰句或者随机 裁剪进行数据增强。 7.根据权利要求3所述的一种换行符识别方法, 其特征在于: 所述语义模型搭建所采用 的Bilstm模型输出 结果时, 以中间时刻的输出作为模型最后输出 结果。权 利 要 求 书 2/2 页 3 CN 115455931 A 3
专利 一种换行符识别方法
文档预览
中文文档
9 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
赞助3元下载(无需注册)
温馨提示:本文档共9页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助3元下载
本文档由 SC 于
2024-03-03 12:13:43
上传分享
举报
下载
原文档
(386.9 KB)
分享
友情链接
GB-T 29455-2012 照明设施经济运行.pdf
GB-T 36630.3-2018 信息安全技术 信息技术产品安全可控评价指标 第3部分:操作系统.pdf
T-ZZB 2286—2021 锦纶低弹丝油剂.pdf
信通院 2023大模型落地应用案例集 --大模型测试验证与协同创新中心-2023.pdf
SY-T 0538-2021 管式加热炉规范.pdf
T-CVIA 02-2017 健康显示器件第2部分 显示器用低蓝光显示器件技术要求与测试方法.pdf
GB-T 39334.4-2020 机械产品制造过程数字化仿真 第4部分:数控加工过程仿真要求.pdf
DB52-T 705-2011 人工马尾松地径材积表 贵州省.pdf
思度安全-DSMM-002 岗位职责说明书V1.0.pdf
GB-T 19515-2023 道路车辆 可再利用率和可回收利用率 要求及计算方法.pdf
GB-T 33483-2016 党政机关电子公文系统运行维护规范.pdf
GB-T 22264.6-2009 安装式数字显示电测量仪表 第6部分:绝缘电阻表的特殊要求.pdf
DB31-T 753-2022 危险场所电气防爆安全检测作业规范 上海市.pdf
GB 16669-2010 二氧化碳灭火系统及部件通用技术条件.pdf
笫四次工业革命AIGC 3.pdf
T-JCCIA 004—2022 医疗行业数据中范心网络设备调试规.pdf
GB-T 24425.1-2009 普通型钢丝螺套.pdf
GB-T 36621-2018 智慧城市 信息技术运营指南.pdf
GB-T 36687-2018 保险术语.pdf
电信研究院 游耀东 DevSecOps在云网融合环境下的实践 2021.pdf
1
/
9
评价文档
赞助3元 点击下载(386.9 KB)
回到顶部
×
微信扫码支付
3
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。