(19)国家知识产权局
(12)发明 专利
(10)授权公告 号
(45)授权公告日
(21)申请 号 202211148111.8
(22)申请日 2022.09.21
(65)同一申请的已公布的文献号
申请公布号 CN 115249015 A
(43)申请公布日 2022.10.28
(73)专利权人 中科雨辰科技有限公司
地址 100093 北京市海淀区清琴麓 苑170号
楼2层
(72)发明人 张正义 林方 傅晓航 李一
(74)专利代理 机构 北京锺维联合知识产权代理
有限公司 1 1579
专利代理师 安娜
(51)Int.Cl.
G06F 40/295(2020.01)
G06N 3/04(2006.01)G06N 3/08(2006.01)
G06F 16/33(2019.01)
G06F 16/35(2019.01)
G06F 40/211(2020.01)
G06F 40/216(2020.01)
G06K 9/62(2022.01)
审查员 张雯
(54)发明名称
基于篇章聚类和语句融合的标注一致性检
验方法及 介质
(57)摘要
本申请涉及电数字数据处理技术领域, 特别
是涉及基于篇章聚类和语句融合的标注一致性
检验方法及介质, 所述方法包括以下步骤: 获取
未标注语料库的c个簇 形成簇集合clu; 遍历clu,
得到cluj的edoj; 获取notj=(nod1, nod2,…,
nodm,…, nodE); 更新clu为nclu={nclu1,
nclu2,…, ncluj,…, ncluc}, ncluj为利用notj中
篇章替换cluj中对应篇章得到; 遍历nclu, 将
conm=numm/len(esem)追加到c on; 根据mean(con)
判断目标时间内的标注是否一致。 本发明实现了
对用户标注一 致性的检验。
权利要求书2页 说明书5页 附图1页
CN 115249015 B
2022.12.02
CN 115249015 B
1.一种基于篇 章聚类和语句融合的标注一 致性检验方法, 其特 征在于, 包括以下步骤:
S100, 获取未标注语料库的c个簇形成簇集合clu, clu ={clu1, clu2,…, cluj,…, cluc},
其中, cluj为第j个簇, j的取值范围为1到c, c为利用聚类模型得到的总簇数, c为正整数;
cluj=(docj,1, docj,2,…, docj,x,…, docj,A), 其中, docj,x为cluj中的第x篇篇章, x的取值范围
为1到A, A为cluj中篇章的总篇数, A为 正整数;
S200, 遍历 clu, 得到cluj的edoj, edoj为cluj中fx最大的篇章, fx为kwx在cluj中的关键词
覆盖率, k wx为docj,x的关键词的集 合;
S300, 遍历clu, 获取notj =(nod1, nod2,…, nodm,…, nodE), 其中, nodm为将esem插入到
odm后得到的篇章, odm为otdj中与esem最相似的篇章, otdj为cluj中除了edoj之外的其他篇
章, esem为edoj中的第m个 语句, m的取值范围为1到 E, E为edoj中的语句总数;
S400, 更新clu为nclu={nclu1, nclu2,…, ncluj,…, ncluc}, 其中, ncluj为利用notj中篇
章替换cluj中对应篇 章得到;
S500, 遍历nclu, 如果在目标时间段内esem在edoj和nodm中均被标注, 则将conm=numm/
len(esem)追加到con, conm为elam与olam的标注一致率, numm为elam与olam中对应标注内容
一样的位置 数, elam为esem在edoj中的标注结果, olam为esem在nodm中的标注结果, len( )为
求字符串长度函数; con=(con1, con2,…, conb,…, conB), conb为第b个被追加到con的标注一
致性率, b的取值范围为1到B, B为被追加到con的标注一致率的总数量, con的初始化为
Null;
S600, 根据mean(con)判断目标时间内的标注是否一致, mean( )为取均值函数, 表示对
con1, con2,…, conb,…, conB取平均值。
2.根据权利要求1所述的方法, 其特征在于, 步骤S300中, 确定esem插入到odm中具体位
置的方法包括:
S310, 获取simr, simr为encoding(esem)与encoding(odsr)的相似度, encoding(esem)为
对esem进行编码得到的向量, enc oding(odsr)为对odsr进行编码得到的向量, odsr为odm中第
r个语句, r的取值范围为1到 H, H为odm中语句总数;
S320, 获取pror, pror为esem适合作为odsr的下一个 语句出现的概 率;
S330, 将esem作为poir最大的odsr的下一个语句插入到odm中, poir为语句被插入权重,
poir=simr*pror。
3.根据权利要求2所述的方法, 其特 征在于, 步骤S320中, 获取pror的方法包括:
将encoding(odsr)和encoding(esem)拼接后输入至神经网络分类器, 得到pror; 所述神
经网络分类 器为未经激活函数激活的分类 器。
4.根据权利要求1所述的方法, 其特征在于, 步骤S400还包括: 遍历nclu, 更新nclu中各
篇章的标注顺序, 更新后edoj与notj中任意篇章之间的标注篇章间隔量大于等于intj, 且
notj中任意两不同篇 章之间的标注篇 章间隔量大于等于i ntj, intj为预设间隔值。
5.根据权利要求4所述的方法, 其特征在于, intj=floor(A/(e+1)), floor( )为向下取
整函数, e为 notj中篇章的总数。
6.根据权利要求1所述的方法, 其特征在于, 步骤S300中, 当esem中出现关键词时, 确定
odm的方法包括:权 利 要 求 书 1/2 页
2
CN 115249015 B
2将otdj中fsp最大的篇章作为odm, fsp为esem在dop中的语句覆盖频次,
,
dop为otdj中第p篇篇章, p的取值范围为1到A ‑1, Gm为esem中关键词的个数, numh,p为esem中第
h个关键词在dop中出现的频次。
7.根据权利要求1所述的方法, 其特征在于, 步骤S300中, 当esem中没有出现关键词时,
确定odm的方法包括:
将simp最大的dop作为odm, simp为encoding(esem)与encoding(dop)的相似度, encoding
(esem)为对esem进行编码得到的向量, encoding(dop)为对dop进行编码得到的向量, dop为
otdj中第p篇篇章, p的取值范围为1到A ‑1。
8.根据权利要 求1所述的方法, 其特征在于, 步骤S2 00中,
,
kx为kwx中关键词的个数, numz,y为kwx中第y个关键词在docj,z中出现的频次, A>2。
9.根据权利要求1所述的方法, 其特 征在于, 步骤S10 0中, 获取clu的方法包括:
S110, 获取未标注语料库D =(doc1, doc2,…, doci,…, docd), 其中, doci为第i篇篇章, i的
取值范围为1到d, d为未 标注语料库中篇 章的总篇数, d为 正整数;
S120, 遍历D, 利用摘要生成模型得到doci的摘要sumi, 将sumi追加到sum, 得到sum=
(sum1, sum2,…, sumi,…, sumd), sum的初始化 为Null;
S130, 遍历sum, 利用文本编码模型得到sumi的向量enci, 将enci追加到enc, 得到enc=
(enc1, enc2,…, enci,…, encd), enc的初始化 为Null;
S140, 遍历enc, 利用聚类模型对enci进行聚类, 得到 clu。
10.一种非瞬时性计算机可读存储介质, 所述存储介质中存储有至少一条指令或至少
一段程序, 其特征在于, 所述至少一条指令或所述至少一段程序由处理器加载并执行以实
现如权利要求1 ‑9中任意一项的所述方法。权 利 要 求 书 2/2 页
3
CN 115249015 B
3
专利 基于篇章聚类和语句融合的标注一致性检验方法及介质
文档预览
中文文档
9 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共9页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 02:14:31上传分享