(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211134121.6 (22)申请日 2022.09.19 (71)申请人 广州云趣信息科技有限公司 地址 510665 广东省广州市天河区建工路4 号6楼 (72)发明人 邓文静　刘冬　陈茂强　 (74)专利代理 机构 北京博雅睿泉专利代理事务 所(特殊普通 合伙) 11442 专利代理师 马铁良 (51)Int.Cl. G06F 16/35(2019.01) G06Q 30/00(2012.01) G06F 40/284(2020.01) G06N 3/04(2006.01) (54)发明名称 注意力机制提取特征实现投诉责任认定的 方法、 装置 (57)摘要 本申请涉及投诉处理技术， 具体涉及注 意力 机制提取特征实现投诉责任认定的方法、 装置。 包括： 获取历史投诉数据中的特征信息和责任单 位信息， 通过预训练词向量模型对历史投诉数据 中的特征信息进行处理， 获得第一特征组矩阵， 通过基于注意力机制的特征提取算法对第一特 征组矩阵进行处理， 获得第二特征组矩阵， 第二 特征组矩 阵为第一特征组矩 阵进行加权后获得 的特征组矩阵， 根据第二特征 组矩阵和责任单位 信息， 训练第一分类模型， 获得第二分类模型， 将 目标投诉数据的特征信息输入第二分类模型， 通 过第二分类模型输出目标投诉数据的责任单位。 权利要求书2页 说明书8页 附图2页 CN 115221329 A 2022.10.21 CN 115221329 A 1.一种注意力机制提取 特征实现投诉责任认定的方法， 其特 征在于， 包括： 获取历史 投诉数据中的特 征信息和责任单位信息； 通过预训练词向量模型对所述历史投诉数据中的特征信 息进行处理， 获得第 一特征组 矩阵； 通过基于注意力 机制的特征提取算法对所述第 一特征组矩阵进行处理， 获得第 二特征 组矩阵， 所述第二特 征组矩阵为所述第一特 征组矩阵进行加权后获得的特 征组矩阵； 根据所述第二特征组矩阵和所述责任单位信息， 训练第一分类模型， 获得第二分类模 型； 将目标投诉数据的特征信 息输入所述第 二分类模型， 通过所述第 二分类模型输出所述 目标投诉数据的责任单位。 2.根据权利要求1所述的注意力 机制提取特征实现投诉责任认定的方法， 其特征在于， 所述特征信息包括投诉类型信息、 投诉内容信息和其他相关字段信息， 在所述通过预训练 词向量模型对所述历史投诉数据中的特征信息进行处理， 获得第一特征组矩阵之前， 所述 方法还包括： 对所述投诉类型信息、 投诉内容信息和其 他相关字段信息进行规范化处 理； 对所述责任单位信息进行文本数值 化处理。 3.根据权利要求1所述的注意力 机制提取特征实现投诉责任认定的方法， 其特征在于， 所述通过基于注意力机制的特征提取算法对所述第一特征组矩阵进行 处理， 获得第二特征 组矩阵， 包括： 将所述第一特征组矩阵输入所述基于注意力 机制的特征提取算法， 获取每一个特征向 量中的特 征值的平均值， 所述特 征向量为所述第一特 征组矩阵的特 征向量； 根据所述平均值， 计算所述特征向量在所述第一特征组矩阵中的权重， 并获取所述第 一特征组矩阵的权 重集合； 通过所述第 一特征组矩阵的权重集合对所述第 一特征组矩阵进行加权， 获得所述第 二 特征组矩阵。 4.根据权利要求3所述的注意力 机制提取特征实现投诉责任认定的方法， 其特征在于， 所述根据所述第二特征组矩阵和所述责任单位信息， 训练第一分类模型， 获得第二分类模 型， 包括： 将所述第二特征组矩阵与 所述责任单位信 息输入预激活层， 获得所述预激活层的残差 输出结果； 将所述预激活层残差 输出结果输入负采样层进行处 理， 直到序列长度等于1； 将所述负采样层的处理结果进行全局最大池化处理， 输出每个特征向量的最大值， 并 确定输出的特 征； 根据所述特 征训练softmax分类 器， 获得所述第二分类模型。 5.一种注意力机制提取 特征实现投诉责任认定的装置， 其特 征在于， 包括： 第一获取模块， 用于获取历史 投诉数据中的特 征信息和责任单位信息； 第一获得模块， 用于通过预训练词向量模型对所述历史投诉数据中的特征信 息进行处 理， 获得第一特 征组矩阵； 第二获得模块， 用于通过基于注意力 机制的特征提取算法对所述第 一特征组矩阵进行权　利　要　求　书 1/2 页 2 CN 115221329 A 2处理， 获得第二特征组矩阵， 所述第二特征组矩阵为所述第一特征组矩阵进行加权后 获得 的特征组矩阵； 第三获得模块， 用于根据所述第二特征组矩阵和所述责任单位信息， 训练第一分类模 型， 获得第二分类模型； 输出模块， 用于将目标投诉数据的特征信息输入所述第二分类模型， 通过所述第二分 类模型输出 所述目标投诉数据的责任单位。 6.根据权利要求5所述的装置， 其特征在于， 所述特征信息包括投诉类型信息、 投诉内 容信息和其他相关字段信息， 在所述通过预训练词向量模型对所述历史投诉数据中的特征 信息进行处 理， 获得第一特 征组矩阵之前， 所述装置包括： 预处理模块， 用于对所述投诉类型信息、 投诉内容信息和其他相关字段信息进行规范 化处理； 对所述责任单位信息进行文本数值 化处理。 7.根据权利要求5所述的装置， 其特 征在于， 所述第二获得模块具体用于： 将所述第一特征组矩阵输入所述基于注意力 机制的特征提取算法， 获取每一个特征向 量中的特 征值的平均值， 所述特 征向量为所述第一特 征组矩阵的特 征向量； 根据所述平均值， 计算所述特征向量在所述第一特征组矩阵中的权重， 并获取所述第 一特征组矩阵的权 重集合； 通过所述第 一特征组矩阵的权重集合对所述第 一特征组矩阵进行加权， 获得所述第 二 特征组矩阵。 8.根据权利要求7 所述的装置， 其特 征在于， 所述第三获得模块， 具体用于： 将所述第二特征组矩阵与 所述责任单位信 息输入预激活层， 获得所述预激活层的残差 输出结果； 将所述预激活层残差 输出结果输入负采样层进行处 理， 直到序列长度等于1； 将所述负采样层的处理结果进行全局最大池化处理， 输出每个特征向量的最大值， 并 确定输出的特 征； 根据所述特 征训练softmax分类 器， 获得所述第二分类模型。 9.一种电子设备， 其特征在于， 包括处理器和存储器， 所述存储器中存储有计算机指 令， 所述计算机指令被所述处 理器执行时实现权利要求1 ‑4任一项所述的方法的步骤。 10.一种存储介质， 其特征在于， 其上存储有计算机指令， 所述计算机指令被处理器执 行时实现权利要求1 ‑4任一项所述的方法的步骤。权　利　要　求　书 2/2 页 3 CN 115221329 A 3