(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211070367.1 (22)申请日 2022.09.02 (71)申请人 哈尔滨工业大 学 （深圳） （哈尔滨工 业大学深圳科技创新研究院） 地址 518055 广东省深圳市南 山区桃源街 道深圳大 学城哈尔滨工业大 学校区 (72)发明人 廖清　汤思雨　柴合言　王晔　 高翠芸　方滨兴　 (74)专利代理 机构 广州三环 专利商标代理有限 公司 44202 专利代理师 江嘉玲 (51)Int.Cl. G06F 16/35(2019.01) G06F 16/36(2019.01) G06F 40/211(2020.01)G06F 40/242(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06F 17/16(2006.01) G06K 9/62(2022.01) (54)发明名称 一种基于图神经网络的情感分类方法 (57)摘要 本申请属于自然语 言处理技术领域， 公开了 一种基于图神经网络的情感分类方法。 通过利用 BERT编码器得到文本句的上下文表示； 基于句法 依赖树， 构建初始邻接矩阵； 使用Glove词向量模 型将初始邻接矩阵映射成初始化邻接矩阵表示； 构建根选择分数向量和初始化邻接矩 阵表示输 入到结构归纳器中， 获取潜在图以及语义图； 将 潜在图和语义图输入到图卷积神经网络中得到 潜在图表 示和语义图表示， 将其结合交互得到经 过语义信息增强的潜在图表示和与潜在图交互 后的语义图表 示； 进一步获取用于情感分析的特 征表示， 经过平均池化操作得到最终特征表示， 输入到图卷积网络的线性层， 得到文本句的情感 极性。 实现更好的关联方面词与意见词， 提高情 感分类的准确性。 权利要求书3页 说明书9页 附图1页 CN 115510226 A 2022.12.23 CN 115510226 A 1.一种基于图神经网络的情感分类方法， 其特 征在于， 所述方法包括： 将获取的文本句输入BERT编码器中， 得到所述文本句的上 下文表示； 基于文本句的句法依赖树， 构建所述文本句的初始邻接矩阵； 使用Glove词向量模型将所述初始邻接矩阵映射成非负的初始化邻接矩阵表示； 构建根选择分数向量， 将所述根选择分数向量和所述初始化邻 接矩阵表示输入到结构 归纳器中， 基于拉普拉斯变体矩阵来计算边际概率， 基于所述边际概率得到所述文本句的 归纳后的潜在图Glat以及基于多头注意力机制得到所述文本句的语义图Gsem； 将所述潜在图Glat和所述语义图Gsem输入到图神经网络中分别得到潜在图表示 和语 义图表示 结合所述潜在图表示 和所述语义图表示 得到经过语义信息增强的潜在 图表示Hg‑lat和与潜在图交 互后的语义图表示Hg‑sem； 基于所述语义信息增强的潜在图表示Hg‑lat和所述与潜在图交互后的语义图表示Hg‑sem， 通过设计掩码矩阵得到用于情感分析的特征表示， 将所述特征表示进 行平均池化操作得到 最终特征表示， 将所述最终特征表示输入到图神经网络的线性层， 得到所述文本句的方面 词的情感极性。 2.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述将获取的 文本句输入BERT编码器中的步骤 还包括： 将所述文本句与所述文本句的方面词结合， 并在其中加入第 一预设符号和第 二预设符 号， 得到所述文本句的方面对。 3.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述基于文本 句的句法依赖树， 构建所述文本句的初始邻接矩阵的步骤 包括： 将单词作为节点和句法依赖树中单词之间的依赖关系类型作为边， 构建所述文本句的 初始邻接矩阵Aij： 其中， rij表示文本句中第i个单词wi和第j个单词wj之间的依赖关系类型， i， j＝1...n， W1a表示线性映射层的权重， 表示softmax层的权重， 表示线性映射层的偏置， 表示 softmax层的偏置 。 4.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述构建根选 择分数向量表示 为： ri＝exp(Wrhi+br)， i＝1...n， 其中， Wr表示计算潜在结构根的神经 网络层的权重， br表示计算潜在结构根的神经 网络 的偏置， hi表示输入文本句中第i个词的上 下文特征。 5.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述拉普拉斯 变体矩阵表示 为： 边际概率表示为：权　利　要　求　书 1/3 页 2 CN 115510226 A 2其中， ri表示文本句中的第i个单词被选择为潜在结构根的概率分数， Pij表示第i个单 词与第j个单词之间的潜在依赖连接的边际概率， 表示拉普拉斯变体矩阵的对角线， 表示拉普拉斯变 体矩阵的第j行第i列。 6.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 在所述构建根 选择分数向量， 将所述根选择分数向量和所述初始化邻接矩阵表示输入到结构归纳器中， 基于拉普拉斯变 体矩阵来计算 边际概率的步骤中引入根细化策略， 具体公式为： 其中， 为第i个单词为结构根的概 率， pi∈{0， 1}表示第i个单词是否是方面词。 7.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述基于多头 注意力机制得到所述文本句的语义图Gsem的过程表示 为： 其中， K为多头自注意力机制的注意头数量， 对于自注意力Q＝K， 分别为 模型的可训练参数， Du为BERT编码器输出的向量维度， Gsem即为语义图。 8.根据权利要求1所述的基于图神经网络的情感分类方法， 其特征在于， 所述基于所述 语义信息增强的潜在图表示Hg‑lat和所述与潜在图交互后的语义图表示Hg‑sem， 通过设计掩 码矩阵得到用于情感分析的特征表示， 将所述特征表示进 行平均池化操作得到最 终特征表 示的步骤 包括： 通过注意力机制获取与语义相关的潜在表征表示z: 权　利　要　求　书 2/3 页 3 CN 115510226 A 3