文献总结思维脑图思维导图

U244706191

2024-03-15

浏览量: 2

图结构学习

图神经网络

特征增强

特征增强，传播结构特征，图神经网络等内容讲解

树图思维导图提供《文献总结思维脑图》在线思维导图免费制作，点击“编辑”按钮，可对《文献总结思维脑图》进行在线思维导图编辑，本思维导图属于思维导图模板主题，文件编号是：c45f5aa14e90d9d438423a0671e7527a

思维导图大纲

传播结构特征

融合用户传播倾向信息的超图网络谣言检测模型

关键技术

构建了一个推文传播树，以推文帖子为根节点，将转发用户作为叶子节点。对于用户节点，通过用户历史发布/转发的推文，使用预训练的BERT模型编码得到传播习惯的嵌入表示。然后基于推文之间相同的用户ID构建超图，利用多层双级多头注意力机制有效提取推文节点的高阶嵌入表示，然后进行推文的分类检测工作

创新点

1、针对推文节点的嵌入表达能力不强的问题，提出把用户的传播倾向纳入考虑的方法

2、根据用户ID构造超边形成能够反映推文交互关系的超图

局限

在获取融合用户传播倾向信息的推文嵌入表示时以及在构建超图的过程中时间复杂度较高

一种基于动态异构图的谣言检测模型

关键技术

构造了包含用户节点和帖子节点的异构传播图，根据用户转发（或评论）源帖的时间构建T个异构传播图快照，形成动态传播结构，通过旋转记忆单元(RUM)获得原帖的动态信息与文本语义表示拼接得到最终的特征表示，最后，使用一个全连接层和softmax层，得到帖子的预测标签y

创新点

将每个异构传播图快照视为一个静态异构传播图，引入HGN对异构传播图的节点和边进行建模，为不同类型的节点和边生成特定的表示

Parallel GAT : 网络谣言检测方法

关键技术

通过BiGAT模型使用注意力机制去计算每个节点与其邻居节点间的注意力权重，并据此传递信息

Ml- GAT模型先根据谣言文本从外部知识库中检索并筛选证据，再将证据与谣言拼接送入预训练模型BERT生成特征向量，并以特征向量为节点表示构建全连接图，然后利用句子级的注意力在图中传递节点的信息并更新节点的特征表示

创新点

结合基于谣言传播结构的方法和基于外部证据推理的方法，将两个图注意力网络模型 Bi GAT 和 Ml GAT的输出特征向量聚合生成最终谣言检测标签

基于图自监督对比学习的社交媒体谣言检测

关键技术

将谣言检测视为图结构数据的分类问题，建立图自监督对比学习的辅助任务 . 结合谣言特点提出三种图的扰动方式，将两个经过数据增强（可视为噪声扰动）的谣言传播图输入图编码器得到高层图表示，再通过判断两个扰动图是否来自同一原始图来建立自监督对比损失，将有监督任务和自监督对比任务联合训练，使图编码器捕获谣言更趋向本质的特征，缓解过拟合的负面影响

创新点

结合谣言传播的具体特点，设计了三种图级数据增强策略

移除边

移除节点

掩盖节点特征

子主题 3

Edge-enhanced Bayesian Graph Convolutional Networks for Rumor Detection

关键技术

定包括文本内容的输入样本及其传播结构，首先将传播结构制定为具有两个相反方向的有向图，即自上而下的传播图和自下而上的传播图色散图。文本内容由文本嵌入层嵌入。之后，通过两个主要组件（节点更新模块和边缘推理模块）迭代捕获丰富的结构特征。然后，聚合节点嵌入来生成图嵌入并输出索赔的标签。对于训练，通过未标记潜在关系的反向传播损失对贝叶斯进行无监督一致性训练。最后，通过最小化无监督损失和监督损失的加权和来优化模型。

创新点

采用新颖的边缘增强贝叶斯图卷积网络（EBGCN）来以概率方式处理不确定性

设计了一个新的边缘一致性训练框架，以优化具有未标记潜在关系的模型

Rumor detection on social media with bi-directional graph convolutional networks

关键技术

基于转发和响应关系，构建了谣言事件的传播结构，计算高层节点表示在DropEdge操作之后，分别通过TD-GCN和BU-GCN获得自上而下的传播特征和自下而上的传播特征，然后对根节点进行特征增强

创新点

提出Bi-GCN模型不仅考虑了谣言沿着自上而下的关系链传播的因果特征，而且通过自下而上的聚集获得了社区内谣言传播的结构特征

在每个图卷积层将源帖子的特征与其他帖子的特征连接起来，以综合利用根特征的信息，在谣言检测中取得优异的性能

Deep spatial–temporal structure learning for rumor detection on Twitter

关键技术

将空间结构和时间结构视为一个整体来对消息传播进行建模。具体来说，所提出的 STS-NN 模型首先将消息传播视为按时间顺序排列的消息序列，然后为序列中的每个消息应用 STS-NN 单元。所有STS-NN单元都是参数共享的，由三个组件组成，包括空间捕获器、时间捕获器和积分器，以捕获每条消息的时空信息。整个STSNN模型可以看作是循环神经网络的增强版，每个STS-NN单元不仅捕获时间结构，还捕获空间结构。最后，STS-NN 单元使用另一个 softmax 函数来预测消息传播的类别作为输出

创新点

发现消息传播可以通过其时空结构（更细粒度的视角）进一步区分。提出了一个时空结构神经网络（STS-NN）来对谣言检测的消息传播进行建模，其中每个 STS-NN 单元将空间结构和时间结构视为一个整体来进行特征表示

图神经网络

基于可解释图神经网络模型的谣言识别研究

创新点

提出可解释图神经网络谣言识别模型，对谣言进行精准识别的同时，还能够结合图神经网络解释器对谣言传播机理进行分析

综合全局和案例分析得出谣言的拓扑结构特征和节点特征，并基于发现提出谣言治理的策略建议

关键技术

在运用残差图卷积神经网络模型进行谣言识别的基础上，进一步训练基于掩码学习的图神经网络解释器，不仅将谣言传播网络结构特征纳入识别模型，而且从传播网络结构和传播节点属性两个视角对图神经网络模型自动生成解释

一种融合知识图谱的图注意力神经网络谣言实时检测方法

创新点

通过知识蒸馏从外部知识图谱中获取相关的背景知识，作为节点补充到图结构中以补充短文本的语义表示

融合用户和内容统计特征可以辅助文本语义特征做决策

关键技术

首先，通过知识蒸馏从外部知识图谱中获取文本内容的背景知识；其次，通过点互信息把文本和背景知识转化为加权图结构表示，利用一种考虑边权重的图注意力神经网络从加权图中学习文本的非连续语义特征；然后，通过预训练语言模型BERT学习文本的连续语义特征，利用嵌入方法把用户和内容统计特征转化为连续向量表示；最后，把所有特征进行融合，输入全连接神经网络中进行谣言检测。

局限

没有融合帖子中可能附加的图片或视频信息，不能进行多模态融合的谣言检测

基于门控图神经网络的谣言检测模型

创新点

将节点特征表示和聚合后的邻居特征表示利用门控机制进行特征选择，减少邻居的噪声影响

利用传播结构中的根节点对当前节点的特征进行语义增强，融合谣言的局部结构和全局结构信息实现谣言检测。

关键技术

根据信息传播过程建模谣言的传播图和扩散图，基于门控图神经网络聚合邻居信息生成节点表示，利用门控机制去除邻居节点噪声，同时引入根节点语义增强方法提升表征节点的能力。此外，利用注意力机制融合局部结构和全局结构信息学习更加全面的谣言表示用于谣言检测任务

BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

关键技术

首先使用 BiLSTM对上下文进行编码，以捕获有关词序的上下文信息。然后，使用 BiLSTM 的隐藏状态来启动节点表示，并在依赖图上使用多层 GCN。接下来，将 GCN 每层的节点表示与 BERT 某些中间层的隐藏状态相结合，即用于 GCN 的邻域聚合。通过这种方式，BERT4GCN 可以将语法顺序特征与基于图的表示融合起来。此外，在 BERT的Transformer编码器中根据自注意力权重进一步修剪和添加依赖图的边缘，以处理解析错误，使依赖图更好地适应 ABSC 任务。

创新点

提出BERT4GCN 模型，它自然地结合了 BERT 中间层的语法顺序特征和句法知识来增强 GCN，从而可以为下游情感分类任务产生更好的编码。充分利用 BERT 中隐藏的语言知识，而无需从头开始学习其他来源

特征增强

基于边推断增强对比学习的社交媒体谣言检测模型

关键技术

修改图的边权重值，以获取谣言传播结构的不确定性，相当于在某种程度上增加了噪声数据，可以提高模型的鲁棒性，从节点级和整图级两个角度，利用对比学习将训练数据集中输入事件图表示和增强事件传播图表示之间的互信息最大化，以提升模型的泛化能力

创新点

通过对图邻接矩阵值的自适应调整，实现对图的原边关系权重值的调整，从而弥补以往谣言传播结构不确定性造成的损失

局限

只有在标记数据较少的情况才能凸显优势

基于异构图注意力网络的微博谣言监测模型

关键技术

采用含有节点级注意力和语义级注意力的分层注意力机制。首先，节点级注意力结合微博节点的邻居生成两组具有特定语义的节点嵌入；然后，语义级注意力融合不同语义，得到最终的节点嵌入，然后对谣言进行分类

创新点

通过微博的传播网络构建元路径（W1-U1-W2 ）和（W1-P1-U1-P2-W2 ）；然后利用自注意力机制学习微博节点基于元路径的邻居的重要性。

基于图卷积网络的多特征融合谣言检测方法

创新点

基于传播结构和传播用户构建传播图，利用多个图卷积网络学习在不同用户属性组合的情况下传播图的表达。融合了原文本特征、传播结构特征和传播用户特征，获得了较好的谣言检测效果

关键技术

首先,基于传播结构构建传播树;其次,提取多个用户属性特征并筛选出多个用户属性特征的组合作为传播节点的特征, 组成传播图;接着,利用多个图卷积网络学习在不同用户属性特征组合的情况下传播图的特征表达;最后,利用BERT模型学习原文本内容特征,最终与图卷积网络学习的特征融合起来检测谣言。

基于co-attention 的微博谣言检测研究

创新点

利用协同注意力机制学习原帖子内容和评论，抽取更深层次的文本特征表示，来挖掘源帖内容与相关评论之间的相关性

将表情符号进行情感类别分析，作为谣言检测的部分依据

关键技术

首先分别对源文本和对应的评论内容进行向量表示，然后通过协同注意力机制突出源帖子和评论中的关键词，提取文本特征之间的关联性。最终将处理好的文本特征表示和基于表情符号的情感特征融合，送入 softmax分类器中对信息进行检测，判断其是否是谣言

基于多级融合的多模态谣言检测模型

关键技术

首先,分别利用文本卷积神就网络和深度残差网络对文本内容和图片内容进行编码，构建 Textual 模型和 Visual 模型然后将两者的语义映射进行特征级的融合，得到深度特征级融合模型FFM,其可以挖掘不同模态信息间的非线性关系,在剔除多模态间冗余信息的同时学习互补信息;最后,将3个模型的各自决策输入改进后的决策级融合层得到最终的决策结果

创新点

采用一种改进后的后期融合方案,对于不同的模态信息缺失情况采用不同的决策级策略

提出了结合特征级融合与改进后的决策融合的多模态谣言检测模型

基于分层语义特征学习模型的微博谣言事件检测

关键技术

首先，基于预训练模型抽取事件中单条文本信息的语义特征；其次，基于时间域对事件传播数据进行动态划分，利用卷积神经网络挖掘各时间域中的文本集合的语义相关性特征；然后，把各时间域内的语义相关性特征输入深层双向门控循环神经网络，学习事件传播过程中的深层语义时序特征；最后，融合机制使模型更加关注于语义时序特征中具有谣言特征的部分

创新点

提取了多个语义特征，包括单文本语义特征，语义相关性特征和语义时序性特征

局限

需要一定数量的转发评论信息，事件热度不够时检测效果不突出

基于用户传播网络与消息内容融合的谣言检测模型

关键技术

首先以用户属性为节点、传播链为边构建用户传播网络，并引入图注意力网络（ GAT ）得到用户属性的增强表示；同时，基于此用户传播网络，利用node2vec 得到用户的结构征，并使用互注意机制对其进行增强。另外，引入BERT 建立源帖内容表征。最后，利用多模态门控单元（ GMU ）对用户属性表征、结构表征和源帖内容表征进行融合，从而得到消息的最终表征

创新点

融合传播链中的用户属性信息和消息内容进行谣言检测，避免了信息传播结构计算中空转发带来的信息缺失问题

融合源信息和门控图神经网络的谣言检测研究

关键技术

首先，利用社交网络中帖子的转发关系构造转发图，然后提出了一种融合门控的图卷积网络模块用于捕获转发图中的各节点之间的结构信息，融合门控的目的是对图卷积之前的特征表示和之后的特征表示进行选择与组合，以得到更加可靠的表示．并且在源帖对应节点的原始表征和通过融合门控的图卷积网络模块之后得到的表示之间进行选择与组合，将选择后的结果与每个节点的表征拼接．最后将所有节点表征取平均用于分类

创新点

使用２个融合门控的图卷积网络模块来聚合邻居节点信息生成节点的表示，对图卷积之前的特征表示和之后的特征表示进行选择与组合，以得到更加可靠的表示

引入多头自注意力模块来建模任意帖子之间的多角度影响

图结构学习

Text Level Graph Neural Network for Text Classificatio

关键技术

为语料库构建异构图，图中的节点表示单词和文档等文本单元，而边是根据节点之间的语义相似性构建的，节点嵌入使用预训练的 BERT 表示进行初始化，并使用图卷积网络（GCN）进行分类

创新点

联合训练 BERT 和 GCN 模块，以无监督的方式在大规模未标记语料库上进行训练

引入了一个存储所有文档嵌入的内存库，以将训练批量大小与小批量大小解耦

Rumor Detection on Social Media with Graph Structured Adversarial Learning

关键技术

定义了几种广泛使用的伪装策略，并自动学习在图上生成伪装。然后，从每个帖子的伪装图中提取结构表示。除了结构信息之外，还利用帖子内容来提取每个帖子的文本表示，并融合文本和结构表示以进行分类。这种具有伪装结构特征的分类损失将与另一个具有非伪装结构特征的标准分类损失相结合。为了优化这两个损失的总和，使用对抗性学习方法端到端地训练模型

创新点

提出了一个端到端框架，联合利用文本和结构信息进行检测

开发了一种图对抗性学习方法，鼓励模型在扰动的图结构下提供稳健的预测

Attention-Residual Network with CNN for Rumor Detection

关键技术

首先，提出了一种编码模型来最初学习上下文特征。该模型通过缩短元素位置之间的路径，将可变长度的字级序列编码为固定长度的事件级特征图。其次，建立了一个注意力残差框架来利用潜在的全局相关性。采用三种策略来微调注意力模型，然后将几个微调的注意力模型包装到残差网络中。第三，以滑动窗口方式应用一维 CNN 两次。第一次是从编码模型的输出中保留关键的局部信息，第二次是从注意力残差框架生成的全局特征中选择重要信息。最后，通过连接局部和全局特征图来获得准确的内容表示，并通过非线性全连接层和softmax层来实现

创新点

构建了一个与 CNN 相结合的注意力残差网络，以利用潜在的上下文特征进行谣言检测

提出了三种微调注意力机制模型来捕获远程依赖性。第一个将注意力模型与残差网络结合用于谣言检测的工作

Interpretable rumor detection in microblogs by attending to user interactions

关键技术

扁平化了树结构并按时间顺序排列所有推文。提出了一种后级注意力模型（PLAN），通过变压器网络中的多头注意力机制来模拟推文之间的长距离交互。利用模型中的注意力权重来提供模型预测背后的标记它允许通过自注意力机制在推文之间进行所有可能的成对交互。为了结合自注意力机制和树模型的优点，结合了结构信息并在后级执行结构感知自注意力（StA-PLAN）。最后，设计了一个结构感知分层令牌和后级注意力网络（StA-HiTPLAN）来学习每条推文更复杂的句子表示

创新点

利用模型中的注意力权重来提供模型预测背后的标记级和后级解释

Description based text classification with re-inforcement learning

关键技术

使用强化学习自动生成描述。描述可以以提取的方式生成，提取输入文本的子字符串并将其用作描述，或者以抽象的方式生成，使用生成模型生成一串标记并将其用作描述。该模型以端到端的方式进行训练，共同学习生成正确的类描述并向文本分配正确的类标签。我们能够在各种文本分类基准（包括单标签分类、多标签分类和多方面情感分析）上观察到与强大基线相比的显着性能提升。

创新点

提出了一种新的文本分类框架，其中每个类别标签都与类别描述相关联，描述和文本的串联被馈送到分类器，以决定是否应将当前标签分配给文本

精神症状思维导图