2024年08月23日:Text Generation Model Enhanced with Semantic Information in Aspect Category Sentiment Analysis

  • 主页 /
  • 通知公告 /
  • 通知公告

2024年08月23日:Text Generation Model Enhanced with Semantic Information in Aspect Category Sentiment Analysis

【报告内容】

汇报人:王嘉灿

汇报单位:福建理工大学

主题:《Text Generation Model Enhanced with Semantic Information in Aspect Category Sentiment Analysis》

1、Introduction

2、Method

3、Experiments

4、Conclusion

【报告总结】

1、待解决的问题

预训练与微调任务的差异:预训练模型和ACSA任务的目标并不完全一致,导致微调时效果可能受限。

新初始化的分类层与预训练模型之间的不一致性:新初始化的分类层可能无法充分利用预训练模型的知识,影响分类器的性能

2、相关创新方案

模型在seq2seq框架中集成了一个AMR图编码器,用于捕获目标词和意见词之间的关系,并将此语义信息用于ACSA。第一次尝试探索如何在ACSA中使用AMR。提出了两个正则化器,利用AMR对齐和信息熵来改进AMR图上的交叉注意机制。通过三个数据集的实验证明了提出的方法的有效性。

3、实验总结

模型在三个数据集上优于所有基线,这表明将语义信息纳入ACSA文本生成模型的必要性

模型的优势证明了利用AMR图来学习单词之间的关系是一种更好的捕获上下文信息的方法。模型通过预训练也优于BART生成,这一事实进一步支持了AMR的有效性。

Rest14-hard和MAMS数据集上的竞争结果表明,相同正则器和熵正则器在使模型能够集中在正确的方面相关节点上的有效性,这对于识别多个方面的极性至关重要。

4、未来工作

只能考虑单跳邻域。然而,在少数情况下,一个意见词和一个相关的方面词可以在k-hop附近。另一个限制是预训练的AMR解析器和AMR校准模型的错误会作为一个整体传播到模型中。

报告时间:2024082319:30

腾讯会议:371 3868 6615

点我下载本讨论课相关文献或PPT吧~(提取码:iipr)