2023年12月01日:GL-GIN: Fast and Accurate Non-Autoregressive Model for Joint Multiple Intent Detection and Slot Filling

  • 主页 /
  • 通知公告 /
  • 通知公告

2023年12月01日:GL-GIN: Fast and Accurate Non-Autoregressive Model for Joint Multiple Intent Detection and Slot Filling

【报告内容】

汇报人:王嘉灿

汇报单位:福建理工大学

主题:《GL-GIN: Fast and Accurate Non-Autoregressive Model for Joint Multiple Intent Detection and Slot Filling》

1、Introduction

2、Method

3、Experiments

4、Conclusion4、Conclusion

【报告总结】

1、待解决的问题描述

现有的多意图 SLU 联合模型严重依赖自回归方式,导致了两个问题:(1)缓慢的推理速度。自回归模型使得时隙输出的生成必须通过从左到右的传递来完成,这无法实现并行性,导致推理速度变慢。(2)信息泄露。自回归模型根据先前生成的槽信息(从左到右)预测每个单词槽,从而泄露双向上下文信息。

2、相关创新方案

本文探索了一种用于联合多意图检测和槽填充的非自回归框架,目的是加快推理速度,同时实现高精度。由于非自回归方式,提出了一种局部槽感知图交互层,其中每个槽隐藏状态相互连接以显式建模槽依赖,以缓解不协调的槽问题(例如,进一步引入了一个全局意图槽图交互层来执行句子级意图槽交互。与仅考虑令牌级意图槽交互的先前工作不同,全局图由具有多个意图的所有标记构建,实现并行生成槽序列并加快解码过程。

3、实验总结

在槽填充任务上,我们的框架在两个数据集上的 F1 分数上优于最佳基线 AGIF,这表明所提出的局部槽感知图成功地模拟了槽之间的依赖关系,从而提高了槽填充性能。(2)更重要的是,与 AGIF 相比,我们的框架在整体准确度上分别比 MixATIS 和 MixSNIPS 提高了 +2.7% 和 1.2%。我们将此归因于我们提出的全局意图-槽交互图可以更好地捕获意图和槽之间的相关性,从而提高 SLU 性能。

4、未来工作

本文虽然在多意图SLU上已经取得了较为不错的成绩,但是本文名为用于联合多意图检测和槽填充的快速准确的非自回归模型,却只有意图对槽的指导,缺乏槽对意图的反向指导,再加上这一块的指导后,性能应该会有一定的提升。

报告时间:2023年120119:30

腾讯会议:371 3868 6615

点我下载本讨论课相关文献或PPT吧~(提取码:iipr)