当前位置:首页 > 论坛资源/教学资源/浏览文章

方班研讨厅—JSMA在RNN中的应用

时间:2020-03-24 来源:广州大学方班 0 【 字体: 打印 手机访问

2020年3月17日,第三十期方班学术研讨厅以线上形式成功举行。广州大学网络空间先进技术研究院名誉院长方滨兴院士、方班部分老师及方班二期全体同学参加了本次研讨厅。林学民、张彦春、周晓方等三位国外专家,参与并“现场”指导了三个教学班。

题目:JSMA在RNN中的应用

报告人:朱斌

本报告首先介绍了对抗样本的背景知识和当前比较常见的对抗样本生成算法;第二部分将JSMA算法分为计算前向导数,计算对抗性显著图,添加对抗性扰动来阐述;第三部分介绍了将JSMA应用于RNN上所采用的计算图展开方法;第四部分对实验进行分析,在平均长度71的文本中仅修改9个词即可达到100%的攻击成功率。

资料来源:

[1]Papernot N , Mcdaniel P , Swami A , et al. Crafting Adversarial Input Sequences for Recurrent Neural Networks[J]. 2016.