当前位置:首页 > 论坛资源/教学资源/浏览文章

方班研讨厅—推荐系统的数据投毒攻击

时间:2020-04-26 来源:广州大学方班 0 【 字体: 打印 手机访问

题目:推荐系统的数据投毒攻击

报告人:彭铭锐

内容主要分为四个部分,第一部分是介绍推荐系统数据投毒攻击的背景,由此引出第二部分针对三种不同类型的协同过滤推荐算法不同的攻击手段,第三部分是数据投毒攻击实验和对这个领域有所了解之后的后续研究计划,最后一部分是总结。

推荐系统作为一种信息过滤系统,攻击者可以通过伪造用户资料的方法注入到推荐系统中来影响推荐结果的判定,这种攻击就叫做数据投毒攻击。

随着推荐算法的不断发展,简单的数据投毒攻击如托攻击方式逐渐无法适应越来越多样化的推荐算法,需要根据不同的推荐算法制定相应的攻击策略,协同过滤算法根据其特点可以分为三类,分别是基于近邻的推荐算法、基于矩阵分解的推荐算法和基于共同访问图的推荐算法,本次研讨厅首先分别介绍了这三种推荐算法,然后根据不同推荐算法的特点详细介绍了针对不同推荐算法的数据投毒攻击模型的构造方法。

数据投毒攻击的攻击手段,核心都是操纵用户,手段都是伪造用户画像,从防护的角度来说,可以通过分类算法识别出伪造用户与其相关联的行为。

老师建议:

①在介绍不同类型的投毒攻击时,要提前讲清楚是因为用户评分画像构造的不同而造成的区别,这样可以让听众理解起来更加方便;

②介绍不同推荐算法及其攻击时应该分点阐述,最好将推荐算法和攻击手段分成两段,因为攻击手段是在推荐算法之后的,这样才能分清主次,不会让听众产生误解。

相关资料:

[1]Chen L , Xu Y , Xie F , et al. Data Poisoning Attacks on Neighborhood-based Recommender Systems[J]. 2019.

[2]Li B , Wang Y , Singh A , et al. Data Poisoning Attacks on Factorization-Based Collaborative Filtering[J]. 2016.

[3]Guolei Yang, Neil Zhenqiang Gong, Ying Cai. Fake Co-visitation Injection Attacks to Recommender Systems[C]// Network and Distributed System Security Symposium. 2017.