论文摘要
近年来,深度学习在计算机视觉领域表现出优异的性能,然而研究者们却发现深度学习系统并不具备良好的鲁棒性,对深度学习系统的输入添加少许的人类无法察觉的干扰就能导致深度学习模型失效,这些使模型失效的样本被研究者们称为对抗样本。我们提出迭代自编码器,一种全新的防御对抗样本方案,其原理是把远离流形的对抗样本推回到流形周围。我们先把输入送给迭代自编码器,然后将重构后的输出送给分类器分类。在正常样本上,经过迭代自编码器的样本分类准确率和正常样本分类准确率类似,不会显著降低深度学习模型的性能;对于对抗样本,我们的实验表明,即使使用最先进的攻击方案,我们的防御方案仍然拥有较高的分类准确率和较低的攻击成功率。
论文目录
文章来源
类型: 期刊论文
作者: 杨浚宇
关键词: 对抗样本,自编码器,深度学习,图像分类
来源: 信息安全学报 2019年06期
年度: 2019
分类: 信息科技
专业: 计算机软件及计算机应用,自动化技术
单位: 上海微系统与信息技术研究所,上海科技大学信息学院,中国科学院大学
分类号: TP309.7;TP18
DOI: 10.19363/J.cnki.cn10-1380/tn.2019.11.03
页码: 34-44
总页数: 11
文件大小: 1613K
下载量: 107