NeuroAttack: Undermining Spiking Neural Networks Security through Externally Triggered Bit-Flips
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布!
arXiv:2005.08041v1 [cs.CR] 16 May 2020
Abstract
由于机器学习系统被证明是有效的,因此它被广泛应用于各种复杂的现实问题中。更具体地说,脉冲神经网络(SNN)是解决机器学习系统中精度、资源利用率和能效挑战的一种有前途的方法。虽然这些系统正在成为主流,但它们存在固有的安全性和可靠性问题。在这篇文章中,我们提出NeuroAttack,一种跨层攻击,通过利用低层的可靠性问题通过高层攻击来威胁SNN的完整性。特别是,我们通过精心制作的对抗输入噪声触发了一个基于错误注入的隐秘硬件后门。我们在深度神经网络(DNN)和SNN上的研究结果显示了对最先进的机器学习技术的严重完整性威胁。
Index Terms:机器学习,脉冲神经网络,可靠性,对抗攻击,错误注入攻击,深度神经网络,DNN,SNN,安全性,弹性,跨层。
I. INTRODUCTION
深度神经网络(DNN)对数值扰动和结构不精确具有很好的适应性[12, 27, 40, 44]。即使在攻击性剪枝[26]、量化[30]和其他压缩技术[10, 14]之后,也可以通过已建立的性能来证明这一点,这些技术显著减少了网络中的参数数量。然而,最近的研究[11, 16, 33, 34]表明,这些网络在特定位置容易受到精准比特翻转的影响。此外,称为对抗攻击的系统级威胁[9]已经显示出在DNN中诱导行为异常的有效能力。事实上,DNN很容易受到恶意输入的攻击,这些输入被修改后会产生错误的标签,而人类观察者无法检测到这些标签[13, 28]。在交通系统等安全关键应用中,对抗样本可能对公共安全构成不可忽视的威胁。因此,对抗样本的攻击和防御引起了科学界的极大关注。另一方面,由于机器学习的普遍存在,来自供应链的硬件木马等攻击成为DNN安全的威胁。在[24]中,作者使用SRAM或DRAM上的错误注入技术来改变存储器中的单个比特值或少数比特值,从而导致错误分类。
脉冲神经网络(SNN)提供了一种生物学合理的DNN替代方案,因为神经元模型以及神经元之间基于事件的通信模型类似于目前对人脑功能的理解。与DNN相比,SNN对于对抗攻击的反应不同[29]。此外,由于SNN的异步且基于脉冲的传播,当部署在硬件中时,SNN自然比DNN更节能,如Intel Loihi[7]和IBM TrueNorth[31]等神经形态芯片所示。
为此,本文的重点是提出一种新的威胁DNN和SNN完整性的攻击向量。我们提出了一种针对神经网络的跨层攻击,将电路级的漏洞转化为系统级的安全漏洞。我们通过一个使用精准对抗攻击触发的硬件木马,利用神经网络突触权重中的内存比特翻转。
据我们所知,这是针对SNN的第一次端到端攻击,它通过高级输入模式利用了电路级后门。
总而言之,本文的贡献如下:
- 我们分析了SNN对错误的恢复能力。
- 我们提出了一种通过对抗输入模式远程触发比特翻转攻击的方法。
- 我们介绍了NeuroAttack,它是由输入噪声触发的硬件木马。 我们设计并比较了触发木马程序的噪声模式的不同版本。
- 通过将预先训练的DNN转换为脉冲域,我们展示了NeuroAttack在DNN和SNN上的实用性。
II. BACKGROUND AND RELATED WORK
III. BIT-FLIP RESILIENCE ANALYSIS OF SNNS
A. Statistical Analysis of Random Bit-Flip
B. Bit-Flip with Gradient Search Algorithm
Analysis for the CIFAR10 Dataset:
IV. NEUROATTACK METHODOLOGY
A. Threat Model
B. Hardware Trojan Design
C. Trigger Pattern Design
1) Choosing the target layer:
2) Choosing the target neuron:
3) Choosing the triggering mask:
4) Generating the trigger:
5) Trigger application:
V. RESULTS AND DISCUSSION
A. Experimental Setup
1) Results on the MNIST dataset:
2) Results on the CIFAR10 dataset:
B. Hardware Overhead
VI. CONCLUSION
NeuroAttack: Undermining Spiking Neural Networks Security through Externally Triggered Bit-Flips的更多相关文章
- Exploring Adversarial Attack in Spiking Neural Networks with Spike-Compatible Gradient
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! arXiv:2001.01587v1 [cs.NE] 1 Jan 2020 Abstract 脉冲神经网络(SNN)被广泛应用于神经形态设 ...
- Training spiking neural networks for reinforcement learning
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! 原文链接:https://arxiv.org/pdf/2005.05941.pdf Contents: Abstract Introduc ...
- A review of learning in biologically plausible spiking neural networks
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! Contents: ABSTRACT 1. Introduction 2. Biological background 2.1. Spik ...
- Inherent Adversarial Robustness of Deep Spiking Neural Networks: Effects of Discrete Input Encoding and Non-Linear Activations
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! arXiv:2003.10399v2 [cs.CV] 23 Jul 2020 ECCV 2020 1 https://github.com ...
- Learning in Spiking Neural Networks by Reinforcement of Stochastic Synaptic Transmission
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! Summary 众所周知,化学突触传递是不可靠的过程,但是这种不可靠的函数仍然不清楚.在这里,我考虑这样一个假设,即大脑利用突触传递的随机 ...
- Combining STDP and Reward-Modulated STDP in Deep Convolutional Spiking Neural Networks for Digit Recognition
郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布! Abstract 灵长类视觉系统激发了深度人工神经网络的发展,使计算机视觉领域发生了革命性的变化.然而,这些网络的能量效率比它们的生物学对 ...
- Deep Learning 16:用自编码器对数据进行降维_读论文“Reducing the Dimensionality of Data with Neural Networks”的笔记
前言 论文“Reducing the Dimensionality of Data with Neural Networks”是深度学习鼻祖hinton于2006年发表于<SCIENCE > ...
- On Explainability of Deep Neural Networks
On Explainability of Deep Neural Networks « Learning F# Functional Data Structures and Algorithms is ...
- Audio Bit Depth Super-Resolution with Neural Networks
Audio Bit Depth Super-Resolution with Neural Networks 作者:Thomas Liu.Taylor Lundy.William Qi 摘要 Audio ...
随机推荐
- 使用vuex做列表数据过滤
功能需求 展示一个表格,表格包含选项有" 姓名 年龄 是否显示"三个列表项 是否显示列表项是可操作开关,点击切换打开/关闭 将表格中开关为打开状态的列表项,在另一个表格中显示 需求 ...
- java并发包提供的三种常用并发队列实现
java并发包中提供了三个常用的并发队列实现,分别是:ConcurrentLinkedQueue.LinkedBlockingQueue和ArrayBlockingQueue. ConcurrentL ...
- Python for循环通过序列索引迭代
Python for 循环通过序列索引迭代: 注:集合 和 字典 不可以通过索引进行获取元素,因为集合和字典都是无序的. 使用 len (参数) 方法可以获取到遍历对象的长度. 程序: strs = ...
- pandas_查看数据特征和统计信息
# 查看数据特征和统计信息 import pandas as pd # 读取文件 dataframe = pd.read_excel(r'C:\Users\lenovo\Desktop\总结\Pyth ...
- Kylin Flink Cube 引擎的前世今生
Apache Kylin™ 是一个开源的.分布式的分析型数据仓库,提供 Hadoop/Spark 之上的 SQL 查询接口及多维分析(OLAP)能力以支持超大规模数据,它能在亚秒内查询巨大的表. Ky ...
- PDOStatement::fetch
PDOStatement::fetch — 从结果集中获取下一行(PHP 5 >= 5.1.0, PECL pdo >= 0.1.0) 说明 语法 mixed PDOStatement:: ...
- 【项目实战】sass使用基础篇(上)
Sass是一种CSS预处理语言.CSS预处理语言是一种新的专门的编程语言,编译后形成正常的css文件,为css增加一些编程特性,无需考虑浏览器的兼容性(完全兼容css3),让css更加简洁.适应性更强 ...
- 在Linux下安装nginx服务器详细教程
首先安装centos的扩展源 yum install epel-release 安装Nginx 方法一: yum install nginx -y 查看版本号,开启nginx,查看进程 nginx – ...
- ECS7天实践进阶训练营Day2:基于阿里云ECS部署MediaWiki
一.概述 MediaWiki是全球最著名的开源Wiki程序,运行于PHP+MySQL环境,MediaWiki从2002年被作为维基百科的系统软件,并由大量其他应用实例(例如萌娘百科),因此MediaW ...
- 文件上传Upload 漏洞挖掘思路
1:尽可能多的找出网站存在的上传点2:尝试使用如上各种绕过方法3:尝试 geshell4:无法上传webshel的情况下: 尝试上传html等,或可造成存储XSS漏洞 上传点构造XSS等,结合上传后的 ...