一像素攻击喀拉拉邦:使用差动进化在Cifar10和ImageNet上的Keras实现“愚弄深层神经网络的一像素攻击” 源码

一像素攻击 如果仅允许攻击者修改一个像素的颜色并且仅看到预测概率,那么导致深度神经网络对图像进行错误分类有多么简单? 原来这很简单。 在许多情况下,攻击者甚至可能使网络返回他们想要的任何答案。 以下项目是Keras的重新实现和教程。 论文的官方代码可以在找到。 这个怎么运作 对于此攻击,我们将使用。 数据集的任务是将32x32像素的图像正确分类为10个类别之一(例如,鸟类,鹿,卡车)。 黑匣子攻击只需要神经网络输出的概率标签(每个类别的概率值)。 我们通过选择一个像素并将其修改为某种颜色来生成对抗图像。 通过使用称为(DE)的进化算法,我们可以迭代生成对抗图像,以尝试最小化神经网络分类的