基于对抗攻击和分支定界的前馈神经网络鲁棒性验证

摘要： 作为安全关键系统控制器，前馈神经网络的鲁棒性至关重要。本文提出一种基于对抗攻击和分支界定的神经网络鲁棒性验证方法，首先，利用对抗样本确定前馈神经网络输入的扰动阈值；其次，基于符号区间传播对前馈神经网络进行线性松弛，并在此基础上验证前馈神经网络鲁棒性；如果鲁棒性不成立，则采用优化的分支定界法逐步收紧已松弛的前馈神经网络，最后，完成前馈神经网络鲁棒性验证。与现有的验证方法相比，本文...