1.1.5 范数

    1.1.5 范数
    范数是一种强化了的距离概念，通常为了提高模型的抗过拟合能力被加入到损失函数中，下面介绍常见的几种范数的定义。
    1. l0范数
    l0范数并不是一个真正的范数，它主要用于度量向量中非零元素的个数。在对抗样本中，l0范数通常指的是对抗样本相对原始图片，所修改像素的个数。
    2. l1范数
    l1范数有很多的名字，例如曼哈顿距离、最小绝对误差等。使用l1范数可以度量两个向量间的差异，表示向量中非零元素的绝对值之和。
    3. l2范数
    l2范数是我们最常用的范数，欧氏距离就是一种l2范数，表示向量元素的平方和再开方。在对抗样本中，l2范数通常指的是对抗样本相对原始图片，所修改像素的变化量的平方和再开方。
    4. 无穷范数
    无穷范数也被记作linf，主要用于度量向量元素的最大值。在对抗样本中，linf范数通常指的是对抗样本相对原始图片，所修改像素的变化量绝对值的最大值。