–cutout 正则化
cutout，是一种数据增强的方法，主要应用于分类任务中。
cutout的实现方法为，在图像中随机选取一个点作为中心点，覆盖一个固定大小的方形zero-mask。mask的大小是一个超参数，在文中是通过网格搜索得到的长度。mask区域可以在图像外。
cutout方法提出的出发点是作为一个正则化方法，防止CNN过拟合。cutcout方法很简单，就是在训练的时候，在随机位置应用一个方形矩阵。
作者认为这种技术鼓励网络去利用整个图片的信息，而不是依赖于小部分特定的视觉特征。
相比于dropout，cutout更像是数据增强的一种手段，而不是添加噪声。
在刚开始应用maks的时候，作者也尝试应用mask于关键部位（那些激活值最大的区域），并得到了不错的结果（如下图所示）。但后来发现随机去除固定大小区域和直接在目标区域的效果是相当的，所以之后都采用移除固定大小区域的策略。
同时，作者发现zero-mask区域大小的选择比形状的选择更重要。大小的选择在文中是通过网格搜索完成的，但都是应用于较小的数据集（CIFAR10/CIFAR100/SVHN）上。在选择应用区域的时候，发现zero-mask随机应用效果比较好，即部分mask在图像外。作者解释为，部分mask在图像外是实现良好性能的关键。