OHEM算法论文理解

全栈程序员-站长 • 2022年5月7日下午12:00 • 未分类 • 阅读 38

大家好，又见面了，我是你们的朋友全栈君。

CVPR2016的文章，CMU与rbg大神的合作。原谅我一直没有对这篇文章做一个笔记~~

文章提出了一种通过online hard example mining（OHEM）算法训练基于区域的卷积检测算子的高效目标检测算法，能够对简单样本和一些小数量样本进行抑制，使得训练过程更加高效。该方法利用显著的bootstrapping技术（SVM中被普遍利用），对SGD算法进行一定的修改，使得原有的region-based ConvNets的启发式学习和多参数可以被移除，并得到较准确稳定的检测结果。在PASCAL VOC2007和2012中的mAP分别为：78.9%，76.3%。https://github.com/abhi2610/ohem

Hard example mining：

主要有2种参见Hard example mining算法，优化SVM时候的算法和非SVM时的利用。

在优化SVM中使用Hard example mining时，训练算法主要维持训练SVM和在工作集上收敛的平衡迭代过程，同时在更新过程中去除一些工作集中样本并添加其他特殊的标准。这里的标准即去掉一些很容易区分的样本类，并添加一些用现有的模型不能判断的样本类，进行新的训练。工作集为整个训练集中的一小部分数据。

非SVM中使用时，该Hard example mining算法开始于正样本数据集和随机的负样本数据集，机器学习模型在这些数据集中进行训练使其达到该数据集上收敛，并将其应用到其他未训练的负样本集中，将判断错误的负样本数据（false positives）加入训练集，重新对模型进行训练。这种过程通常只迭代一次，并不获得大量的再训练收敛过程。

注意点：bg_lo = 0.1, 这里已经近似的使用难例挖掘；

要使用OHEM时，建议采用正负比例设置为1：3，并且bg_lo =0;这样效果较好

网络结构框架：

OHEM算法基于Fast R-CNN算法进行改进，作者认为Fast R-CNN算法中创造mini-batch用来进行SGD算法，并不具有高效和最优的状态，而OHEM可以取得lower training loss，和higher mAP。对比下图两种算法Fast R-CNN和OHEM结构：

OHEM算法论文理解

对比可以发现，文章提出的OHEM算法里，对于给定图像，经过selective search RoIs，同样计算出卷积特征图。但是在绿色部分的（a）中，一个只读的RoI网络对特征图和所有RoI进行前向传播，然后Hard RoI module利用这些RoI的loss选择B个样本。在红色部分（b）中，这些选择出的样本（hard examples）进入RoI网络，进一步进行前向和后向传播。

发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/139272.html原文链接：https://javaforall.net