yolo类检测算法解析——yolo v3

时间:2024-01-04 00:04:50

每当听到有人问“如何入门计算机视觉”这个问题时,其实我内心是拒绝的,为什么呢?因为我们说的计算机视觉的发展史可谓很长了,它的分支很多,而且理论那是错综复杂交相辉映,就好像数学一样,如何学习数学?这问题似乎有点笼统、有点宽泛。所以我都会具体问问你想入门计算机视觉的哪个话题,只有顺着一个话题理论联合实际,才有可能扩展到几个话题。

yolo类算法,从开始到现在已经有了3代,我们称之为v1、v2、v3,一路走来,让人能感觉到的是算法的性能在不断的改进,以至于现在成为了开源通用目标检测算法的领头羊(ps:虽然本人一直都很欣赏SSD,但是不得不说V3版本已经达到目前的颠覆)。一直以来,有一个问题困扰许久,那就是如何检测两个距离很近的同类的物体,当然又或者是距离很近的不同类的物体?绝大部分算法都会对传入的data做resize到一个更小的resolution,它们对于这种情况都会给出一个目标框,因为在它们的特征提取或者回归过程看来,这就是一个物体(可想本来就很近,一放缩之间的近距离越发明显了),而事实上这是两个同(或不同)类型的物体靠的很近,这个难题是目标检测和跟踪领域的一个挑战。就好像对小目标的检测,一直以来也被看做是算法的一种评估。但是啊,v3版本却做到了,它对这种距离很近的物体或者小物体有很好的鲁棒性,虽然不能保证百分百,但是这个难题得到了很大程度的解决,激发我对yolo类算法的研究。这也是为什么写这篇文章的目的,在于见证一下这个算法的神奇。其实,百分百的检测,在我看来事实上是不存在的,随着时间的推移,环境的变化,任何妄言百分百准确的算法都是扯,只能是相互调整吧。前几天uber撞人事件其实我最关注的应该是哪个环节存在的问题,还需要改进,撞人是不可避免的,无人车的存在不是让事故不发生,而是让社会进步,科技发展,逐步降低事故发生率的同时改善人们的生活质量。

yolo的v1和v2都不如SSD算法,原谅这么直白,原因是v1版本的448和v2版本的416都不如SSD的300,当然以上结论都是实验测的,v3版本的416应该比SSD512好,可见其性能。

对官方yolo做了实验,实验中,采用同一个视频、同一张显卡,在阈值为0.3的前提下,对比了v3和v2的测试效果之后,有了下面两个疑问:

1.为什么v3和v2版本的测试性能提高很大,但速度却没有降低?

2.为什么v3性能上能有这么大的改进?或者说为什么v3在没有提高输入数据分辨率的前提下,对小目标检测变得这么好?

要回答上述两个问题,必须要看看作者发布的v3论文了,将v3和v2不一样的地方总结一下:

  • loss不同:作者v3替换了v2的softmax loss 变成logistic loss,而且每个ground truth只匹配一个先验框。
  • anchor bbox prior不同:v2作者用了5个anchor,一个折衷的选择,所以v3用了9个anchor,提高了IOU。
  • detection的策略不同:v2只有一个detection,v3一下变成了3个,分别是一个下采样的,feature map为13*13,还有2个上采样的eltwise sum,feature map为26*26,52*52,也就是说v3的416版本已经用到了52的feature map,而v2把多尺度考虑到训练的data采样上,最后也只是用到了13的feature map,这应该是对小目标影响最大的地方。
  • backbone不同:这和上一点是有关系的,v2的darknet-19变成了v3的darknet-53,为啥呢?就是需要上采样啊,卷积层的数量自然就多了,另外作者还是用了一连串的3*3、1*1卷积,3*3的卷积增加channel,而1*1的卷积在于压缩3*3卷积后的特征表示,这波操作很具有实用性,一增一减,效果棒棒。

为什么有这么大的提高?我指的是v2和v3比,同样是416的feature map,我感觉是v2作者当时也是做了很多尝试和借鉴,实现了匹敌SSD的效果,但是他因为被借鉴的内容所困扰,导致性能的停留,因此v3再借鉴,应该是参考了DSSD和FPN,这应该是之后的潮流了,做了一下结果性能提高很大,可能作者本人都没想到。但是作者目前没有写篇论文,认为没有创造性实质性的改变,写了一个report,科研的精神值得肯定!如果对比v2和v3你会发现反差确实很大,所以上面的问题才不奇怪。

又为什么速度没有下降?电脑上同环境测都是15帧左右。先看一下打印的日志:

 v2的日志信息:
Demo
layer filters size input output
conv x / x x -> x x 0.299 BFLOPs
max x / x x -> x x
conv x / x x -> x x 1.595 BFLOPs
max x / x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
max x / x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
max x / x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
max x / x x -> x x
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x1024 3.190 BFLOPs
conv x / x x1024 -> x x1024 3.190 BFLOPs
route
conv x / x x -> x x 0.044 BFLOPs
reorg / x x -> x x
route
conv x / x x1280 -> x x1024 3.987 BFLOPs
conv x / x x1024 -> x x 0.043 BFLOPs
detection
mask_scale: Using default '1.000000'
Loading weights from yolo-voc.weights...Done!

v3的日志信息:

Demo
layer filters size input output
conv x / x x -> x x 0.299 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
res x x -> x x
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
res x x1024 -> x x1024
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
res x x1024 -> x x1024
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
res x x1024 -> x x1024
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
res x x1024 -> x x1024
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.177 BFLOPs
conv x / x x -> x x1024 1.595 BFLOPs
conv x / x x1024 -> x x 0.088 BFLOPs
detection
route
conv x / x x -> x x 0.044 BFLOPs
upsample 2x x x -> x x
route
conv x / x x -> x x 0.266 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
detection
route
conv x / x x -> x x 0.044 BFLOPs
upsample 2x x x -> x x
route
conv x / x x -> x x 0.266 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.177 BFLOPs
conv x / x x -> x x 1.595 BFLOPs
conv x / x x -> x x 0.353 BFLOPs
detection
Loading weights from yolov3.weights...Done!
百度百科:FLOPS(即“每秒浮点运算次数”,“每秒峰值速度”),是“每秒所执行的浮点运算次数”(floating-point operations per second)的缩写。它常被用来估算电脑的执行效能,尤其是在使用到大量浮点运算的科学计算领域中。正因为FLOPS字尾的那个S,代表秒,而不是复数,所以不能省略掉。
在这里所谓的“浮点运算”,实际上包括了所有涉及小数的运算。这类运算在某类应用软件中常常出现,而它们也比整数运算更花时间。现今大部分的处理器中,都有一个专门用来处理浮点运算的“浮点运算器”(FPU)。也因此FLOPS所量测的,实际上就是FPU的执行速度。而最常用来测量FLOPS的基准程式(benchmark)之一,就是Linpack
可能的原因:yolov2是一个纵向自上而下的网络架构,随着channel数目的不断增加,FLOPS是不断增加的,而v3网络架构是横纵交叉的,看着卷积层多,其实很多多channel的卷积层没有继承性,另外,虽然yolov3增加了anchor centroid,但是对ground truth的估计变得更加简单,每个ground truth只匹配一个先验框,而且每个尺度只预测3个框,v2预测5个框。这样的话也降低了复杂度。

所以这发展的历程应该是这样的:

yolo——SSD——yolov2——FPN、Focal loss、DSSD......——yolov3

最后总结,yolo算法的性能一直都没有被v2发挥出来,而真正被v3发挥出来了,v3这次的借鉴效果实在是太好了。

欢迎加入QQ交流群864933024