您的位置首页百科问答

ResNeXt的分类效果为什么比Resnet好?

ResNeXt的分类效果为什么比Resnet好?

的有关信息介绍如下:

ResNeXt的分类效果为什么比Resnet好?

因为renext利用了group卷积,所以同等的flops下,renext的参数变多了,模型能力上去了。

---------------

更新一下,仔细看了一下,参数量其实并没怎么增多。那就是group带来的收益了,很有可能是resnet本身比较冗余(也的确是事实),分组之后,组与组各玩各自,有种disentanglement的味道在里面。

---------------

再次更新,如果要探究在resnet搜索空间下,group与分类精度的关系,可以看facebook的这篇论文:Designing Network Design Spaces。这篇论文第四节详细讨论了group与分类精度的关系,下图是其实验图。说明最佳的group的数目有随着网络flops的增加而增加的趋势。从这个角度也佐证了resnext使用group卷积带来的收益。

其次,分类效果这个东西,其实不单单只看精度,还有推理速度、训练速度或者说吞吐量。而且其实resnet好好搞搞也不见得比resnext差,比如18年底的亚马逊出品的resnet-D。而现在resnet仍然是实践中的最佳选择,原因就是在分类精度相似的情况下,resnet往往还是跑的最快的。