日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 云知道 > >

骨干網(wǎng)絡(luò) 骨干網(wǎng)絡(luò)是什么意思( 二 )

云知道網(wǎng)絡(luò)



最終，PP-LCNet 中的 SE 模塊的位置選用了表格中第三行的方案 。
更大的卷積核
在 MixNet 的論文中，作者分析了卷積核大小對模型性能的影響，結(jié)論是在一定范圍內(nèi)大的卷積核可以提升模型的性能，但是超過這個(gè)范圍會(huì)有損模型的性能 ， 所以作者組合了一種 split-concat 范式的 MixConv，這種組合雖然可以提升模型的性能，但是不利于推理 。我們通過實(shí)驗(yàn)總結(jié)了一些更大的卷積核在不同位置的作用，類似 SE 模塊的位置，更大的卷積核在網(wǎng)絡(luò)的中后部作用更明顯，下表展示了 5x5 卷積核的位置對精度的影響：

實(shí)驗(yàn)表明，更大的卷積核放在網(wǎng)絡(luò)的中后部即可達(dá)到放在所有位置的精度，與此同時(shí)，獲得更快的推理速度 。PP-LCNet 最終選用了表格中第三行的方案 。
GAP 后使用更大的 1x1 卷積層
在 GoogLeNet 之后，GAP（Global-Average-Pooling）后往往直接接分類層，但是在輕量級網(wǎng)絡(luò)中，這樣會(huì)導(dǎo)致 GAP 后提取的特征沒有得到進(jìn)一步的融合和加工 。如果在此后使用一個(gè)更大的 1x1 卷積層（等同于 FC 層） ， GAP 后的特征便不會(huì)直接經(jīng)過分類層，而是先進(jìn)行了融合，并將融合的特征進(jìn)行分類 。這樣可以在不影響模型推理速度的同時(shí)大大提升準(zhǔn)確率 。
BaseNet 經(jīng)過以上四個(gè)方面的改進(jìn) ， 得到了 PP-LCNet 。下表進(jìn)一步說明了每個(gè)方案對結(jié)果的影響：

下游任務(wù)性能驚艷提升
圖像分類
圖像分類我們選用了 ImageNet 數(shù)據(jù)集，相比目前主流的輕量級網(wǎng)絡(luò)，PP-LCNet 在相同精度下可以獲得更快的推理速度 。當(dāng)使用百度自研的 SSLD 蒸餾策略后 ， 精度進(jìn)一步提升，在 Intel CPU 端約 5ms 的推理速度下 ImageNet 的 Top-1 Acc 竟然超過了 80%，Amazing?。。?


目標(biāo)檢測
目標(biāo)檢測的方法我們選用了百度自研的 PicoDet，該方法主打輕量級目標(biāo)檢測場景 。下表展示了在 COCO 數(shù)據(jù)集上、backbone 選用 PP-LCNet 與 MobileNetV3 的結(jié)果的比較 。無論在精度還是速度上，PP-LCNet 的優(yōu)勢都非常明顯 。

【骨干網(wǎng)絡(luò) 骨干網(wǎng)絡(luò)是什么意思】語義分割
語義分割的方法我們選用了 DeeplabV3+ 。下表展示了在 Cityscapes 數(shù)據(jù)集上、backbone 選用 PP-LCNet 與 MobileNetV3 的比較 。在精度和速度方面，PP-LCNet 的優(yōu)勢同樣明顯 。

實(shí)際拓展應(yīng)用結(jié)果說明
PP-LCNet 在計(jì)算機(jī)視覺下游任務(wù)上表現(xiàn)很出色，那在真實(shí)的使用場景如何呢？本節(jié)簡述其在 PP-OCR v2、PP-ShiTu 上的表現(xiàn) 。
在 PP-OCR v2 上，只將識(shí)別模型的 backbone 由 MobileNetV3 替換為 PP-LCNet 后，在速度更快的同時(shí)，精度可以進(jìn)一步提升 。

在 PP-ShiTu 中，將 Backbone 的 ResNet50_vd 替換為 PP-LCNet-2.5x 后，在 Intel-CPU 端，速度快 3 倍，recall@1 基本和 ResNet50_vd 持平 。

PP-LCNet 并不是追求極致的 FLOPs 與 Params，而是著眼于深入技術(shù)細(xì)節(jié)，耐心分析如何添加對 Intel CPU 友好的模塊來提升模型的性能來更好地進(jìn)行準(zhǔn)確率和推理時(shí)間的平衡，其中的實(shí)驗(yàn)結(jié)論也很適合其他網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的研究者，同時(shí)也為 NAS 搜索研究者提供了更小的搜索空間和一般結(jié)論 。

推薦閱讀