日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

lmb633的博客,卷積核

【lmb633的博客,卷積核】如何理解空洞卷積?

lmb633的博客,卷積核


CNN網(wǎng)絡(luò)中在對(duì)圖像進(jìn)行下采樣時(shí),常常使用pooling操作,包括average pooling和max pooling 。其作用在仿照人的視覺系統(tǒng)進(jìn)行降維,同時(shí)擴(kuò)大了感受野(perceptual field) 。對(duì)卷積層提取的特征進(jìn)行降采樣,從而能夠獲取到更高級(jí)的特征 。此外pooling層也可以保證特征位置和旋轉(zhuǎn)不變形 。
最后引入pooling還能起到降少網(wǎng)絡(luò)參數(shù),防止過擬合的問題 。但是采用pooling也有其缺點(diǎn),在降采樣的同時(shí)也會(huì)丟失一部分特征信息,損失了原始圖像中的信息 ??斩淳矸e(diluted convolution)就是為解決pooling層的缺點(diǎn)而提出的 。它首先是針對(duì)圖像語義分割而產(chǎn)生的一種卷積方法 。不同于一般的卷積,空洞卷積的卷積核更加“蓬松”,也就是在卷積核中加入空洞,以此來擴(kuò)大感受野 。
引入了一個(gè)新的參數(shù)空洞率(dilation rate),即卷積核的間隔數(shù)目,正常卷積核的空洞率等于1 。如下圖就是一個(gè)空洞率為2的3*3空洞卷積 。我們可以發(fā)現(xiàn),空洞卷積不僅擴(kuò)大了感受野降低了維度,同時(shí)沒有增加計(jì)算量 。但是由于引入了一個(gè)超參數(shù),就需要權(quán)衡每次卷積時(shí)的參數(shù),如果空洞率過大,那么就很有可能捕捉不到圖像中小物體的信息,因此再使用時(shí)需要設(shè)置好合適的空洞率 。
cnn卷積神經(jīng)網(wǎng)絡(luò)中的卷積核怎么確定?
lmb633的博客,卷積核


卷積參數(shù)是模型學(xué)習(xí)出來的,卷積核的大小以及個(gè)數(shù)是人工來確定的,二維卷積卷積核大小一般是1*1,3*3,5*5,7*7這樣奇數(shù)的 。卷積核的個(gè)數(shù)就是網(wǎng)絡(luò)的channel數(shù),常見的128 256 512這種,需要根據(jù)具體任務(wù)確定 。另外最近神經(jīng)網(wǎng)絡(luò)自動(dòng)搜索結(jié)構(gòu)非?;穑钣忻木褪枪雀璧腘ASnet,采用某種啟發(fā)式遍歷來尋找對(duì)于特定數(shù)據(jù)集最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu) 。

    推薦閱讀