卷積神經(jīng)網(wǎng)絡是一種特殊的神經(jīng)網(wǎng)絡結構，是自動駕駛汽車、人臉識別系統(tǒng)等計算機視覺應用的基?。?其中基本的矩陣乘法運算被卷積運算取代 。它們專門處理具有網(wǎng)格狀拓撲結構的數(shù)據(jù) 。例如，時間序列數(shù)據(jù)和圖像數(shù)據(jù)可以看作是一個二維像素網(wǎng)格 。
歷史卷積神經(jīng)網(wǎng)絡最初是由福島核電站在1980年引入的，當時名為Neocognitron 。它的靈感來自于Hubel和Weisel提出的神經(jīng)系統(tǒng)的層次模型 。但由于其復雜的無監(jiān)督學習算法 ， 即無監(jiān)督學習，該模型并不受歡迎 。1989年，Yann LeCun利用反向傳播和Neocognitron的概念提出了一種名為LeNet的架構，該架構被美國和歐洲用于手寫的郵政編碼識別 。郵政服務 。Yann LeCun進一步研究了這個項目，最終在1998年發(fā)布了LeNet-5——第一個引入了我們今天在CNN仍然使用的一些基本概念的現(xiàn)代卷積神經(jīng)網(wǎng)絡 。他還發(fā)布了MNIST手寫數(shù)字數(shù)據(jù)集，這可能是機器學習中最著名的基準數(shù)據(jù)集 。在20世紀90年代，計算機視覺領域轉移了它的焦點 ， 許多研究人員停止了對CNN架構的研究 。神經(jīng)網(wǎng)絡的研究經(jīng)歷了一個寒冷的冬天，直到2012年，多倫多大學的一組研究人員在著名的ImageNet挑戰(zhàn)賽中進入了一個基于CNN的模型(AlexNet)，最終以16.4%的錯誤率贏得了比賽 。此后 ， 卷積神經(jīng)網(wǎng)絡不斷向前發(fā)展，基于CNN的體系結構不斷贏得ImageNet, 2015年，基于卷積神經(jīng)網(wǎng)絡的體系結構ResNet的誤差率超過人類水平的5.1%，誤差率為3.57% 。
卷積的誤稱在CNN中廣泛使用的卷積運算是用詞不當?shù)?。嚴格地說 ， 所使用的操作是相關 ， 而不是卷積 。這兩個操作符都有一點不同，我們將分別討論它們，以理解它們之間的區(qū)別 。
互相關相關是在圖像上移動濾波掩碼(通常稱為核)并計算每個位置的乘積和的過程 。相關是濾波器位移的函數(shù) 。換句話說，相關的第一個值對應濾波器的零位移 ， 第二個值對應一個位移，以此類推 。
數(shù)學公式:
圖3給出了使用F濾波器與圖像I的一維互相關運算的數(shù)學公式 。假設F具有奇數(shù)個元素會很方便，因此我們可以假設F隨其中心移動 。我們說F有2N+1的元素,這些索引從-N到N,F(0)是中心元素 。
類似地，我們可以將這個概念擴展到下圖所示的2d情況 ?；舅枷胧且粯拥?，除了圖像和濾波器現(xiàn)在是2D 。我們可以假設我們的濾波器有奇數(shù)個元素，所以它由一個(2N+1)x(2N+1)矩陣表示 。
二維的相關運算非常簡單 。我們只是取一個給定大小的濾波器，然后把它放在與濾波器大小相同的圖像的一個局部區(qū)域上 。我們繼續(xù)這個操作，在整個圖像中移動相同的濾波器 。這也幫助我們實現(xiàn)了兩個非常受歡迎的屬性:
平移不變性:我們的視覺系統(tǒng)應該感知、響應或檢測相同的物體 ， 而不管它出現(xiàn)在圖像的什么地方 。局部性:我們的視覺系統(tǒng)聚焦于局部區(qū)域，而不考慮圖像的其他部分發(fā)生了什么 ?；ハ嚓P函數(shù)具有一個特性，當它應用于離散的單位脈沖(一個二維矩陣，其中只有一個1，其他都是0)時，得到的結果是濾波器的副本 ， 但旋轉了180度 。
推薦閱讀
- 牛肉面 牛肉面的制作方法
- 愿你出走半生歸來仍是少年是什么意思 愿你出走半生歸來仍是少年的意思
- 亞洲第一個提出申辦夏季奧運會的城市是哪個 亞洲第一個提出申辦夏季奧運會是哪個城市
- 手鐲的含義 手鐲的寓意和象征
- 屈原是什么原因跳江的 屈原跳江的原因
- 敬亭山在哪 敬亭山在我國的哪個省
- 海關查獲3117根裝有活體螞蟻的不明物品 野蠻收獲蟻入境
- 形容天空很藍很美古詩 關于描述天很藍的詩句
- 1.5排量的車百公里油耗是多少 1.5排量一百公里油耗多少
- 花膠是什么 花膠是魚的哪里