日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 云知道 > >

零基礎入門深度學習,深度學習是什么( 四 )

云知道


注意，深度學習不是萬金油，像很多其他方法一樣，它需要結合特定領域的先驗知識，需要和其他模型結合才能得到最好的結果 。當然，還少不了需要針對自己的項目去仔細地調(diào)參數(shù)，這也往往令人詬病 。此外，類似于神經(jīng)網(wǎng)絡，深度學習的另一局限性是可解釋性不強，像個“黑箱子”一樣不知為什么能取得好的效果，以及不知如何有針對性地去具體改進，而這有可能成為產(chǎn)品升級過程中的阻礙 。
深度學習通過很多數(shù)學和工程技巧增加（堆棧疊加：Stack）隱層的層數(shù)，如果隱層足夠多（也就是深），選擇適當?shù)倪B接函數(shù)和架構，就能獲得很強的表達能力 。深度學習的一個主要優(yōu)勢在于可以利用海量訓練數(shù)據(jù)（即大數(shù)據(jù)），但是常用的模型訓練算法反向傳播（Back Propagation）仍然對計算量有很高的要求 。而近年來，得益于計算機速度的提升、基于MapReduce的大規(guī)模集群技術的興起、GPU的應用以及眾多優(yōu)化算法的出現(xiàn)，耗時數(shù)月的訓練過程可縮短為數(shù)天甚至數(shù)小時，深度學習才在實踐中有了用武之地 。
值得一提的是，深度學習的誕生并非一帆風順 。雖然Yahn Lecun在1993年提出的卷積神經(jīng)網(wǎng)絡（Convolutional Neural Network：CNN）是第一個真正成功訓練多層網(wǎng)絡結構的學習算法，但應用效果一直欠佳?直到2006年，Geoffrey Hinton基于深度置信網(wǎng)（Deep Belief Net：DBN）——其由一系列受限波爾茲曼機（Restricted Boltzmann Machine：RBM）組成，提出非監(jiān)督貪心逐層訓練（Layerwise Pre-Training）算法，應用效果才取得突破性進展，其與之后Ruslan Salakhutdinov提出的深度波爾茲曼機（Deep Boltzmann Machine：DBM）重新點燃了人工智能領域對于神經(jīng)網(wǎng)絡（Neural Network）和波爾茲曼機（Boltzmann Machine）的熱情，才由此掀起了深度學習的浪潮?從目前的最新研究進展來看，只要數(shù)據(jù)足夠大、隱層足夠深，即便不加“Pre-Training”預處理，深度學習也可以取得很好的結果，反映了大數(shù)據(jù)和深度學習相輔相成的內(nèi)在聯(lián)系 。
此外，雖說非監(jiān)督（如DBM方法）是深度學習的一個優(yōu)勢，深度學習當然也可用于帶監(jiān)督的情況（也即給予了用戶手動標注的機會），實際上帶監(jiān)督的CNN方法目前就應用得越來越多，乃至正在超越DBM 。提示：與前向神經(jīng)網(wǎng)絡不同，RBM（受限波爾茲曼機）中的可見層和隱含層之間的連接是無方向性且全連接的 。對比差異無監(jiān)督訓練是RBM的一個重要算法，包含了正向過程、反向過程和權值更新三個步驟，主要目標是使生成的數(shù)據(jù)與原數(shù)據(jù)盡可能相似，并通過對比兩者的差異來調(diào)整權值更新：其中，α是學習速率 。
這樣的網(wǎng)絡可具備感知對輸入數(shù)據(jù)表達程度的能力，而且嘗試通過這個感知能力重建數(shù)據(jù) 。如果重建出來的數(shù)據(jù)與原數(shù)據(jù)差異很大，那么進行調(diào)整并再次重建 。2012年6月，《紐約時報》披露了Google Brain項目，吸引了公眾的廣泛關注 。這個項目是由著名的斯坦福大學的機器學習教授Andrew Ng和在大規(guī)模計算機系統(tǒng)方面的世界頂尖專家Jeff Dean共同主導，用16,000個CPU Core的并行計算平臺去訓練含有10億個節(jié)點的深度神經(jīng)網(wǎng)絡（DNN，Deep Neural Networks），使其能夠自我訓練，對2萬個不同物體的1,400萬張圖片進行辨識 。
在開始分析數(shù)據(jù)前，并不需要向系統(tǒng)手工輸入任何諸如“臉、肢體、貓的長相是什么樣子”這類特征 。Jeff Dean說：“我們在訓練的時候從來不會告訴機器：‘這是一只貓’（即無標注樣本） 。系統(tǒng)其實是自己發(fā)明或領悟了‘貓’的概念 ?！?014年3月，同樣也是基于深度學習方法，F(xiàn)acebook的 DeepFace 項目使得人臉識別技術的識別率已經(jīng)達到了 97.25%，只比人類識別 97.5% 的正確率略低那么一點點，準確率幾乎可媲美人類 。

推薦閱讀