日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁(yè) > 云知道 > >

零基礎(chǔ)入門(mén)深度學(xué)習(xí),深度學(xué)習(xí)是什么( 八 )

云知道


3，深度，由于深，造成反向傳播的梯度往往越來(lái)越弱，而造成梯度消失問(wèn)題 。各類(lèi)深度學(xué)習(xí)的領(lǐng)先算法往往是圍繞解決梯度消失問(wèn)題 。圖： 臭名昭著的局部極小值問(wèn)題 。我們用一些非常簡(jiǎn)單的實(shí)例說(shuō)一下深度學(xué)習(xí)的幾個(gè)主要應(yīng)用方向與數(shù)學(xué)的結(jié)合：階段1：多層神經(jīng)網(wǎng)絡(luò)（DNN）的前傳與回傳（BP）算法。理解DNN的前向傳遞過(guò)程，這個(gè)過(guò)程里包含了線(xiàn)性代數(shù)的空間變換思想和簡(jiǎn)單的高數(shù) 。
這算是第一難度梯級(jí)，你需要掌握的是BP算法，這里含有多元微積分一個(gè)最基本的法則： 鏈?zhǔn)角髮?dǎo)和jacobian矩陣 。在此處你會(huì)對(duì)維度產(chǎn)生全新的認(rèn)識(shí) 。階段2：深度學(xué)習(xí)的中流砥柱CNN卷積運(yùn)算 ： 這里應(yīng)用的數(shù)學(xué)是卷積本身，你要通過(guò)高數(shù)掌握卷積的本質(zhì)，體會(huì)它與相關(guān)性，傅立葉變換等運(yùn)算之間的聯(lián)系 。
這部分也屬于高數(shù)內(nèi)容，而卷積運(yùn)算本身也需要強(qiáng)大的線(xiàn)性代數(shù)基礎(chǔ) 。階段3：　RNN網(wǎng)絡(luò)與微分方程 。RNN似乎包含比別家算法多很多的數(shù)學(xué)知識(shí)，因?yàn)镽NN的運(yùn)算和調(diào)參你需要理解一些非線(xiàn)性動(dòng)力系統(tǒng)的基礎(chǔ)知識(shí) 。如定點(diǎn)，邊緣穩(wěn)定性和混沌 。非線(xiàn)性動(dòng)力學(xué)是物理的內(nèi)容，但是大部分講的是數(shù)學(xué)，這點(diǎn)物理系的學(xué)的會(huì)很有優(yōu)勢(shì) 。
階段４：深度強(qiáng)化學(xué)習(xí) 。這時(shí)候你的數(shù)學(xué)工具要包含bellaman 方程，控制論的一些基礎(chǔ)知識(shí)，更多關(guān)于馬爾可夫過(guò)程和時(shí)間序列的知識(shí) 。簡(jiǎn)單的控制論你看看會(huì)很好的助力你對(duì)整個(gè)機(jī)器學(xué)習(xí)用于機(jī)器人控制的理解，而馬爾科夫決策樹(shù)的基礎(chǔ)知識(shí)學(xué)了你會(huì)覺(jué)得什么阿爾法狗阿爾法元都挺簡(jiǎn)單的 。階段5：　生成式模型與GAN對(duì)抗網(wǎng)絡(luò) 。
這部分的數(shù)學(xué)難度應(yīng)該與深度強(qiáng)化學(xué)習(xí)在同一難度上 。需要對(duì)概率論有比較深的理解 。最基礎(chǔ)的生成模型你要理解玻爾茲曼機(jī)這個(gè)與統(tǒng)計(jì)物理淵源很深的模型，需要較深的概率統(tǒng)計(jì)知識(shí) 。GAN生成對(duì)抗模型的目標(biāo)函數(shù)含有了大名鼎鼎的博弈論思想 。納什均衡都進(jìn)來(lái)了啊，雖然這時(shí)候的優(yōu)化理論已經(jīng)飛一樣的難，你還是會(huì)有一種融匯貫通的感覺(jué) 。
階段6：信息瓶頸理論？ 計(jì)算神經(jīng)科學(xué)前沿？ 鐵哥恭喜你此處要告別塵緣了 。深度學(xué)習(xí)的盡頭必然要與我們對(duì)認(rèn)知和信息本質(zhì)的基礎(chǔ)認(rèn)識(shí)相連 。此處針對(duì)希望做深度學(xué)習(xí)研究的人員 。基礎(chǔ)教材推薦：陳希孺院士的《概率論與數(shù)理統(tǒng)計(jì)》，這是一本數(shù)理統(tǒng)計(jì)的入門(mén)級(jí)教材 。最好的統(tǒng)計(jì)中文教材 。參考評(píng)論 https://d.cosx.org/d/14990-14990龔升的《簡(jiǎn)明微積分》 。
人工智能的深度學(xué)習(xí)是什么意思？好學(xué)么？
我們來(lái)一起梳理一下人工智能與深度學(xué)習(xí)的關(guān)系 。人工智能首先，大家所談?wù)摰娜斯ぶ悄芸梢苑譃閮蓚€(gè)層面：“強(qiáng)人工智能”和“ 弱人工智能” 。其中：弱人工智能希望借鑒人類(lèi)的智能行為，研制出更好的工具以減輕人類(lèi)智力勞動(dòng)，類(lèi)似于“高級(jí)仿生學(xué)” 。強(qiáng)人工智能希望研制出達(dá)到甚至超越人類(lèi)智慧水平的人造物，具有心智和意識(shí)、能根據(jù)自己的意圖開(kāi)展行動(dòng)，可謂“人造智能” 。
AI技術(shù)現(xiàn)在所取得的進(jìn)展和成功，是緣于“弱人工智能”而不是“強(qiáng)人工智能”的研究 。要想讓AI借鑒人類(lèi)的智能行為，關(guān)鍵的一個(gè)環(huán)節(jié)是讓AI模擬人類(lèi)的學(xué)習(xí)行為 。所以，這里面有個(gè)非常關(guān)鍵的技術(shù)，叫做機(jī)器學(xué)習(xí) 。機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)是專(zhuān)門(mén)研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能 。
機(jī)器學(xué)習(xí)是人工智能的核心，是使計(jì)算機(jī)具有智能的根本途徑，其應(yīng)用遍及人工智能的各個(gè)領(lǐng)域，它主要使用歸納、綜合而不是演繹 。目前的機(jī)器學(xué)習(xí)可以分為三大類(lèi)：（1）有監(jiān)督的學(xué)習(xí)數(shù)據(jù)具備特征（features）和預(yù)測(cè)目標(biāo)（labels），又分為：a.二元分類(lèi)簡(jiǎn)單粗暴地理解，即讓AI做是非題b.多元分類(lèi)可以理解為，讓AI做選擇題c.回歸分析可以理解為，讓AI做計(jì)算題（2）無(wú)監(jiān)督的學(xué)習(xí)從現(xiàn)有數(shù)據(jù)并不知道預(yù)測(cè)的答案，無(wú)預(yù)測(cè)目標(biāo)（labels） 。

推薦閱讀