无码精品人妻一区二美国区三区 ,丰满的妽妽用身体满足了我电影 ,欧美亚洲中文字幕在线播放

自編碼器（Auto Encoder, AE）屬于無監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型。目的就是學(xué)習(xí)到數(shù)據(jù)的隱含特征，從而實(shí)現(xiàn)數(shù)據(jù)降維和數(shù)據(jù)生成。
一個(gè)典型的AE模型如下圖所示：

包括五個(gè)部分：輸入數(shù)據(jù)x、編碼器f、編碼層h、解碼器g以及重構(gòu)層r 。其中h=f(x),r=g(f(x)) 。
【什么是自編碼器有什么用,什么是自編碼器】其訓(xùn)練過程過程就是最小化重構(gòu)誤差，即重構(gòu)數(shù)據(jù)r和輸入數(shù)據(jù)x之間的差距。
編碼層的神經(jīng)元個(gè)數(shù)會(huì)比較少，也就是呈現(xiàn)兩頭大中間小的沙漏模型，這樣在完成訓(xùn)練之后，就可以用少量的編碼層的數(shù)據(jù)來表示出原始數(shù)據(jù) 。（因?yàn)閷?duì)編碼進(jìn)行解碼就可以得到近似的原始數(shù)據(jù)）
這就相當(dāng)于實(shí)現(xiàn)了PCA的功能，只不過PCA是線性模型。而自編碼器在加入非線性的激活函數(shù)之后，能夠?qū)崿F(xiàn)比PCA更為復(fù)雜的模型表示。
比如下面的這個(gè)隊(duì)MINIST數(shù)據(jù)集，進(jìn)行自編碼器的降維。
輸入數(shù)據(jù)是28*28，即784維；編碼器和解碼器都是用了兩個(gè)隱含層分別為500維和300維 ?？梢钥吹绞窃诓粩嘟档吞卣鞯木S度了，最終得到隱含的二維編碼特征。

此外自編碼器通過加入不同的限制條件，出現(xiàn)了許多變種。如稀疏自編碼器（Sparse autoencoder）就是在損失函數(shù)中加入編碼層權(quán)重的L1范式，從而實(shí)現(xiàn)編碼的稀疏性，相當(dāng)于能夠?qū)W習(xí)到更加有用的特征，可以用于分類等問題；降噪編碼器（Denoising autoencoder，DAE）就是在輸入數(shù)據(jù)時(shí)，向數(shù)據(jù)中加入部分噪聲，這樣就能夠?qū)W習(xí)到更具魯棒性的特征。變分自編碼器（VAE）限定編碼層大致服從于標(biāo)準(zhǔn)正態(tài)分布，那么就可以通過隨機(jī)采樣的方式，再通過解碼生成大量的全新數(shù)據(jù) 。
自編碼器（Auto-encoder）是一種無監(jiān)督學(xué)習(xí)算法，訓(xùn)練樣本集合是沒有帶類別標(biāo)簽的，即

自編碼器在機(jī)器學(xué)習(xí)中具有廣泛的應(yīng)用，它的基礎(chǔ)是神經(jīng)網(wǎng)絡(luò)算法。

在一個(gè)神經(jīng)網(wǎng)絡(luò)中，當(dāng)我們?cè)O(shè)定( a3=x)，即輸入等于輸出時(shí)，神經(jīng)網(wǎng)絡(luò)相當(dāng)于模擬了一個(gè)輸入到自身的映射。一個(gè)自編碼器就是這樣一種三層的神經(jīng)網(wǎng)絡(luò)，如圖所示。

從第一層到第二層相當(dāng)于是一個(gè)編碼（encode）的過程，從第二層到第三層則相當(dāng)于是一個(gè)解碼（decode）的過程。更形象的表示見下圖：

在一個(gè)自編碼器中，由于只有無標(biāo)簽數(shù)據(jù)，我們將輸入信息（input）輸入一個(gè)編碼器（encoder），就會(huì)得到一個(gè)編碼（code），之后再通過一個(gè)解碼器（decoder），就會(huì)得到一個(gè)輸出信息（output）。如果這個(gè)輸出信息和原始的輸入信號(hào)是一樣的，我們就有理由相信，中間得到的編碼 code 是輸入信息 input的另外一個(gè)表示。通過調(diào)整編碼器和解碼器中的參數(shù)，來最小化重構(gòu)誤差，此時(shí)就可以得到編碼 code 。從第二層（隱含層）到第三層（輸出層）是正向運(yùn)算，因此自編碼器的第二層可以完整地描述輸入信號(hào)，也就是說，我們可以從第二層a2中無損地將輸入信號(hào)重構(gòu)出來，也即所謂的自編碼。