日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

abcd游戲怎么玩 黑魔法猜東西游戲原理( 三 )




abcd游戲怎么玩 黑魔法猜東西游戲原理


的分布 。那么我們的目標(biāo)便是:最小化測(cè)試誤差
abcd游戲怎么玩 黑魔法猜東西游戲原理


(testing error,也稱為population risk或generalization error):
abcd游戲怎么玩 黑魔法猜東西游戲原理



2.2 監(jiān)督學(xué)習(xí)的誤差
監(jiān)督學(xué)習(xí)一般有如下的步驟:
?
第一步:選取一個(gè)假設(shè)空間(測(cè)試函數(shù)的一個(gè)集合)
abcd游戲怎么玩 黑魔法猜東西游戲原理


(m正比于測(cè)試空間的維數(shù));
?
第二步:選取一個(gè)損失函數(shù)進(jìn)行優(yōu)化 。通常,我們會(huì)選擇經(jīng)驗(yàn)誤差(empirical risk)來擬合數(shù)據(jù):
abcd游戲怎么玩 黑魔法猜東西游戲原理


有時(shí) , 我們還會(huì)加上其他的懲罰項(xiàng) 。
?
第三步:求解優(yōu)化問題 , 如:
· 梯度下降:
abcd游戲怎么玩 黑魔法猜東西游戲原理


· 隨機(jī)梯度下降:
abcd游戲怎么玩 黑魔法猜東西游戲原理



abcd游戲怎么玩 黑魔法猜東西游戲原理


是從1,…n中隨機(jī)選取的 。
如果把機(jī)器學(xué)習(xí)輸出的結(jié)果記
abcd游戲怎么玩 黑魔法猜東西游戲原理


 , 那么總誤差便是
abcd游戲怎么玩 黑魔法猜東西游戲原理


。我們?cè)俣x:
?
abcd游戲怎么玩 黑魔法猜東西游戲原理


是在假設(shè)空間里最好的逼近;
?
abcd游戲怎么玩 黑魔法猜東西游戲原理


是在假設(shè)空間里 , 基于數(shù)據(jù)集S最好的逼近 。
由此,我們便可以把誤差分解成三部分:
abcd游戲怎么玩 黑魔法猜東西游戲原理


?
abcd游戲怎么玩 黑魔法猜東西游戲原理


是逼近誤差(approximation error):完全由假設(shè)空間的選取所決定;
?
abcd游戲怎么玩 黑魔法猜東西游戲原理


是估計(jì)誤差(estimation error):由于數(shù)據(jù)集大小有限而帶來的額外的誤差;
?
abcd游戲怎么玩 黑魔法猜東西游戲原理


是優(yōu)化誤差(optimization error):由訓(xùn)練(優(yōu)化)帶來的額外的誤差 。
2.3 逼近誤差
我們下面集中討論逼近誤差(approximation error) 。
我們先用傳統(tǒng)方法傅立葉變換做一個(gè)對(duì)比:
abcd游戲怎么玩 黑魔法猜東西游戲原理


如果我們用離散的傅立葉變換來逼近:
abcd游戲怎么玩 黑魔法猜東西游戲原理


其誤差
abcd游戲怎么玩 黑魔法猜東西游戲原理


便是正比于
abcd游戲怎么玩 黑魔法猜東西游戲原理


,毫無疑問地受到維度災(zāi)難的影響 。
而如果一個(gè)函數(shù)可以表示成期望的形式:
abcd游戲怎么玩 黑魔法猜東西游戲原理



abcd游戲怎么玩 黑魔法猜東西游戲原理


是測(cè)度
abcd游戲怎么玩 黑魔法猜東西游戲原理


的獨(dú)立同分布樣本,我們有:

推薦閱讀