安塞也說(shuō) ， 有一個(gè)想法很有希望 ， 那就是訓(xùn)練神經(jīng)網(wǎng)絡(luò) ， 通過(guò)對(duì)抗性示例包含在訓(xùn)練數(shù)據(jù)中來(lái)提高識(shí)別神經(jīng)網(wǎng)絡(luò)的健壯性 。 他說(shuō):“通過(guò)這種方式 ， 神經(jīng)網(wǎng)絡(luò)‘學(xué)會(huì)’對(duì)對(duì)抗性示例有一定的抵抗力 。 ”
費(fèi)爾南德斯說(shuō) ， 在機(jī)器學(xué)習(xí)的核心發(fā)現(xiàn)這樣的缺陷并不令人驚訝 ， 因?yàn)橄到y(tǒng)通常在普及之前并不會(huì)經(jīng)過(guò)良好的測(cè)試 。 “隨著機(jī)器學(xué)習(xí)變得越來(lái)越普遍 ， 安全研究人員會(huì)開(kāi)始從對(duì)抗的角度來(lái)研究它 ， 并發(fā)現(xiàn)其中一些可以利用的東西 ， 這是很自然的 ， ” 費(fèi)爾南德斯如是指出 。
這不僅是一個(gè)技術(shù)缺陷 ， 也是一個(gè)哲學(xué)假設(shè) 。 首先 ， 當(dāng)攻擊者可以自由操縱數(shù)據(jù)獲取優(yōu)勢(shì)時(shí) ， 機(jī)器學(xué)習(xí)開(kāi)發(fā)人員會(huì)假定訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)是相似的 。 第二 ， 我們往往認(rèn)為神經(jīng)網(wǎng)絡(luò)像我們一樣思考 ， 但實(shí)際上并不是如此;神經(jīng)網(wǎng)絡(luò)用來(lái)識(shí)別玩具龜?shù)脑嘏c我們所尋找的不同 ， 而這種差異性正是攻擊的突破口 。 費(fèi)爾南德斯說(shuō):“神經(jīng)網(wǎng)絡(luò)是非常粗略地模擬人類大腦 。 試圖將它們視為與我們大腦類似的運(yùn)作方式 ， 可能并不是思考它們的最佳方式 。 ”
推薦閱讀
- 外媒：中國(guó)引入人工智能技術(shù)優(yōu)化居家養(yǎng)老服務(wù)
- 誰(shuí)是鐘離無(wú)鹽
- 誰(shuí)是重慶第一家火鍋
- 外媒：AI與中國(guó)實(shí)體經(jīng)濟(jì)正加速融合釋放巨大潛力
- 誰(shuí)有關(guān)于立春的小故事呢
- 誰(shuí)知道高斯定義是什么
- 誰(shuí)知道叫花雞哪里特產(chǎn)
- 誰(shuí)知道蓮子的別稱還有藕的別稱
- 誰(shuí)知道陸游叫被后人稱為什么啊
- 誰(shuí)知道三角梅葉子的資料