但我們不應(yīng)該過分擔(dān)心 。 麻省理工學(xué)院的研究員安尼施?安塞也(Anish Athalye)指出 ， “據(jù)我們所知 ， 這種類型的攻擊目前還沒有在被現(xiàn)實(shí)世界中的惡意組織所采納過 。 但考慮到這一領(lǐng)域的所有研究 ， 似乎很多機(jī)器學(xué)習(xí)系統(tǒng)都非常脆弱 ， 如果現(xiàn)實(shí)世界的系統(tǒng)很容易就遭到了這種攻擊 ， 我也不會(huì)感到驚訝 。 ”
安塞也自己的研究旨在使對抗性攻擊更加健壯 。 一些被歸為“標(biāo)準(zhǔn)”的攻擊只從特定的角度進(jìn)行 ， 而另一些攻擊則不管神經(jīng)網(wǎng)絡(luò)從什么角度觀察物體或圖像都可以進(jìn)行 。 “標(biāo)準(zhǔn)的對抗性例子是通過微調(diào)圖像中的像素 ， 從而將神經(jīng)網(wǎng)絡(luò)對目標(biāo)圖像的分類轉(zhuǎn)移到其它類別——比如說把貓的圖像歸類為鱷梨沙拉醬 。 ”他說 ， “一次又一次地重復(fù)這個(gè)過程 ， 做出微小的改變 ， 結(jié)果是有可能制作出一幅對人來說像一樣?xùn)|西的圖像 ， 卻會(huì)讓機(jī)器誤一位完全不同的東西 。 ”他說 ， 研究表明 ， 標(biāo)準(zhǔn)對抗性攻擊是“脆弱的” ， 在現(xiàn)實(shí)世界中不太可能站得住腳 。
因此 ， 安塞也和他在麻省理工學(xué)院人工智能實(shí)驗(yàn)室LabSix的同事們開發(fā)了更好的示例 ， 優(yōu)化了攻擊圖像 ， 使其不用考慮角度或距離問題都可起作用 。 他說:“我們還把它擴(kuò)展到3D圖像 ， 這樣你就可以有一個(gè)在人類看起來像烏龜?shù)奈矬w ， 但從機(jī)器角度觀察卻完全不同 。 ”這其中就包括他的3D打印玩具龜 ， 但在ImageNet分類器看來 ， 它就像一把來復(fù)槍 。
如果攻擊只能以精確的角度起作用 ， 或者干擾因素很容易被人類發(fā)現(xiàn) ， 那么攻擊就沒有什么用處 。 以自動(dòng)駕駛汽車為例 ， 它們往往通過依賴神經(jīng)網(wǎng)絡(luò)識別物體的計(jì)算機(jī)視覺技術(shù)來觀察外部世界 。 這樣的話 ， 任何對抗性的招數(shù)都必須在每個(gè)觀察角度起作用 ， 也不會(huì)受到遠(yuǎn)近距離的影響 ， 更不會(huì)被人類司機(jī)注意到 ， 畢竟沒有人能讀懂一個(gè)被涂過油漆的交通標(biāo)志 。 包括費(fèi)爾南德斯(Fernandes)和宋(Song)在內(nèi)的研究人員都成功地做到了這一點(diǎn) ， 他們使用不會(huì)模糊標(biāo)識的細(xì)微油漆標(biāo)記以及看起來像涂鴉的貼紙干擾路邊的停車標(biāo)志 ， 卻導(dǎo)致神經(jīng)網(wǎng)絡(luò)將“停止”解釋為速度限制 。
“從一個(gè)較高的層次看,這種攻擊的方式是訪問目標(biāo)深度學(xué)習(xí)模型,然后運(yùn)行一個(gè)算法來計(jì)算需要對物理對象進(jìn)行何種編輯,從而使生成的圖像從人類視覺看與某種原始物體相似,但對于機(jī)器學(xué)習(xí)模型來說完全是另一種東西,”費(fèi)爾南德斯說 。 “在這種情況下 ， 我們的算法輸出需要在圖像中添加的元素 。 在我們的例子中就是貼紙 ， 所以我們把它們打印在紙上 ， 然后簡單地貼在一個(gè)路邊的停止標(biāo)志上 。
這沒有理由引起恐慌 。 費(fèi)爾南德斯解釋說 ， 僅僅在停止交通標(biāo)志上貼上這些貼紙是不會(huì)讓自動(dòng)駕駛汽車發(fā)生事故的 。 自動(dòng)駕駛汽車會(huì)使用多個(gè)傳感器和算法 ， 不會(huì)就任何單一的機(jī)器學(xué)習(xí)模型做出決定 。 “因此 ， 盡管我們的工作可以愚弄單一的機(jī)器學(xué)習(xí)模型 ， 但這并不意味著這種愚弄就足以造成真實(shí)傷害 ， ”他說 。
開發(fā)對抗性的示例并非易事 ， 通常需要搞清楚包括模型架構(gòu)在內(nèi)的神經(jīng)網(wǎng)絡(luò)技術(shù)細(xì)節(jié) ， 這往往稱為“白盒”訪問 。 也就是說 ， 真正具有強(qiáng)大破壞性的攻擊并不需要詳細(xì)的神經(jīng)網(wǎng)絡(luò)信息;事實(shí)可能會(huì)證明 ， 這些黑盒攻擊對外部攻擊系統(tǒng)更有用 ， 因?yàn)樗鼈兛梢詰?yīng)用到不同的神經(jīng)網(wǎng)絡(luò) 。
現(xiàn)在需要開展工作 ， 從而防止機(jī)器學(xué)習(xí)因其固有的弱點(diǎn)而變得無用 。 雖然已經(jīng)有了很多的解決方案 ， 但到目前為止還沒有明確的防御措施 。 密歇根大學(xué)(University of Michigan)研究員凱文??？嘶魻柼?Kevin Eykholt)表示:“檢測對抗性示例的防御措施 ， 以及消除對抗性示例存在的防御措施 ， 是相關(guān)研究領(lǐng)域的一個(gè)活躍領(lǐng)域 。 很多新防御被提出 ， 而又以非?？斓乃俣缺淮蚱?。 ”他補(bǔ)充說:“在設(shè)計(jì)機(jī)器學(xué)習(xí)系統(tǒng)的時(shí)候不是盲目的設(shè)計(jì)系統(tǒng) ， 重要的是要注意并可能減輕對抗性攻擊的特定風(fēng)險(xiǎn) ， 并考慮到一旦發(fā)生相關(guān)情況該做出何種反應(yīng) 。 ”
推薦閱讀
- 外媒：中國引入人工智能技術(shù)優(yōu)化居家養(yǎng)老服務(wù)
- 誰是鐘離無鹽
- 誰是重慶第一家火鍋
- 外媒：AI與中國實(shí)體經(jīng)濟(jì)正加速融合釋放巨大潛力
- 誰有關(guān)于立春的小故事呢
- 誰知道高斯定義是什么
- 誰知道叫花雞哪里特產(chǎn)
- 誰知道蓮子的別稱還有藕的別稱
- 誰知道陸游叫被后人稱為什么啊
- 誰知道三角梅葉子的資料