日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁(yè) > 云知道 > >

AI被一件T恤蒙蔽“雙眼” 見(jiàn)識(shí)不夠是根本原因

小知識(shí)


AI被一件T恤蒙蔽“雙眼” 見(jiàn)識(shí)不夠是根本原因



只要穿上一件印有特殊圖案的T恤，就能騙過(guò)AI人體檢測(cè)系統(tǒng)，從而達(dá)到“隱身”效果？
近日，這一場(chǎng)景真實(shí)上演 。 美國(guó)東北大學(xué)和麻省理工學(xué)院等研究機(jī)構(gòu)，共同設(shè)計(jì)了基于對(duì)抗樣本技術(shù)的T恤 。 據(jù)研究人員介紹，這是全球首個(gè)在非剛性物體（如T恤）上，進(jìn)行的物理對(duì)抗性實(shí)驗(yàn) 。 AI人體檢測(cè)攝像頭無(wú)法準(zhǔn)確地檢測(cè)出穿著該T恤的行人，無(wú)論衣服發(fā)生怎樣的褶皺或變形，都能達(dá)到“隱身”效果 。
這件能讓人在A(yíng)I人體檢測(cè)系統(tǒng)下“隱身”的T恤，其背后的原理是什么？這種缺陷會(huì)不會(huì)導(dǎo)致安全問(wèn)題，要如何解決？科技日?qǐng)?bào)采訪(fǎng)人員就此采訪(fǎng)了有關(guān)專(zhuān)家 。
特殊圖案便能騙過(guò)AI的“眼睛”
在本次實(shí)驗(yàn)中，一位穿著白T恤的男性和一位穿著黑T恤的女性從遠(yuǎn)處走來(lái)，在A(yíng)I人體識(shí)別攝像頭下，只能看到穿黑T恤女性的身影 。
這是如何做到的？原來(lái)研究人員使用了一種被稱(chēng)為對(duì)抗攻擊的方法來(lái)欺騙AI 。 仔細(xì)觀(guān)察，白T恤上印有不同的色塊，這些色塊在人眼看來(lái)與普通圖案無(wú)異，但對(duì)于機(jī)器來(lái)說(shuō)，卻會(huì)造成一定干擾 。
中國(guó)科學(xué)院自動(dòng)化研究所王金橋研究員解釋說(shuō)，科研人員對(duì)原T恤上的圖案進(jìn)行修改，通過(guò)技術(shù)手段生成具有較強(qiáng)干擾性的圖案替換原有圖案，改變了T恤原有的視覺(jué)外觀(guān)，使得AI模型對(duì)數(shù)據(jù)標(biāo)簽的預(yù)測(cè)發(fā)生混淆和錯(cuò)誤，從而到達(dá)攻擊的目的 。
“攻擊者通過(guò)構(gòu)造微不足道的擾動(dòng)來(lái)干擾源數(shù)據(jù)，可以使得基于深度神經(jīng)網(wǎng)絡(luò)的人工智能算法輸出攻擊者想要的任何錯(cuò)誤結(jié)果 。 而這類(lèi)被干擾之后的輸入樣本被稱(chēng)之為對(duì)抗樣本 。 ”王金橋說(shuō) 。
對(duì)抗樣本在實(shí)際中主要用來(lái)檢驗(yàn)一些安全系數(shù)較高的系統(tǒng)，通過(guò)對(duì)抗的方式來(lái)提高AI模型的安全性，抵御可能面臨的安全風(fēng)險(xiǎn) 。 比如刷臉支付，它必須具有一定的抗攻擊能力，以便避免災(zāi)難性的后果，比如不能讓攻擊者簡(jiǎn)單地利用照片或者定向修改原輸入就能破解用戶(hù)支付系統(tǒng) 。
有實(shí)驗(yàn)表明，對(duì)于一個(gè)正確分類(lèi)的熊貓圖像，在加入特定對(duì)抗樣本的干擾之后，人眼看到的仍然是熊貓，但是AI圖像識(shí)別模型卻將其分類(lèi)為長(zhǎng)臂猿，且置信度高達(dá)99% 。
不過(guò)，將對(duì)抗性圖案印在衣服上這種欺騙AI的方式有一個(gè)缺陷，只要圖案的角度和形狀發(fā)生變化，就會(huì)輕易被識(shí)破 。 過(guò)去在設(shè)計(jì)對(duì)抗樣本時(shí)，通常采用一些簡(jiǎn)單的變換，比如縮放、平移、旋轉(zhuǎn)、亮度、對(duì)比度調(diào)整以及添加自適應(yīng)的噪聲等 。
王金橋解釋說(shuō)，這些簡(jiǎn)單的變換，在產(chǎn)生靜態(tài)目標(biāo)的對(duì)抗樣本時(shí)往往比較有效，但是針對(duì)行人這種非剛體的動(dòng)態(tài)目標(biāo)則容易失效 。 動(dòng)態(tài)目標(biāo)由于運(yùn)動(dòng)以及姿態(tài)變化，將導(dǎo)致這些簡(jiǎn)單變換發(fā)生較大的改變，從而使得對(duì)抗樣本喪失原有的性質(zhì) 。
“相比過(guò)去設(shè)計(jì)的對(duì)抗樣本，本次攻擊的成功率更高 。 ”福州大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院、福建新媒體行業(yè)技術(shù)開(kāi)發(fā)基地副主任柯逍博士指出，為應(yīng)對(duì)人體移動(dòng)造成的T恤形變，科研人員采用“薄板樣條插值”的方法來(lái)建模行人可能發(fā)生的各種形變 。 同時(shí)，在訓(xùn)練階段使用T恤上棋盤(pán)圖案的格子來(lái)學(xué)習(xí)形變控制點(diǎn)位置變化關(guān)系，使得產(chǎn)生的對(duì)抗樣本更加真實(shí)，對(duì)人體形變的貼合度更高 。
AI視覺(jué)系統(tǒng)受到多方因素干擾
除了對(duì)抗攻擊之外，在實(shí)際應(yīng)用中的很多環(huán)境因素和人為因素，都可能導(dǎo)致AI人體檢測(cè)出現(xiàn)失誤 。
如在自動(dòng)駕駛場(chǎng)景下，由于天氣條件惡劣（如大雪、大霧等）或者光線(xiàn)及路況復(fù)雜，導(dǎo)致前方人員成像模糊等，會(huì)極大影響前方目標(biāo)檢測(cè)性能 。 在監(jiān)控場(chǎng)景下，可疑人員可能通過(guò)衣物、雨傘等的遮擋來(lái)干擾人工智能算法 。

推薦閱讀