日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 云知道 > >

AI被一件T恤蒙蔽“雙眼” 見識不夠是根本原因( 二 )

小知識


“排除本身緊急制動功能問題，具備行人檢測功能的汽車也存在著無法及時、準確地檢測出小目標人體等問題 。 ”柯逍舉例說，美國汽車協(xié)會曾對具備行人檢測功能的多個品牌車輛做過一個測試，測試中用到的被撞目標包括成人假人與兒童假人 。 當車前出現(xiàn)兒童或汽車時速達到48千米時，僅一個品牌有一定概率檢測出行人，其余3家品牌在兩個場景下均未檢測到行人 。
為何在AI視覺識別技術(shù)下的目標檢測模型如此脆弱？“在人類眼中，輕微的圖像干擾并不會影響最終的判斷，但對于AI模型來說卻不是如此 。 ”柯逍舉例說，有相關(guān)實驗表明，一個測
試表現(xiàn)良好的圖像檢測與識別分類器，并沒有像人類一樣學習與理解目標圖像真正底層的信息，而只是在訓練樣本上構(gòu)建了一個表現(xiàn)良好的機器學習模型 。
據(jù)了解，現(xiàn)有的AI視覺識別技術(shù)通常采用深度神經(jīng)網(wǎng)絡，本質(zhì)上是一種特征深層映射，只是學習數(shù)據(jù)的統(tǒng)計特征或數(shù)據(jù)之間的關(guān)聯(lián)關(guān)系，對數(shù)據(jù)量以及數(shù)據(jù)本身的豐富程度依賴較高，數(shù)據(jù)越多越豐富，則機器學習到的用于識別目標物的特征越具有判識度，也越能反映關(guān)聯(lián)關(guān)系 。
王金橋表示，但真實情況是，數(shù)據(jù)往往非常有限，使得神經(jīng)網(wǎng)絡學習到的模式也比較有限，難以讓神經(jīng)網(wǎng)絡模型“見多識廣”，導致其面對從未見過的數(shù)據(jù)時表現(xiàn)往往不盡如人意 。 另一方面，這種統(tǒng)計特征分布以及關(guān)聯(lián)關(guān)系，一旦被攻擊者獲知或者破解，就有可能針對性地修改輸入樣本，從而改變模型的輸出，達到攻擊的目的 。
AI視覺失靈易引發(fā)安全問題
穿上特殊T恤，達到所謂的“隱身”效果，其實就是混淆AI的視覺系統(tǒng) 。 AI目標檢測技術(shù)的這種缺陷是否會導致安全問題的發(fā)生？
柯逍表示，美國汽車協(xié)會的汽車輔助駕駛案例中，行人被漏檢或者未能及時被檢測到，都可能導致交通事故的產(chǎn)生 。 此外，安防監(jiān)控漏檢危險人物與物品也可能導致安全隱患，不法分子可以利用對抗攻擊來發(fā)現(xiàn)目標檢測系統(tǒng)的漏洞，并進行攻擊 。
“安全問題的產(chǎn)生可能有模型本身缺陷問題，如泛化性能不足，訓練數(shù)據(jù)單一，存在過擬合等現(xiàn)象 。 此時，應當盡可能地豐富訓練數(shù)據(jù)，并在模型訓練過程中加入防止過擬合的技術(shù)手段等來提升模型的實戰(zhàn)能力 。 ”王金橋認為，另一方面，實際系統(tǒng)中往往也需要考慮模型安全來增強結(jié)果可信度和模型的健壯性，加入攻擊模型的預判，提高對抗樣本的判別能力，從而降低安全風險 。
當前，科研人員正不斷提出精度更高、速度更快的AI目標檢測模型，用于解決目標檢測技術(shù)存在的漏檢、誤檢、實時性與魯棒性不強等問題 。 對于未來技術(shù)安全的構(gòu)建，還需要做哪些努力？
王金橋認為，人工智能目前總體還處于起步階段，現(xiàn)有的人工智能算法本質(zhì)上還是學習簡單的映射關(guān)系，并未真正地理解數(shù)據(jù)背后內(nèi)容及潛在的因果關(guān)系 。 因此，其理論創(chuàng)新和產(chǎn)業(yè)應用還面臨著諸多的技術(shù)難點，需要科研人員持續(xù)攻關(guān)，實現(xiàn)真正意義上的智能以降低應用的風險 。
【AI被一件T恤蒙蔽“雙眼” 見識不夠是根本原因】“其次，科研人員在進行技術(shù)研究以及新技術(shù)的應用過程中，應當盡可能地考慮各種安全問題，加入對抗樣本防攻擊模型，并做好相應的處理措施 。 ”王金橋建議，從社會層面也應當建立和完善人工智能相關(guān)的法律法規(guī)，對技術(shù)的應用范圍加以引導，對可能出現(xiàn)的安全問題作出相應的指導和規(guī)范，營造更加全面和成熟的科技創(chuàng)新環(huán)境 。

推薦閱讀