日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁(yè) > 云知道 > >

誰(shuí)才是讓AI產(chǎn)生偏見(jiàn)的幕后推手？

小知識(shí)科普識(shí)別偏見(jiàn)算法機(jī)器學(xué)習(xí)


誰(shuí)才是讓AI產(chǎn)生偏見(jiàn)的幕后推手？



美國(guó)麻省理工學(xué)院媒體實(shí)驗(yàn)室研究項(xiàng)目顯示， 人工智能識(shí)別淺色皮膚男性的平均錯(cuò)誤率不超過(guò)1%， 識(shí)別深色皮膚女性的平均錯(cuò)誤率達(dá)35%……
人臉識(shí)別所導(dǎo)致的偏見(jiàn)問(wèn)題一直受到廣泛關(guān)注 。 近期， 一篇關(guān)于圖像超分辨率的論文引發(fā)了對(duì)于產(chǎn)生偏見(jiàn)原因的新?tīng)?zhēng)論 。
網(wǎng)友利用論文中的開(kāi)源代碼進(jìn)行了模型推理， 在使用時(shí)發(fā)現(xiàn)， 非白人面孔的高糊照片被還原成了一張白人面孔 。 對(duì)此， 2018年圖靈獎(jiǎng)得主、AI領(lǐng)軍人物楊立昆（Yann LeCun）在推特上指出， 當(dāng)數(shù)據(jù)有偏見(jiàn)時(shí)， 機(jī)器學(xué)習(xí)系統(tǒng)就變得有偏見(jiàn) 。 而這一觀點(diǎn)， 掀起一場(chǎng)爭(zhēng)論浪潮 。 有人說(shuō)， 機(jī)器學(xué)習(xí)系統(tǒng)產(chǎn)生偏見(jiàn)不應(yīng)只歸咎于數(shù)據(jù)集， 這種甩鍋的做法是不公平的， 還有技術(shù)、人類觀念等原因 。
現(xiàn)在還沒(méi)有100%無(wú)偏見(jiàn)的數(shù)據(jù)集
隨著人工智能時(shí)代的到來(lái)， 人臉識(shí)別技術(shù)正被越來(lái)越廣泛地應(yīng)用在執(zhí)法、廣告及其他領(lǐng)域 。 然而， 這項(xiàng)技術(shù)在識(shí)別性別、膚色等過(guò)程中， 存在著一定偏見(jiàn) 。
“在美國(guó)， 人臉識(shí)別系統(tǒng)中白人男性的識(shí)別率最高， 而黑皮膚女性的識(shí)別率則最低；在亞洲國(guó)家的人臉識(shí)別系統(tǒng)中黃種人的識(shí)別率相比白種人的識(shí)別率差距就會(huì)小一些 。 ”福州大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院、福建省新媒體行業(yè)技術(shù)開(kāi)發(fā)基地副主任柯逍博士說(shuō) 。
這次陷入爭(zhēng)論中心的人臉識(shí)別偏見(jiàn)問(wèn)題其實(shí)是一個(gè)存在很久、熱度很高的話題 。
早前， 美國(guó)麻省理工學(xué)院媒體實(shí)驗(yàn)室主導(dǎo)的一項(xiàng)名為《Gender Shades》的研究項(xiàng)目在研究了各個(gè)前沿科技公司的面部識(shí)別系統(tǒng)后發(fā)現(xiàn)， 各系統(tǒng)在識(shí)別男性面臉與淺色面臉?lè)矫姹憩F(xiàn)更佳， 淺色皮膚男性的平均識(shí)別錯(cuò)誤率不超過(guò)1%， 淺色皮膚女性的平均識(shí)別錯(cuò)誤率約為7%， 深色皮膚男性的平均識(shí)別錯(cuò)誤率約為12%， 深色皮膚女性的平均識(shí)別錯(cuò)誤率則高達(dá)35% 。
那么本次爭(zhēng)議中， 楊立昆指出的數(shù)據(jù)集問(wèn)題是如何產(chǎn)生偏見(jiàn)的？有無(wú)100%沒(méi)有偏見(jiàn)的數(shù)據(jù)集？“不均衡的數(shù)據(jù)， 導(dǎo)致了系統(tǒng)在學(xué)習(xí)時(shí)， 更好地?cái)M合了比重較大的數(shù)據(jù)， 而對(duì)占比小的數(shù)據(jù)的擬合則表現(xiàn)不佳， 這就可能最終導(dǎo)致了偏見(jiàn)的產(chǎn)生 。 ”柯逍介紹說(shuō)， 如一個(gè)常見(jiàn)的人臉識(shí)別數(shù)據(jù)集LFW， 數(shù)據(jù)集中有近77%的男性， 同時(shí)超過(guò)80%是白人 。
“目前， 幾乎可以肯定的是沒(méi)有100%無(wú)偏見(jiàn)的數(shù)據(jù)集 。 ”柯逍舉例說(shuō)， 在收集數(shù)據(jù)時(shí)， 可以針對(duì)性地讓男性與女性數(shù)目一樣， 甚至也可以讓各種膚色的數(shù)據(jù)數(shù)目都一樣 。 但是， 其中可能大部分人是沒(méi)有戴眼鏡的， 這可能就對(duì)戴眼鏡的人進(jìn)行識(shí)別時(shí)帶來(lái)了偏見(jiàn) 。 進(jìn)一步講， 各個(gè)年齡段的人臉也很難做到完全一致， 導(dǎo)致最后學(xué)習(xí)到的模型可能對(duì)戴眼鏡、年長(zhǎng)或年幼的人臉產(chǎn)生偏見(jiàn) 。 所以有時(shí)候討論數(shù)據(jù)偏見(jiàn)的產(chǎn)生， 會(huì)發(fā)現(xiàn)其產(chǎn)生的原因是考慮問(wèn)題的角度不同 。
出現(xiàn)偏見(jiàn)不能只歸咎于數(shù)據(jù)
眾多專家也指出， 數(shù)據(jù)可能是機(jī)器學(xué)習(xí)系統(tǒng)中偏見(jiàn)的來(lái)源， 但不是唯一的來(lái)源 。
其實(shí)， 在本次爭(zhēng)議中， 楊立昆在推特中已經(jīng)很明確地表示， 他的本意并不是說(shuō)問(wèn)題都出在數(shù)據(jù)集上， 只是針對(duì)這篇論文， 其算法在特定場(chǎng)景下， 換個(gè)數(shù)據(jù)集就能解決問(wèn)題， 但并不是說(shuō)所有的機(jī)器學(xué)習(xí)系統(tǒng)偏見(jiàn)都來(lái)源于數(shù)據(jù)集 。
那么， 誰(shuí)才是產(chǎn)生偏見(jiàn)真正的“幕后推手”？
AI學(xué)習(xí)過(guò)程應(yīng)該是架構(gòu)、數(shù)據(jù)、訓(xùn)練算法等的相互作用 。 算法包括了特征的選擇、損失函數(shù)的選擇、訓(xùn)練方法的選擇以及超參數(shù)調(diào)節(jié)等， 其本身的缺陷也是偏見(jiàn)產(chǎn)生的一個(gè)原因 。
2019年12月， 美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)， 在大多數(shù)當(dāng)前評(píng)估的人臉識(shí)別算法中， 跨人種差異確實(shí)存在廣泛的準(zhǔn)確性偏差 。

推薦閱讀