日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 云知道 > >

誰才是讓AI產(chǎn)生偏見的幕后推手？( 二 )

小知識(shí)科普識(shí)別偏見算法機(jī)器學(xué)習(xí)


柯逍介紹說， 在算法設(shè)計(jì)的時(shí)候， 往往會(huì)選擇L1損失函數(shù)或者L2損失函數(shù) 。 若在將一個(gè)低分辨率人臉圖像還原成高分辨率人臉圖像的方法中， 使用L2損失函數(shù)， 得到的大多數(shù)人臉圖像更像白人；而使用L1損失函數(shù)， 得到大多數(shù)人臉圖像更像黑人 。 這說明由于損失函數(shù)的選擇不同， 某個(gè)群體（黑人或白人）在一定程度上就會(huì)受算法的忽視， 進(jìn)而產(chǎn)生偏見 。
這當(dāng)中還存在另一種情況， 假如數(shù)據(jù)帶有少量的偏見， 算法系統(tǒng)會(huì)將其放大， 并變得更具有偏見 。 一項(xiàng)研究表明， 如果初始數(shù)據(jù)中， 下廚與女性的聯(lián)系概率是66%， 將這些數(shù)據(jù)喂給人工智能后， 其預(yù)測(cè)下廚與女性聯(lián)系起來的概率會(huì)放大到84% 。 一般來說， 機(jī)器學(xué)習(xí)系統(tǒng)會(huì)選擇最符合通用情況的策略， 然而這樣會(huì)導(dǎo)致一些非典型情況或較為特殊情況被忽略 。
除此之外， 產(chǎn)生偏見的原因還有相似性的偏見 。 信息推送系統(tǒng)總會(huì)向用戶推薦他已經(jīng)看到、檢索過的相關(guān)內(nèi)容 。 最終的結(jié)果是導(dǎo)致流向用戶的信息流都是基于現(xiàn)存的觀點(diǎn)和看法 。 “系統(tǒng)會(huì)自動(dòng)幫助用戶屏蔽與他們意見相左的信息， 這就催生了一個(gè)信息泡沫， 用戶看到的都是人工智能讓你看到的 。 這種偏見根本上也是數(shù)據(jù)與算法共同作用產(chǎn)生的 。 ”柯逍說 。
“總體而言， 偏見還是源于規(guī)則制定者 。 ”中銳網(wǎng)絡(luò)人工智能產(chǎn)品總監(jiān)葉亮說， 工程師從頭到尾參與了整個(gè)系統(tǒng)設(shè)計(jì)， 尤其是機(jī)器學(xué)習(xí)的目標(biāo)設(shè)定 。 算法就好像一只嗅探犬， 當(dāng)工程師向它展示特定東西的氣味后， 它才能夠更加精準(zhǔn)地找到目標(biāo) 。
算法糾偏工具已經(jīng)上崗
近期， 國際多家機(jī)構(gòu)相繼宣布禁用人臉識(shí)別技術(shù) 。 有色人種被還原成白人的事件， 再次掀起了人們對(duì)于人工智能系統(tǒng)產(chǎn)生偏見的批判浪潮， 也再次警醒人們， 技術(shù)帶有偏見所帶來的潛在危機(jī) 。
偏見可能導(dǎo)致無辜者蒙冤 。 在2018年夏天， 英國媒體就報(bào)道過， 由于人臉識(shí)別技術(shù)的誤判， 導(dǎo)致一名年輕黑人男性被誤認(rèn)為嫌疑犯， 在公眾場合被警察搜身 。
也有報(bào)告顯示， 一些國外執(zhí)法機(jī)構(gòu)可以根據(jù)AI識(shí)別出的發(fā)色、膚色和面部特征對(duì)視頻中的人物進(jìn)行檢索 。 這種技術(shù)上的偏見也在一定程度上放大了人們的偏見 。
除了對(duì)人種與性別的識(shí)別偏差之外， 人臉識(shí)別技術(shù)還因其在侵犯隱私方面的問題而引起擔(dān)憂 。 2020年初， 美國一家人臉識(shí)別技術(shù)公司便受到了嚴(yán)密的審查， 有關(guān)部門發(fā)現(xiàn)， 其面部識(shí)別工具由超過30億張圖像構(gòu)建而成， 然而這些圖像大部分都是通過抓取社交媒體網(wǎng)站收集的， 并且已被許多企業(yè)廣泛使用 。
偏見存在的同時(shí)， 一批新興的算法糾偏工具也涌入了人工智能 。
早在2018年， 臉書曾發(fā)布一個(gè)算法模型， 表示會(huì)在算法因種族、性別、年齡等因素做出不公正判斷時(shí)發(fā)出警告以提醒開發(fā)者；2019年麻省理工學(xué)院就提出了一種糾偏算法， 可以通過重新采樣來自動(dòng)消除數(shù)據(jù)偏見 。
那么克服偏見還需要人工智能技術(shù)做出哪些努力？“開源方法和開源技術(shù)都有著極大的潛力改變算法偏見 。 ”葉亮指出， 開源方法本身十分適合消除偏見程序， 開源社區(qū)已經(jīng)證明它能夠開發(fā)出強(qiáng)健的、經(jīng)得住嚴(yán)酷測(cè)試的機(jī)器學(xué)習(xí)工具 。 如果線上社團(tuán)、組織和院校能夠接受這些開源特質(zhì)， 那么由開源社區(qū)進(jìn)行消除算法偏見的機(jī)器設(shè)計(jì)將會(huì)順利很多 。
【誰才是讓AI產(chǎn)生偏見的幕后推手？】柯逍認(rèn)為， 可以看出偏見基本來源于數(shù)據(jù)與算法， 加強(qiáng)對(duì)人工智能所使用的數(shù)據(jù)、算法以及模型的評(píng)估， 能夠在一定程度上緩解潛在的、可導(dǎo)致偏見與歧視的因素 。 同時(shí)， 人工智能的偏見其實(shí)都是人類偏見的反映與放大， 因此人們放下偏見才是最根本的解決方案 。

推薦閱讀