很多人在上學(xué)的時(shí)候都有這樣的經(jīng)歷 ， 在經(jīng)過了一個(gè)寒假返校后 ， 發(fā)現(xiàn)前一學(xué)期學(xué)到的內(nèi)容有的已經(jīng)忘了 。 在見識(shí)過人工智能PK人類的屢屢勝績后 ， 有人不免羨慕AI強(qiáng)大的學(xué)習(xí)本領(lǐng) ， 但事實(shí)上人工智能的“記性”并不如你想象的那樣好 ， 如果你像人工智能系統(tǒng)那樣學(xué)習(xí) ， 很可能在學(xué)習(xí)新知識(shí)的同時(shí) ， 大腦便會(huì)逐漸忘了之前的內(nèi)容 ， 其原因就在于人工智能遭遇了“災(zāi)難性遺忘” 。
近日 ， 來自谷歌大腦的最新研究發(fā)現(xiàn) ， 在街機(jī)學(xué)習(xí)環(huán)境的由多個(gè)子任務(wù)組成的單任務(wù)場景中也存在著“災(zāi)難性遺忘” 。 特別像在“蒙特祖瑪復(fù)仇”這種探索型游戲里 ， 場景變化較大 ， 會(huì)出現(xiàn)學(xué)習(xí)完當(dāng)前游戲場景后 ， 忘記上一個(gè)游戲場景知識(shí)的情況 。
那么人工智能為什么會(huì)產(chǎn)生“災(zāi)難性遺忘”？目前解決“災(zāi)難性遺忘”的方案有哪些？難點(diǎn)在哪？就此 ， 科技日報(bào)采訪人員采訪了有關(guān)專家 。
學(xué)一個(gè)忘一個(gè) 深度學(xué)習(xí)效率低下
自從阿爾法圍棋（AlphaGo）相繼戰(zhàn)勝多名圍棋冠軍后 ， 深度學(xué)習(xí)已經(jīng)成為眾多實(shí)現(xiàn)人工智能的方法中最耀眼的“明星” ， 也是各大研發(fā)機(jī)構(gòu)角逐的主戰(zhàn)場 。 而谷歌大腦團(tuán)隊(duì)這次面臨的“災(zāi)難性遺忘” ， 正是人工智能深度學(xué)習(xí)中所面臨的一個(gè)普遍且嚴(yán)重的問題 。
“‘災(zāi)難性遺忘’指的是人工智能系統(tǒng) ， 如深度學(xué)習(xí)模型 ， 在學(xué)習(xí)新任務(wù)或適應(yīng)新環(huán)境時(shí) ， 忘記或喪失了以前習(xí)得的一些能力 。 ”騰訊人工智能實(shí)驗(yàn)室副主任俞棟博士在接受科技日報(bào)采訪人員采訪時(shí)說 ， “災(zāi)難性遺忘”會(huì)造成人工智能系統(tǒng)在原有任務(wù)或環(huán)境中的性能大幅下降 。
美亞柏科信息中心總經(jīng)理魏朝東介紹 ， 在深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)不同任務(wù)的時(shí)候 ， 相關(guān)權(quán)重的快速變化會(huì)損害先前任務(wù)的表現(xiàn) ， 通俗來說 ， 就是在學(xué)習(xí)中像猴子搬苞谷 ， 撿一個(gè)丟一個(gè) ， 記住了新知識(shí) ， 也有可能會(huì)忘掉了老知識(shí) 。
【學(xué)了后面忘前面，治療AI“健忘癥”還難有良策】正是源于此 ， “災(zāi)難性遺忘”的存在 ， 一定程度上限制了人工智能在一些場景中的應(yīng)用 。
福州大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院、福建省新媒體行業(yè)技術(shù)開發(fā)基地副主任柯逍博士舉例說 ， 如一個(gè)AI圖像識(shí)別系統(tǒng) ， 當(dāng)需要添加一個(gè)新的類別的物體時(shí) ， 就不得不把原先的所有物體都再學(xué)習(xí)一次 。 如在文物鑒定系統(tǒng)中 ， 當(dāng)有一天發(fā)現(xiàn)原始數(shù)據(jù)中有一個(gè)文物朝代錯(cuò)了 ， 便沒辦法單獨(dú)對這一個(gè)錯(cuò)誤的文物進(jìn)行修改學(xué)習(xí)；再如讓AI系統(tǒng)學(xué)習(xí)英語之后 ， 再讓它學(xué)習(xí)德語 ， 它可能會(huì)把原來學(xué)習(xí)的英語語法全部忘光 。
那么在谷歌大腦的最新研究中 ， “災(zāi)難性遺忘”又造成了哪些影響？其中又有何新發(fā)現(xiàn)？
“除了傳統(tǒng)的新知識(shí)學(xué)習(xí)會(huì)覆蓋舊知識(shí)之外 ， 這次谷歌大腦還發(fā)現(xiàn) ， 在如‘超級(jí)瑪麗’等探索型游戲里 ， ‘災(zāi)難性遺忘’會(huì)阻礙模型對新知識(shí)的學(xué)習(xí) 。 ”廈門大學(xué)科技處副處長、人工智能系教授紀(jì)榮嶸說 。
紀(jì)榮嶸進(jìn)一步解釋說 ， 面向街機(jī)游戲?qū)W習(xí)的強(qiáng)化學(xué)習(xí)方法都會(huì)采用“經(jīng)驗(yàn)回放”的訓(xùn)練方式 ， 就是將模型在游戲探索時(shí)候的片段進(jìn)行保存 ， 然后給模型進(jìn)行“回放”訓(xùn)練 。 而像“蒙特祖瑪復(fù)仇”這種游戲 ， 游戲場景變化比較大 ， 模型需要不間斷探索游戲場景 ， 因此 ， 在訓(xùn)練時(shí)候就必須不斷回放早期場景的游戲經(jīng)驗(yàn) ， 不然會(huì)因?yàn)椤盀?zāi)難性遺忘”而忘記了早期的游戲知識(shí) 。
“這也導(dǎo)致了新的游戲經(jīng)驗(yàn)雖然能夠被采樣到‘經(jīng)驗(yàn)回放’庫里 ， 但因?yàn)閷W(xué)習(xí)方式的設(shè)定 ， 導(dǎo)致學(xué)習(xí)效率低 ， 同時(shí)由于不同階段的學(xué)習(xí)會(huì)互相干擾 ， 使得AI無法一次通過該游戲的全部關(guān)卡 。 ”紀(jì)榮嶸說 。
推薦閱讀
- 華為手機(jī)備忘錄怎么設(shè)置密碼
- 去爺爺奶奶家300字作文
- 紅米k40備忘錄在哪里
- 超市忘了解防盜扣怎么辦
- 網(wǎng)易郵箱忘記賬號(hào)怎么辦
- 蘋果13時(shí)間顯示后面的三角形是什么
- 備忘錄怎么寫入
- vivo x9密碼忘了怎么辦
- 蘋果備忘錄怎么查字?jǐn)?shù)
- 蘋果手機(jī)在備忘錄里如何制作表格