近日，兩件與人工智能技術(shù)應(yīng)用有關(guān)事件引發(fā)社會廣泛關(guān)注 。 第一件是一款視頻編輯軟件在社交媒體刷屏 。 該軟件可以方便、快速地將視頻中人物換為用戶上傳的任意人的臉 。 實際上，這種視頻換臉很早以前利用專業(yè)視頻編輯軟件也可以實現(xiàn)，不過需要使用者有相應(yīng)的技術(shù)，過程復(fù)雜 。 現(xiàn)在人工智能技術(shù)將這一復(fù)雜的技術(shù)過程簡單化、快速化，普通人也可以輕松駕馭 。 第二件是一張學(xué)生課堂行為分析的圖片，人工智能技術(shù)將學(xué)生抬頭、看手機、低頭、記筆記、打瞌睡等行為進行統(tǒng)計標(biāo)明 。
【發(fā)展人工智能技術(shù)規(guī)矩不可少】換臉應(yīng)用有兩點需要我們警惕：一是這種技術(shù)對社會信息傳播秩序帶來的沖擊 。 慣常來說，視頻對信息的保真度是高于文字和圖片的，視頻能夠相對準(zhǔn)確傳播信息，是社會信息傳播系統(tǒng)重要的媒介符號 。 這種易得、簡單的換臉應(yīng)用程序，如果被濫用勢必引發(fā)傳播秩序的混亂 。 二是這類應(yīng)用軟件收集人臉信息的合法性、安全性、可靠性存疑 。 人的面部、虹膜、指紋等生物特征識別信息，是重要的個人隱私信息 。 這類信息的重要性遠大于地址、密碼等類型信息 。 地址、密碼可以修改，面部特征、指紋等生物信息終身唯一，無法更改，泄露后果的嚴重性，怎么說都不為過 。 如果這類信息一旦泄露，無可挽回，技術(shù)的開發(fā)者也無能為力，不論是技術(shù)開發(fā)者主觀濫用，還是遭到黑客攻擊、無意泄露，都難以挽回 。 現(xiàn)在刷臉在金融支付、交通出行、公共安全等領(lǐng)域已經(jīng)廣泛應(yīng)用 。 面部生物信息的泄露，給整個社會體系帶來的影響難以估量 。
人工智能將學(xué)生課堂行為量化分析的問題在于，一是這種技術(shù)對學(xué)生行為分析的準(zhǔn)確性、可靠性與可信度存疑 。 人工智能終究是一種算法，其當(dāng)下能做到的是對個體行動軌跡的捕捉，不具備對人類豐富復(fù)雜的社會行為及其發(fā)生的場景準(zhǔn)確判斷和識別 。 同樣是一個動作其意義可能差別很大 。 技術(shù)可以檢測到學(xué)生低頭寫字，但到底寫的是上課內(nèi)容還是無關(guān)信息，顯然再高級的人工智能也無法判斷 。 人工智能可以準(zhǔn)確識別學(xué)生是否出勤，但將課堂這么復(fù)雜豐富的人類行為場景，進行絕對量化的分析，不可靠 。 其次，即使技術(shù)上是可靠的，那么這種將學(xué)生課堂學(xué)習(xí)的行為如此量化來管理的道德正當(dāng)性存疑 。 我們講教育以人為本，因材施教，人不是機器，不能將學(xué)生行為進行徹底的數(shù)字化管理，技術(shù)不能奴役人 。
這兩件事反映出人工智能技術(shù)在快速發(fā)展和廣泛應(yīng)用，然而我們整個社會似乎對這種技術(shù)的認識還有待深化，對其帶來的風(fēng)險和挑戰(zhàn)還沒有做好治理準(zhǔn)備 。
在認識方面，人工智能技術(shù)可以高效、有效解決很多領(lǐng)域的問題，但要避免所有問題都由人工智能解決 。 人工智能對解決那些機械、枯燥、數(shù)據(jù)量龐大的、簡單重復(fù)問題有效，但其缺少人情味、人性，所以在需要體現(xiàn)人的精神、情趣、想象、體現(xiàn)人性的工作，一定要人來做，不能一味追求技術(shù)解決 。 技術(shù)不是萬能的 。
人工智能技術(shù)治理關(guān)鍵是抓住三個核心關(guān)鍵問題：算法、數(shù)據(jù)和算力 。 政府要在涉及算法和數(shù)據(jù)兩方面來立法和監(jiān)督 。 要確保算法公開透明、可監(jiān)督 。 數(shù)據(jù)方面對相關(guān)技術(shù)產(chǎn)品使用數(shù)據(jù)的種類、規(guī)模方面強化監(jiān)管 。 在涉及人面部特征信息、指紋、血液等人體生物特征信息要設(shè)立嚴格的標(biāo)準(zhǔn)，從采集、傳輸、存儲等環(huán)節(jié)規(guī)制，確保涉及個人安全和國家安全信息不被濫用和安全可控 。 數(shù)據(jù)應(yīng)用的用戶規(guī)模要與企業(yè)的安全保障能力匹配 。 此外，在涉及重要領(lǐng)域和廣泛人群的技術(shù)應(yīng)用要建立人工智能使用的倫理與安全評估機制，類似于醫(yī)學(xué)研究的倫理評估環(huán)節(jié)，確保技術(shù)發(fā)展的正確方向和合理使用 。 建立第三方專業(yè)組織監(jiān)督人工智能技術(shù)應(yīng)用的安全性、可靠性與可控性 。
推薦閱讀
- 未來戰(zhàn)場后勤保障 無人技術(shù)堪當(dāng)大任
- 誰介紹一些互聯(lián)網(wǎng)發(fā)展趨勢的書籍
- 首屆“語言智能與社會發(fā)展”論壇在京召開
- 韓力群：人工智能技術(shù)與機器人不能混為一談
- “人工智能手套”讓機器人有了觸感
- 人工智能，讓安防更“聰明”
- 最新！中國人工智能計算力發(fā)展評估報告發(fā)布
- 鄔賀銓院士:人工智能不是取代人的智能,而是使人更聰明
- 如何看待“機器換人”帶來的技術(shù)性失業(yè)危機
- 對于被神話化的人工智能不必過度恐懼