近日 ， 兩件與人工智能技術應用有關事件引發(fā)社會廣泛關注 。 第一件是一款視頻編輯軟件在社交媒體刷屏 。 該軟件可以方便、快速地將視頻中人物換為用戶上傳的任意人的臉 。 實際上 ， 這種視頻換臉很早以前利用專業(yè)視頻編輯軟件也可以實現(xiàn) ， 不過需要使用者有相應的技術 ， 過程復雜 。 現(xiàn)在人工智能技術將這一復雜的技術過程簡單化、快速化 ， 普通人也可以輕松駕馭 。 第二件是一張學生課堂行為分析的圖片 ， 人工智能技術將學生抬頭、看手機、低頭、記筆記、打瞌睡等行為進行統(tǒng)計標明 。
換臉應用有兩點需要我們警惕：一是這種技術對社會信息傳播秩序帶來的沖擊 。 慣常來說 ， 視頻對信息的保真度是高于文字和圖片的 ， 視頻能夠相對準確傳播信息 ， 是社會信息傳播系統(tǒng)重要的媒介符號 。 這種易得、簡單的換臉應用程序 ， 如果被濫用勢必引發(fā)傳播秩序的混亂 。 二是這類應用軟件收集人臉信息的合法性、安全性、可靠性存疑 。 人的面部、虹膜、指紋等生物特征識別信息 ， 是重要的個人隱私信息 。 這類信息的重要性遠大于地址、密碼等類型信息 。 地址、密碼可以修改 ， 面部特征、指紋等生物信息終身唯一 ， 無法更改 ， 泄露后果的嚴重性 ， 怎么說都不為過 。 如果這類信息一旦泄露 ， 無可挽回 ， 技術的開發(fā)者也無能為力 ， 不論是技術開發(fā)者主觀濫用 ， 還是遭到黑客攻擊、無意泄露 ， 都難以挽回 。 現(xiàn)在刷臉在金融支付、交通出行、公共安全等領域已經廣泛應用 。 面部生物信息的泄露 ， 給整個社會體系帶來的影響難以估量 。
人工智能將學生課堂行為量化分析的問題在于 ， 一是這種技術對學生行為分析的準確性、可靠性與可信度存疑 。 人工智能終究是一種算法 ， 其當下能做到的是對個體行動軌跡的捕捉 ， 不具備對人類豐富復雜的社會行為及其發(fā)生的場景準確判斷和識別 。 同樣是一個動作其意義可能差別很大 。 技術可以檢測到學生低頭寫字 ， 但到底寫的是上課內容還是無關信息 ， 顯然再高級的人工智能也無法判斷 。 人工智能可以準確識別學生是否出勤 ， 但將課堂這么復雜豐富的人類行為場景 ， 進行絕對量化的分析 ， 不可靠 。 其次 ， 即使技術上是可靠的 ， 那么這種將學生課堂學習的行為如此量化來管理的道德正當性存疑 。 我們講教育以人為本 ， 因材施教 ， 人不是機器 ， 不能將學生行為進行徹底的數(shù)字化管理 ， 技術不能奴役人 。
這兩件事反映出人工智能技術在快速發(fā)展和廣泛應用 ， 然而我們整個社會似乎對這種技術的認識還有待深化 ， 對其帶來的風險和挑戰(zhàn)還沒有做好治理準備 。
在認識方面 ， 人工智能技術可以高效、有效解決很多領域的問題 ， 但要避免所有問題都由人工智能解決 。 人工智能對解決那些機械、枯燥、數(shù)據(jù)量龐大的、簡單重復問題有效 ， 但其缺少人情味、人性 ， 所以在需要體現(xiàn)人的精神、情趣、想象、體現(xiàn)人性的工作 ， 一定要人來做 ， 不能一味追求技術解決 。 技術不是萬能的 。
人工智能技術治理關鍵是抓住三個核心關鍵問題：算法、數(shù)據(jù)和算力 。 政府要在涉及算法和數(shù)據(jù)兩方面來立法和監(jiān)督 。 要確保算法公開透明、可監(jiān)督 。 數(shù)據(jù)方面對相關技術產品使用數(shù)據(jù)的種類、規(guī)模方面強化監(jiān)管 。 在涉及人面部特征信息、指紋、血液等人體生物特征信息要設立嚴格的標準 ， 從采集、傳輸、存儲等環(huán)節(jié)規(guī)制 ， 確保涉及個人安全和國家安全信息不被濫用和安全可控 。 數(shù)據(jù)應用的用戶規(guī)模要與企業(yè)的安全保障能力匹配 。 此外 ， 在涉及重要領域和廣泛人群的技術應用要建立人工智能使用的倫理與安全評估機制 ， 類似于醫(yī)學研究的倫理評估環(huán)節(jié) ， 確保技術發(fā)展的正確方向和合理使用 。 建立第三方專業(yè)組織監(jiān)督人工智能技術應用的安全性、可靠性與可控性 。
推薦閱讀
- 用“小AI”解決人工智能的“大”煩惱
- 人工智能為兒童看病
- 人工智能會寫交響曲了 但藝術這門課還得繼續(xù)學習
- 三角楓盆景的制作與栽培養(yǎng)護技術 盆景制作
- 汽車故障形成及技術狀況變化的原因知識
- 當前汽車工業(yè)的發(fā)展
- 汽車技術的發(fā)展和完善
- 汽車工業(yè)的發(fā)展與現(xiàn)狀
- 智能工廠中的機器人技術特點是
- 汽車診斷與檢測技術的發(fā)展歷程