在綜合娛樂方面深度合成同樣表現不俗 ， 某互聯網大廠常用的臉部特效、換臉短視頻等已經在我們的生活中屢見不鮮 。 虛擬偶像、虛擬主播、甚至已經有能力為消費者提供娛樂、購物、向導等服務 。 另外 ， 在教育、藝術、醫療和科研等領域 ， 深度合成技術都可以為這些產業帶來新的應用 。
二、深度合成技術存在的風險
自從2017年Deepfake（深度偽造）出現后 ， AI技術在造假方面的潛力為世人所驚嘆 。 此后 ， GAN算法的突飛猛進不僅僅可以做到AI換臉 ， 甚至能自動生成文本、人工語音、圖像等各種數字內容 。
深度合成技術在為我們的生活提供便利的同時 ， 也帶來了一系列的風險 。 例如AI換臉制作的大量色情視頻正在網絡上泛濫成災 ， 不僅嚴重侵犯了他人的肖像權、隱私權和名譽權、個人信息安全等個人私益 ， 對社會公共秩序和善良風俗也造成了嚴重的侵害 。 甚至有不法分子利用AI換臉、合成聲音等技術實施詐騙等犯罪活動 。
2021年 ， 山東省公安廳網絡安全總隊就公布了幾個利用深度合成技術實施詐騙的真實案例 。
2020年12月 ， 某公司財務接到領導電話要求立刻給供應商轉款兩萬元 ， 并將轉賬信息以郵件形式發送到對方郵箱 ， 理由是避免繳納滯納金 。 由于電話中老板的口音十分逼真 ， 公司財務毫無懷疑地在一小時內完成了轉賬 。
更有甚者 ， 在山東網安總隊公開的第二個案例中 ， 犯罪分子利用了社交媒體視頻進行詐騙 。
其首先通過盜用了他人社交媒體賬號 ， 獲取他人面部信息 ， 通過與賬號原所有人親屬進行視頻電話的形式要求親友向其指定賬號轉賬 ， 成功地取得了受害人的信任 ， 騙取了大量錢財 。
利用深度合成技術實施違法犯罪活動是其風險的表象 ， 而深度合成技術真正危險的是其對社會信任關系的嚴重破壞 。 信任關系的存在 ， 對于任何個體、社群來說都是無比重要的 ， 甚至有學者認為 ， 信任是自古以來人類社會存在的基礎之一 ， 關于人與人之間的信任關系的重要性 ， 無論做出多高評價都不為過 。
張康之老師認為 ， 在人類歷史的農業社會階段中 ， 人們之間的信任關系以傳統習俗的形式表達 ， 而近代工業社會中所存在的人們之間的信任關系 ， 則屬于契約型的信任關系 。 雖然社會信任的形式會隨時代變遷而改變 ， 但無論如何 ， 社會的維系必須建立在社會信任的基礎上 。
深度合成技術擁有破壞社會信任的潛力 ， 俗話說 ， 眼見為實 ， 但當眼見、耳聞都不再是真實 ， 謊言和欺騙甚囂塵上時 ， 社會信任將會蕩然無存 。
康德在《實踐理性批判》中就曾論證了“無信任社會”的可怕 。 按照康德的理論 ， 假如謊言是社會的通行法則 ， 那么人人可以說謊 。 在這種情況等下 ， 作為一個擁有正常理智的人 ， 我們不會再去相信說謊的人 ， 也就不會再相信這世界上的每一個人 。 不被相信的謊言也就不再有意義 ， 這就形成了一個悖論 。
康德也正是據此反推“不說謊”和社會信任才是社會存在和發展的正常形態 ， 因為只有在社會信任中 ， 說謊者才能以謊言獲利 。
如今 ， 信息網絡已經深入到我們生活的各個角落 ， 毫無節制地濫用深度合成技術 ， 會給我們帶來的必然是一個價值混亂、信任喪失并分崩離析的社會 。 因此 ， 以法律的形式對其進行合理規制具有緊迫性和必要性 。
三、深度合成技術合規要點
《深度合成征求意見稿》作為我國第一個專門規制深度合成技術的法規 ， 對元宇宙企業等科技公司的合規發展有著至關重要的作用 。
相關經驗推薦
- 華為|比5G更讓美國擔心！這項技術確實“先進”，國產技術未來可期
- 交易|家電動銷要嚴守一個底線：重點突破絕不撒“胡椒面”
- 華為p40|“冰旗艦”穩了！新驍龍8掌握“低功耗”秘鑰
- |這3款“大降價”的老旗艦手機，往日戰神級別，閉眼買也沒問題
- 彩電業|又一電器慘遭“嫌棄”？曾經是每家的標配，而今卻“無人問津”
- 蘋果|飛利浦成行業“黑天鵝”！強勢發布6元激光鼠標，羅技、雷蛇直接“懵”了！
- realme gt neo|三星離開中國真的是好事嗎？國產品牌的崛起，消費者發現“貓膩”
- iphone13|反超蘋果iPhone13，給小米、OV開了個好頭，“國產黑馬”有點厲害
- 電視機|電視要被“淘汰”？這樣東西已成為消費者的“新寵”，你會買嗎？
- 三星note7|全球第一的手機品牌，在我國“慘敗”，市場占有率不足1%