1. 首頁 > 生活百科 > >

實測｜AI“玩壞”追星：親密照合成失控，未成年明星被“擦邊”

人工智能ai

實測｜AI“玩壞”追星：親密照合成失控，未成年明星被“擦邊”

文章圖片

實測｜AI“玩壞”追星：親密照合成失控，未成年明星被“擦邊”

文章圖片

實測｜AI“玩壞”追星：親密照合成失控，未成年明星被“擦邊”

AIGC（人工智能生成內容）技術正在讓追星“變味” 。
社交媒體上興起一股“炫耀”明星AI合影的熱潮 ， “拉近”不少粉絲與偶像距離的同時 ， 也不乏“親密互動” 。 照片里 ， 有人精心營造與明星的曖昧場景 ， P圖痕跡真假難辨 。 這種依賴技術營造的虛假親近 ， 模糊了現實與虛擬的界限 ， 也悄然越界 。
新京報貝殼財經記者注意到 ， 明星AI合影已遭到粉絲群體抵制 ， 聲明禁止將藝人的圖像、視頻、聲音等資料“投喂”AI ， 要求粉絲自覺拒絕制作 。 不過 ， 一邊是抵制的聲浪 ， 一邊則是社交平臺上網友“求攻略” ， 而貝殼財經記者測試豆包、即夢、可靈、通義、Vidu五款支持多圖參考的模型產品（網頁或App） 發現 ， 生成明星合影門檻并不高 ， 且均能實現擁抱、親吻等親密動作 ， 甚至還能達到男藝人裸露上半身的效果 。 此外 ， “投喂”未成年藝人圖片同樣沒有限制 。
此次測試中 ， 貝殼財經記者將上述AI生成合影以有無AI水印版本發布在B站、微博、抖音、快手、小紅書、視頻號六家內容平臺上 ， 截至發稿時 ， 僅小紅書和抖音提示內容違規 ， 并限制內容傳播范圍；B站、快手只對有AI水印的內容進行標注 ， 提醒用戶“謹慎甄別”；微博、視頻號則暫未進行風險提示 。
受訪法律專家認為 ， 這類AI合影可能涉及侵害藝人肖像權和名譽權的風險 。 就算只在朋友圈、群聊等私域范圍傳播 ， 侵權風險依然存在 。
社交媒體平臺上網友分享的AI合照 。 小紅書截圖
“AI一下”追星圓夢 ， 多平臺合成CP親密照
“我和杰倫、彥祖合影了”“抱歉 ， 他非要摟我”“讓我離肖戰更近一點”……小紅書上 ， 一眾CP（情侶）感照片刷屏的同時 ， 不少粉絲“求指令” ， 個別人要求把自己和偶像生成逼真合影 。
評論中 ， 不乏網友分享經驗 ， “生成一張情侶合影沒有明確的拍攝對象或工具”“要看起來像偶然拍到的漫不經心的快照”“男生女生親密一些 ， 臉貼臉” 。
10月9日至10日 ， 貝殼財經記者使用豆包、即夢、可靈、通義、Vidu五款支持多圖參考的模型產品（網頁或App）嘗試生成與男藝人的合影 ， 測試中 ， 兩人擁抱、親吻等親密動作均可實現 ， 甚至還能生成男性裸露上半身這類具有擦邊意味的合影 。
五款模型產品生成素人與藝人合影情況 。 新京報貝殼財經記者 韋英姿 制圖
貝殼財經記者測試發現 ， AI生成一張真假難辨的合影 ， 往往需要調教 ， 這也促使網友找捷徑、求指令 。 在記者嘗試生成親吻動作時 ， 即夢、通義、Vidu三款模型產品在提示詞含有“親吻”的情況下 ， 絲滑生成了兩人面部有直接接觸的圖片 。
AI生成的明星親密合照 。
相比之下 ， 豆包、可靈則需要多次重新生成 。 其中 ， 在第一次生成時 ， 豆包顯示“抱歉 ， 我無法生成你要求的圖片 。 ”不過 ， 這并不意味著豆包進行了嚴格限制 ， 通過設置“兩人相互摟著、眼神看著對方 ， 表現親密情侶感”等描述 ， 豆包往往一次就能生成親密接觸的圖片 。 另外 ， 可靈在相同提示詞（含“親吻”）測試中 ， 重新生成三次后 ， 也可實現親昵合影 。
貝殼財經記者測試帶有“上半身肌肉”的指令詞時 ， 上述五款模型產品均成功生成了男生裸露上半身并抱著女生的圖片 。
【實測｜AI“玩壞”追星：親密照合成失控，未成年明星被“擦邊”】此外 ， “投喂”未成年明星圖片 ， AI依舊“照單全收” 。 10月10日 ， 貝殼財經記者嘗試使用前述五款模型產品生成合影時 ， 同樣生成了兩人擁抱、親吻 ， 男性裸露上半身等親密接觸的未成年人明星合影 。
社交平臺“人傳人”曬圖 ， 微博、視頻號“默許”炫耀
追星輕松“圓夢” ， 社交平臺上也掀起一股炫耀風潮 。 而網友一聲聲“差點就真信了”的夸獎 ， 也讓AI生成合影出現“人傳人” 。
10月10日至11日 ， 貝殼財經記者將部分AI生成的明星合影以有無AI水印兩個版本短視頻 ， 通過B站、微博、抖音、快手、小紅書、視頻號六家內容平臺發布 ， 并在文字說明區點出了明星的名字 。 截至記者發稿時 ， 僅小紅書和抖音兩家平臺提示內容違規 ， 并限制了傳播范圍 。
截至記者發稿時 ， 六家平臺對記者上傳的AI合影審核情況 。 新京報貝殼財經記者 韋英姿 制圖
其中 ， 貝殼財經記者發布的無AI水印版視頻不到1小時 ， 就被小紅書處置為“不被推薦給未關注用戶” 。 小紅書認為該筆記違規 ， 包含畫風不佳問題 ， 例如存在標題黨、感官不適、低質劇情、制作不佳、AI仿冒、誘導互動、信息不實等內容 。
相比之下 ， 帶AI水印版的視頻同樣被小紅書認定為違規 ， 在發布1分鐘后便被處置為“不可被他人查看” 。 至于違規理由 ， 小紅書僅認為這篇筆記圖片、正文、視頻、話題等涉及推廣第三方平臺 。
在抖音平臺上 ， 有無AI水印的視頻均被限制了傳播范圍 ， “僅相互關注可見” 。 抖音認為 ， 該作品可能“涉及利用公眾人物形象”發布不實信息 ， 易造成用戶誤導 ， 并額外用文字標注了“疑似使用了AI生成技術 ， 請謹慎甄別” 。
此次測試中 ， 快手、B站對自帶AI水印版本的視頻標注了“疑似AI合成” ， 暫時未對無AI水印版進行明顯提示 。 對于貝殼財經記者上傳的兩個版本的短視頻內容 ， 微博、視頻號均未采取限制措施 ， 也未進行AI相關提醒 。
粉絲抵制合影“過火” ， 即夢、可靈、Vidu充會員可擦水印
“淇圈（即：該演員粉絲群體的自稱）禁AI”“人家是公眾藝人 ， 這是要毀了他嗎？”……在抖音評論區 ， 不少用戶反對AI合影 ， 甚至希望刪除視頻 。 不過 ， 在其他平臺 ， 有人評價“很帥” ， 還跟了一張類似AI合影 。
粉絲利用AI生成與自擔（即：自己喜歡的藝人）的合影是為了滿足幻想 ， 如今 ， “過火”AI合影已然引起粉絲群體抵制 。 據貝殼財經記者不完全統計 ， 單依純、李健、張凌赫、丁程鑫等藝人粉絲站或大粉（即：粉絲群體中的KOL）的社交媒體賬號均發布了抵制AI生成藝人相關內容的聲明 。 這些聲明呼吁禁止將藝人的圖像、視頻、聲音等資料“投喂”AI ， 要求粉絲自覺拒絕制作、傳播AI生成的藝人內容 ， 認為這類內容容易誤導公眾 ， 損害藝人形象 。
實際上 ， AI生成親密甚至擦邊的明星合影并公開傳播 ， 可能涉及侵害明星肖像權和名譽權 。
“對于肖像權的侵權行為而言 ， 是否小范圍私域傳播并不會降低侵權風險 。 此外 ， 由于名譽系一種社會評價 ， 相較于大范圍傳播 ， 小范圍傳播對社會評價的影響更小 ， 因此侵權風險相對較小 ， 但侵權風險仍然存在 。 ”北京大成（杭州）律師事務所律師袁承鵬說 。
北京大學智能學院助理研究員、法學博士、北京大學武漢人工智能研究院特聘研究員辜凌云強調 ， 即使在小范圍內傳播 ， 從法律定義上看 ， 只要未經同意制作了虛假肖像 ， 并發送給了第三方 ， 就已經構成了侵權行為 ， 可能只影響損害后果的范圍界定 。 “私人聊天中的內容極易被他人截圖或轉發 ， 導致信息擴散到公共領域 。 一旦發生二次傳播 ， 最初的制作者和傳播者將可能對后續更廣泛的侵權后果承擔法律責任 。 ”
貝殼財經記者通過五款大模型生成明星合影時發現 ， 即夢、可靈、Vidu均可通過開通會員的方式在下載時去除AI水印 。 排除首充優惠影響 ， 且按照包月價格計算 ， 即夢、可靈、Vidu最低檔會員分別為69元、66元、59元 。
記者下載不帶水印版本圖片時 ， Vidu彈出提醒 。 Vidu官網截圖
“如果用戶發布這類照片時刻意隱去AI生成的標識 ， 其主觀惡意會更明顯 。 ”辜凌云表示 ， 雖然針對AI生成照片的判例尚未形成 ， 但可以參考過去因P圖、濫用表情包而引發的訴訟 ， 例如“葛優躺”系列案件 。 “葛優就曾多次將未經授權而將其肖像用于商業宣傳的公司告上法庭 ， 并多數獲得勝訴 。 法院普遍認為 ， 未經許可使用他人肖像 ， 即便不以營利為目的 ， 但只要造成了不良影響 ， 同樣構成侵權 。 AI生成虛假親密照的行為 ， 其侵權性質遠比使用‘葛優躺’表情包更為惡劣 。 ”
AI生成內容識別之困 ， 平臺和模型廠商責任應強化
9月1日起 ， AI生成內容已被戴上“緊箍” 。 根據《人工智能生成合成內容標識辦法》 ， 人工智能生成合成內容需要進行標注 ， 標識包括顯式標識和隱式標識 。
“從現有法律規范層面而言 ， 現階段模型廠商并沒有在顯式標識方面采取例如無法去除等較為強硬的技術手段的義務 。 《人工智能生成合成內容標識辦法》對于如何添加顯式標識進行了明確描述 ， 所謂顯式標識 ， 其重心在于‘顯著’ ， 而非不可去除 。 ”袁承鵬說 。
他認為 ， 盡管實踐中存在人為去除水印的情況 ， 但并不能因此直接認定模型廠商便應當采取強硬的技術手段 ， 亦不因此構成模型廠商的法律責任 ， 該責任應當由去除標識者承擔 。
不過 ， 辜凌云認為 ， 模型廠商應當在技術上探索和采用更難以篡改的顯式標識 ， “如果水印能被輕易去除 ， 那么內容的AI來源信息會丟失 ， 這使得惡意使用者就能將AI生成的內容偽裝成真實信息進行傳播 ， 特別是在新聞、證據等嚴肅場景中 ， 極易引發公眾誤解、社會恐慌 。 ”
同時他強調 ， 強行要求企業生成完全無法篡改的水印成本很高 ， 很多情況下也無法實現 。
“現有措施對于打擊AI明星合影仍然存在一定不足 ， 單純限制傳播范圍不能完全阻斷這一侵權行為 。 ”辜凌云向貝殼財經記者表示 ， 內容平臺如果直接對用戶發布的內容進行AI標識 ， 也可能存在法律風險、引發法律糾紛 。 例如 ， 今年6月的“未標注用AI創作”案中 ， 法院判定平臺在沒有事實依據的情況下對涉案賬戶的處理構成違約 ， 判決網絡平臺展開對涉案內容的隱藏 ， 刪除在后臺的違規處理記錄 。
辜凌云認為 ， 比較合適的方式是優化受害者的舉報與維權通道 。 對于公眾人物或普通用戶的本人申訴 ， 應賦予更高的處理優先級 ， 并建立快速響應和處理機制 ， 最大限度地減少傷害的持續時間 。 同時 ， 平臺擁有巨大的流量和影響力 ， 有責任也有能力教育其用戶 ， 可以通過發布公告、推送科普文章、制作短視頻等形式 ， 向公眾揭示AI合成內容的風險 ， 減少虛假信息的生成 。
在辜凌云看來 ， 模型廠商的責任是從源頭上為內容進行標識 ， 且提供的標識技術應具有穩定性 ， 確保在常規的下載、復制、導出操作后 ， 標識依然存在；內容平臺的責任是確保流經平臺的內容符合標識規范 ， 需要為用戶提供申報AI標識的入口 ， 提醒、宣傳用戶使用 ， 一旦通過技術檢測或用戶聲明識別出內容為AIGC ， 應當在發布內容周邊添加顯著的提示標識 。
袁承鵬則建議平臺通過調整用戶協議、進行明確的AI內容相關風險提示 ， 鼓勵用戶舉報未標識內容 ， 設置懲罰、黑名單機制等方式打擊AI明星合影傳播行為 。
在AI生成內容的標注、傳播、使用上 ， 袁承鵬認為內容發布者是責任首要承擔者 ， 但對于模型廠商的責任 ， 應當進一步強化 。 有必要出臺相關法律法規 ， 對某些特定場景下的標識義務進行強化 ， 從而更好規范市場 。
新京報貝殼財經記者 韋英姿
編輯 王進雨
校對 柳寶慶

    推薦閱讀