1. 首頁 > 生活百科 > >

專訪清華朱軍：大模型“投毒”怎么防？技術法規社會三管齊下

新京報清華大學人工智能ai

專訪清華朱軍：大模型“投毒”怎么防？技術法規社會三管齊下

從年初 Seedance2.0引爆行業變革 ， 到“養龍蝦”熱潮引發的工作焦慮 ， 再到“315大模型投毒”暴露的安全隱憂 ， 人工智能正以前所未有的速度滲透進我們的生活 。
在這一系列熱點背后 ， 一邊是技術迭代日新月異 ， 一邊是安全治理迫在眉睫 。
如何平衡技術創新的步伐與風險防控的力度 ， 讓AI這匹“馬”跑得更穩、更遠？新京報貝殼財經記者就此采訪了清華大學人工智能研究院副院長、生數科技創始人朱軍 。
清華大學人工智能研究院副院長、生數科技創始人朱軍 。 受訪者供圖
治理與發展兩條腿走路 ， 防范是為了更好發展
新京報貝殼財經：前段時間市場掀起一波“養龍蝦”熱潮 ， 不少人擔心自己的工作會被替代掉 ， 你怎么看？
朱軍：關于替代問題 ， 大家討論很多 。 隨著AI的智能水平提升 ， 這個想象空間太大了 。 幾乎所有工作都可能會受到影響 。 從正向看 ， 是促進；從反向看 ， 會擔心工作被代替 ， 面臨失業 。
但我覺得 ， AI不是替代人 ， AI發展給我們提供了更好的工具 ， 也會解放很多人力 。 過去我們很多想法受限于各種條件無法實現 ， 今天如果打開思路 ， 會讓我們更有想象力、創造力 ， 做更多工作 。
從這個角度來看 ， 我并不擔憂替代問題 。 但更好的方式是 ， 大家要擁抱、適應、學習、掌握人工智能技術 ， 站上一個更高的平臺 。
新京報貝殼財經：當前各地都積極推出政策鼓勵“養龍蝦” ， 同時不少部門也在呼吁防風險 ， 如何看待該現象？
朱軍：我們國家做人工智能的規劃是強調治理與發展并重 ， 兩條腿走路 。
像“養龍蝦”這種現象 ， 是一個具體案例 。 一方面 ， 我們看到技術快速進步確實給大家帶來很多便利 ， 在很多場景里 ， 智能體能夠直接解決很多工作 。
但與此同時 ， 在早期 ， 系統、模型算法的安全問題可能還沒有被深入關注 。 不過我相信 ， 這個問題很快會被反復討論 ， 很多專家學者、產業從業者會一起分析這個問題 ， 圍繞“龍蝦”的系統級安全防護軟件或工具很快會出現 ， 這是一個相互促進的過程 。
總體來看 ， 現在人工智能發展速度很快 ， 整個行業還是以發展為主流 ， 同時治理也要跟上 ， 兩者相輔相成 。
AI如何重塑影視就業？每個人都能為自己打工
新京報貝殼財經：怎么看待未來幾年AI從生成內容到理解世界、決策行動的演化路徑？
朱軍：可以從大模型發展的路徑來做一些借鑒和判斷 。
語言模型從2018年前后起步 ， 到標志性的ChatGPT廣泛可用 ， 大概用了5年時間 ， 目前能力還在不斷演進 。
類似的 ， 視頻模型從Sora出現開始 ， 我們很快做了第一個完全對標的模型 ， 中間大概只差了兩個月 。 到現在算下來 ， 視頻模型的發展還不到兩年 ， 但迭代速度非?？?， 甚至比語言模型更快 ， 已經到了可用和大規模商用的階段 。
這說明 ， 現在的智能模型 ， 只要數據架構擺好、條件具備 ， 后面的迭代速度會非?？?。 從這個角度來看 ， 我相信在具身智能的基礎模型上 ， 速度也會非?？?， 可能未來一兩年就能達到一個非常高的水平 。
在這個過程中 ， 相比于語言或視頻 ， 數據可能是一個關鍵變量 。 在機器人領域 ， 采集數據的效率和規?？赡軙恍?。 但我們很大程度上可以依賴視頻數據 ， 這恰恰能解決數據來源的問題 。 所以我們相信 ， 具身基模后面的迭代速度 ， 可能不輸于視頻模型 。
新京報貝殼財經：這個過程中會催生出哪些新的產業和機會？
朱軍：未來的想象空間非常大 。
直接的層面 ， 已經有很多數據素材的崗位在快速鋪開 。 另外 ， 走向物理世界也創造了很多機會 ， 不管是做硬件、做軟件 ， 還是軟硬協同 ， 都會有大量的工作機會 。
在數字內容領域 ， 我們看到了很多“一人公司” 。 現在單個人就可以做一個過去一個工作室才能做的事情——一個人完成導演、編劇、做內容、變現 。
隨著技術進展 ， 會出現很多新的職位和新的行業 。 人的適應性非常強 。 從過去歷次技術變革中 ， 我們并沒有因此少了崗位 ， 反而有更多機會 ， 甚至將來每個人都可能為自己打工 ， 不需要集中在一家公司 。 一個人根據自己的想法 ， 就可以做最有特色、最精品的服務 ， 那時候大家可能有更多時間規劃自己的理想和路徑 。
這會越來越“平權” 。 隨著人工智能的強大 ， 過去看似很高深的技術會走向我們每個人身邊 。 每個人都可以用AI表達創意 ， 或者讓機器人幫我們完成工作 。 比如今年特別火的數字空間里的智能體 ， 它就在幫我們從過去的問答交流 ， 轉向幫我們干活、解決日常工作 。 這也體現了隨著基模能力提升 ， 它給了我們更多的空間和機會 ， 讓過去很難做到的事情 ， 現在通過個人努力也能實現 。
新京報貝殼財經：很多平臺已經把真人短劇砍掉 ， 全力押注AI短劇 。 這種顛覆性變化會給影視、廣告、游戲等內容行業帶來哪些生產上的變革？
朱軍：人工智能的影響涉及很多方面 ， 可能最直接的就是作為生產力工具 ， 給大家增效、降本 ， 讓過去很難做到的事情 ， 現在能夠用相對可控的、低風險的方式實現 。
影視行業本身是高投入、高風險行業 ， 每部劇、每部電影要投入大量資源 ， 且上映效果難以預測 。 從內容供給側來看 ， 現在每年真正生產的劇還比較有限 ， AI可以使得影視制作成本更低、周期更快 ， 將來有可能會有更多高質量內容生產出來 。
從消費側的話 ， 現在的消費還是“接受式”的——內容做出來之后 ， 很多人去看 。 但根據我們預測 ， 未來可能是沉浸式或交互式的觀看 。 隨著技術的進一步進展 ， 它可能會進一步解鎖 ， 會有很強的代入感 ， 讓觀眾不斷去參與到劇情里面 ， 甚至去參演 ， 讓消費者變成影視里面的某個角色 。 這些都是未來可以去暢想的一些形式 。
大模型“投毒”怎么防？技術法規社會三管齊下
新京報貝殼財經：怎么看待市場熱議的大模型“投毒”現象？后續如何監管和治理？
朱軍：數據“投毒”問題比較常見 。 從防范角度 ， 可能有幾層：技術側 ， 在模型訓練和推理過程中 ， 服務提供方要有防范意識和舉措 ， 避免惡意數據的影響 ， 或是被有目的、有目標地影響數據 。
法律法規方面 ， 伴隨著大模型被“投毒”的顯性化 ， 可能很快會出臺治理辦法 ， 對相應的黑灰產進行治理 。 這在金融領域比較常見 ， 大家會通過各種手段防范 。
社會層面 ， 我覺得更多是讓公眾意識到這個問題 ， 多向監管方反饋 ， 提供更多素材 。
新京報貝殼財經：很多人認為未來可能是人與智能體 ， 甚至是智能體與智能體協作的時代 。 怎么看待這一發展趨勢？
朱軍：智能體 ， 從人工智能角度出發 ， 我們還是定位成輔助人來做一些事情 。 從這個角度看 ， 智能體是一種常見形態 。 在AI領域 ， 很早就有了Agent這個術語 ， 現在只是把它做得越來越具象 ， 走向每個人身邊 。 這是一個必然過程 。
未來它總體上是在輔助人 ， 是人機協同 。 但關鍵決策還是要由人掌握 ， 人在整個決策環路里來做最終把控 。
新京報貝殼財經：目前國家大力推進“東數西算”工程 ， 當前工程落地中最需要解決的問題是什么？如何讓算力真正成為數字經濟的公共基礎設施？
朱軍：國產算力現在發展很快 。 我們看到很多家企業 ， 包括上市公司 ， 頻繁推出產品 ， 進展很快 。 國家也很支持 ， “東數西算”布局建了很多智算中心 ， 有大量算力 。
我覺得下一步關鍵是要把算力更好地和生態融合 ， 讓應用和算力深入結合 ， 充分發揮國產算力性能 。 從行業實踐看 ， 現在有算力的話 ， 使用門檻還比較高 ， 因為涉及專門適配、硬件優化 ， 很多需要專業團隊持續支撐 。
未來我們希望能夠有更好的生態 。 比如 ， 我作為使用者 ， 遇到問題時可能在社區里就能直接找到答案 ， 不需要算力方專門派人服務 。 因為用戶非常龐大 ， 不可能一個個單點支撐 。 更好的方式是借用生態力量 ， 大家一起共建 ， 這樣融合落地的速度會進一步加快 。
【專訪清華朱軍：大模型“投毒”怎么防？技術法規社會三管齊下】新京報貝殼財經記者 胡萌 羅亦丹 編輯 陳莉 校對 楊利

    推薦閱讀