這兩天
“字節(jié)跳動大模型遭實習(xí)生攻擊”
的相關(guān)消息沖上多個平臺熱搜
10月18日 ， 多個微信群流傳一則消息：“某頭部大廠的大模型訓(xùn)練被實習(xí)生入侵 ， 注入了破壞代碼 ， 導(dǎo)致其訓(xùn)練成果不可靠 ， 可能需要重新訓(xùn)練 。 據(jù)稱遭到入侵的代碼注入了8000多張卡 ， 帶來的損失可能超過千萬美元 。 ”
【被實習(xí)生“坑”了？損失超千萬美元？知名大廠：涉事者已被辭退！】字節(jié)跳動回應(yīng)：
部分消息嚴重夸大
10月19日 ， 字節(jié)跳動官方發(fā)布聲明回應(yīng)此事稱 ， 確有實習(xí)生發(fā)生嚴重違紀行為并已經(jīng)被辭退 ， 但相關(guān)報道也存在部分夸大及失實信息 。
“涉事實習(xí)生惡意干擾商業(yè)化技術(shù)團隊研究項目的模型訓(xùn)練任務(wù) ， 但并不影響商業(yè)化的正式項目及線上業(yè)務(wù) ， 也不涉及字節(jié)跳動大模型等其他業(yè)務(wù) 。 ”
字節(jié)跳動還表示 ， 網(wǎng)傳“涉及8000多卡、損失上千萬美元”嚴重夸大 。
“經(jīng)核實 ， 涉事人一直在商業(yè)化技術(shù)團隊實習(xí) ， 并沒有AI Lab實習(xí)經(jīng)歷 。 其社交媒體個人簡介及部分媒體報道有誤 。 該實習(xí)生已在8月被公司辭退 。 公司也將其行為同步給行業(yè)聯(lián)盟和所在學(xué)校 ， 交由校方處理 。 ”
此前報道據(jù)界面新聞報道 ， 據(jù)了解 ， 此事發(fā)生在今年6月 ， 起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習(xí) ， 因?qū)F隊資源分配不滿 ， 使用攻擊代碼破壞團隊的模型訓(xùn)練任務(wù) 。
傳聞顯示 ， 該田姓實習(xí)生利用了HF（huggingface）的漏洞 ， 在公司的共享模型里寫入破壞代碼 ， 導(dǎo)致模型的訓(xùn)練效果忽高忽低 ， 無法產(chǎn)生預(yù)期的訓(xùn)練效果 ， 而且團隊無法核查原因 。 但傳聞曝出之后 ， 該實習(xí)生還在某微信群里辟謠稱 ， 自己發(fā)完論文后就從字節(jié)跳動離職 ， 有另一個人鉆漏洞改模型代碼 ， 把鍋扣到自己頭上 。
一位技術(shù)安全專家表示 ， 此事暴露了字節(jié)跳動技術(shù)訓(xùn)練存在安全管理問題 。 公司既沒做權(quán)限隔離 ， 也沒有做好共用代碼的審計 。 正常情況下 ， 每次大的代碼變動必須做審計 ， 無論誰做操作都有痕跡記錄 ， 一個人想動代碼是不可能的 。
據(jù)證券時報報道 ， 大模型在安全性方面的問題已經(jīng)受到業(yè)內(nèi)高度關(guān)注 。 今年8月 ， 中國信通院發(fā)文稱 ， 近年來 ， 以大模型為核心的人工智能技術(shù)飛速發(fā)展 ， 成為數(shù)字經(jīng)濟增長新動能 。 然而 ， 作為新質(zhì)生產(chǎn)力的大模型在安全性方面仍存在較多缺陷 ， 這為其大規(guī)模落地應(yīng)用帶來了不確定性 。 近期 ， 中國信通院發(fā)布的大模型安全基準AI Safety Benchmark的測試結(jié)果顯示 ， 大模型（尤其是開源大模型）在惡意誘導(dǎo)手段下的攻擊成功率均較原始輸入有明顯提升 。 因此 ， 對大模型進行安全對齊防護刻不容緩 。
來源：界面新聞、證券時報、字節(jié)跳動
推薦閱讀
- 性能“巨猛”！OPPO FInd X8確認，“極窄”直屏手機
- 月薪3萬+的精英們，為何“迷上”刷朋友圈？
- 千元機中的“全能怪獸”，6000mAh+8T直屏，發(fā)布一個月跌至1599元
- 美團回應(yīng)：“都是假的，別信！”拿孩子當(dāng)?shù)谰撸@種流量真吃的心安么？
- 真我“real”內(nèi)測招募即將啟動
- 臺積電“發(fā)飆”，稱中企不配成為對手，而中企高管說搞不定5納米
- 小米性價比“機皇”，16GB+512GB僅2676元，同價位配置無敵
- 紅米神秘新機被確認：超聲波指紋+驍龍8 Gen3，并配備2K直屏
- OPPO子系列新機再次被確認：2K東方屏+大底主攝，真機也泄露了
- 成全球最強芯片供應(yīng)商之一，麥格米特華為基因“征服”英偉達？