|
點(diǎn)擊 66回復(fù) 0
原帖
2024-10-19 20:06
字節(jié)跳動(dòng)大模型訓(xùn)練被實(shí)習(xí)生攻擊，涉事者已被辭退字節(jié)跳動(dòng)大模型訓(xùn)練被實(shí)習(xí)生攻擊，涉事者已被辭退
10 月 18 日，多個(gè)微信群流傳一則消息：「某頭部大廠的大模型訓(xùn)練被實(shí)習(xí)生入侵，注入了破壞代碼，導(dǎo)致其訓(xùn)練成果不可靠，可能需要重新訓(xùn)練。據(jù)稱遭到入侵的代碼注入了 8000 多張卡，帶來的損失可能超過千萬美元?！?/div>
界面新聞從知情人士處獲悉，此事發(fā)生在今年 6 月，起因是某高校的博士在字節(jié)跳動(dòng)商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí)，因?qū)F(tuán)隊(duì)資源分配不滿，使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。界面新聞向字節(jié)跳動(dòng)方面求證此事，截至目前，官方未進(jìn)行回應(yīng)。
傳聞顯示，該田姓實(shí)習(xí)生利用了 HF（huggingface）的漏洞，在公司的共享模型里寫入破壞代碼，導(dǎo)致模型的訓(xùn)練效果忽高忽低，無法產(chǎn)生預(yù)期的訓(xùn)練效果，而且 AML 團(tuán)隊(duì)無法核查原因。但傳聞曝出之后，該實(shí)習(xí)生還在某微信群里辟謠稱，自己發(fā)完論文后就從字節(jié)跳動(dòng)離職，這個(gè)當(dāng)口有另一個(gè)人鉆漏洞改模型代碼，把鍋扣到自己頭上。
目前，該實(shí)習(xí)生已被辭退。但該實(shí)習(xí)生攻擊的并不是豆包大模型，而是商業(yè)化技術(shù)團(tuán)隊(duì)的模型訓(xùn)練任務(wù)，影響了該技術(shù)團(tuán)隊(duì)的一些業(yè)務(wù)進(jìn)展，但整體對(duì)公司造成的損失并沒有傳聞中的超過千萬美元那么大。 |
建材之家
| 關(guān)于建材之家
| 聯(lián)系我們
| 加入建材之家
| 隱私政策
| 使用協(xié)議
| 財(cái)務(wù)相關(guān)
| 城市分站
| 招商加盟
| 建材群站
| 網(wǎng)站地圖 | 排名推廣 | 廣告服務(wù) | 網(wǎng)站留言 | 違規(guī)舉報(bào) | sitemap
| 粵ICP備14017808號(hào)
全國(guó)服務(wù)電話：0755-82034561/18923733323；客服QQ：727533600/876399953；新浪微博ID：jc68com；
微信服務(wù)號(hào)ID：jc68-1； 
粵公網(wǎng)安備 44030402000745號(hào)
建材之家旨在傳遞更多商機(jī)信息！信息內(nèi)容都是網(wǎng)絡(luò)用戶自發(fā)貢獻(xiàn)，本站只提供信息存儲(chǔ)空間服務(wù)，如有涉嫌抄襲/侵權(quán)/違規(guī)內(nèi)容請(qǐng)告知QQ:275171283處理！
?2015-2020 ByBc.CN Powered by 建材之家 v4.5 策劃運(yùn)營(yíng)：深圳市博一建材有限公司
粵公網(wǎng)安備 44030402000745號(hào) 建材之家旨在傳遞更多商機(jī)信息！信息內(nèi)容都是網(wǎng)絡(luò)用戶自發(fā)貢獻(xiàn)，本站只提供信息存儲(chǔ)空間服務(wù)，如有涉嫌抄襲/侵權(quán)/違規(guī)內(nèi)容請(qǐng)告知QQ:275171283處理！
?2015-2020 ByBc.CN Powered by 建材之家 v4.5 策劃運(yùn)營(yíng)：深圳市博一建材有限公司
-
0755-82034561
18923733323 -
客服微信