快科技资讯 2024年10月19日
字节跳动大模型训练被实习生攻击 背后内幕曝光:四点真相
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

字节跳动大模型训练被实习生攻击一事引发关注。事情发生在六月底,某高校博士生田某某因对团队资源分配不满,破坏商业化技术团队的模型训练任务,影响广告部门。传闻损失上千万美元夸张,实习生被辞退并同步情况给学校和行业联盟。该实习生试图辟谣被否认,其利用HF平台漏洞写入破坏代码,导致模型训练效果异常。此事或致实习生权限收缩。

🧐字节跳动大模型训练遭某高校博士生田某某攻击。他在大厂商业化技术团队实习,因不满资源分配,使用攻击代码破坏模型训练任务,受影响的是商业化技术团队的模型训练,涉及广告部门。

😲传闻中损失上千万美元不属实,实际情况没那么严重。该实习生的处理方式是被辞退,并将情况同步给行业联盟和学校。事件曝出后,实习生试图在社交平台辟谣,却遭接近字节跳动人士否认。

💻田某某利用Huggingface平台漏洞,在公司共享模型中写入破坏代码,致使模型训练效果忽高忽低,无法达到预期成果,给公司近30位各级员工造成巨大伤害,让同事近一个季度的工作白费。

🙁一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,这为此次事件的发生提供了可能,且此事后实习生权限可能会极大收缩。

快科技10月19日消息,今日,字节跳动大模型训练遭实习生攻击一事引发广泛关注,相关话题随即登上热搜。

据“大厂青年”爆料,据内部厂友透露,破坏模型训练确有其事,但传闻也有些夸张和虚构的信息。

据了解,事情发生在六月底。某著名高校博士生田某某在大厂商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。

首先,受影响的业务不是该厂的大模型,而是商业化技术团队的模型训练任务,也就是影响了广告部门。

至于传闻损失上千万美元,则是太夸张了。

另外,“实习生被送进去”是假的,处理方式是辞退,同步行业联盟,同步情况给学校。

在消息曝出后,该名涉事实习生试图在社交平台上辟谣,将责任推给他人,不过很快便遭到了接近字节跳动人士的否认。

据相关知情人士在Gitbub上表述,“你(指田某)在长达2个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,让你的同事近一个季度的工作白费。所有的记录和审查都证明这是不容狡辩的事实!”

据悉,田某某利用了Huggingface(HF)平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。

一位前字节技术员工表示,“字节AI Lab的实习生权限和正职员工差异不大,也使得此次事件有了发生的机会”,其也对此次事件带来的恶性影响表达了担忧,“这件事之后肯定会极大地收缩实习生的权限”。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

字节跳动 大模型训练 实习生攻击 权限管理
相关文章