IT之家 2024年11月27日
篡改代码并攻击大模型,前实习生被字节跳动起诉并索赔 800 万元
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

字节跳动起诉前实习生田某某,因其在实习期间恶意篡改代码,攻击公司内部模型训练,导致模型训练效果异常。田某某毕业于北航和北大,研究方向为深度学习,在字节跳动商业化技术团队实习期间,因对资源分配不满,利用Hugging Face漏洞在共享模型中写入破坏代码,造成模型训练效果不稳定。字节跳动已将其辞退并提起诉讼,要求赔偿800万元损失,并公开道歉。事件虽未影响正式项目和线上业务,但公司认为田某某行为触犯安全红线,需严肃处理,避免类似事件再次发生。

🤔字节跳动起诉前实习生田某某,因其在实习期间恶意篡改代码,攻击公司内部模型训练,导致模型训练效果异常,并造成一定损失。

💻田某某利用Hugging Face的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果。

⚠️字节跳动认为田某某的行为触犯了公司安全红线,已将其辞退并提起诉讼,要求赔偿800万元损失,并公开道歉,以表明公司严肃态度,杜绝类似事件再次发生。

💼该事件未影响字节跳动商业化正式项目及线上业务,但公司仍认为此事件的严重性不容忽视,需要严肃处理。

👨‍🎓田某某毕业于北航和北大,研究方向为深度学习,在字节跳动商业化技术团队实习期间,因对资源分配不满,采取了破坏性行为。

IT之家 11 月 27 日消息,据《南方都市报》今晚报道,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失 800 万元及合理支出 2 万元,并公开赔礼道歉

报道称,田某某本科毕业于北京航空航天大学软件学院,研究生就读于北京大学,研究兴趣为深度学习的优化与算法。字节跳动内部人士表示,之所以此时发起诉讼,是由于田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。

IT之家附前情提要:

今年 10 月,业界消息称,“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了 8000 多张卡,带来的损失可能超过千万美元。”知情人士表示该公司为字节跳动

根据传闻,某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。该田姓实习生利用了 HF(IT之家注:huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且 AML 团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。

字节跳动后续发布《关于“实习生破坏大模型训练”的事实澄清》:近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

字节跳动 实习生 代码攻击 模型训练 Hugging Face
相关文章