字节跳动大模型训练被实习生攻击，涉事者已被辞退

APP下载

扫一扫

下载观察者APP

字节跳动大模型训练被实习生攻击，涉事者已被辞退

分享到：

2024-10-19 10:25:04 字号：A- A A+ 来源：界面新闻

界面新闻从知情人士处获悉，此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

10月18日，多个微信群流传一则消息：“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。”

界面新闻从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。

界面新闻向字节跳动方面求证此事，截至目前，官方未进行回应。

传闻显示，该田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且AML团队无法核查原因。但传闻曝出之后，该实习生还在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把锅扣到自己头上。

界面新闻从知情人士处了解到，字节跳动内部已经调查明确此事为田姓实习生所为。目前，该实习生已被辞退，字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟，以及该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅，称是其他人所为。

但该实习生攻击的并不是豆包大模型，而是商业化技术团队的模型训练任务，影响了该技术团队的一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。

一位技术安全专家告诉界面新闻，HF漏洞产生肯定是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁做操作都有痕迹记录，一个人想动代码是不可能的。

上述技术安全专家表示，目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。

（界面新闻记者肖芳）
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签
- 原标题：字节跳动大模型训练被实习生攻击，涉事者已被辞退
- 责任编辑: 林铃锦
- 政策组合拳下，四季度经济怎么走？
  
  2024-10-19 09:02 观网财经-宏观
- 印度手机出货单季增长9%，vivo超小米首成第一
  
  2024-10-18 22:09 观网财经-科创
- 科大讯飞三季度扭亏，前三季度回款150亿
  
  2024-10-18 20:58 观网财经-科创
- 三季度经济增速4.6%，全年5%目标如何实现？
  
  2024-10-18 20:38 观网财经-宏观
- 外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认
  
  2024-10-18 18:20 观网财经-科创
- 第十批药品集采开启，62品种263品规创历年之最
  
  2024-10-18 18:17 观网财经-健康
- 自然资源部：涉及国家安全，必须存储于境内
  
  2024-10-18 18:14
- 京东金融：不存在网传“挤兑”情况
  
  2024-10-18 17:16 观网财经-金融
- 学会反思的国产大模型，真变强了？
  
  2024-10-18 16:17
- 沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高
  
  2024-10-18 15:12 金融观察
- 沪深两市成交突破1.5万亿，芯片行业ETF放量飙升
  
  2024-10-18 14:10 观网财经-金融
- 吴清：加快落实中长资金入市，严惩违规减持
  
  2024-10-18 13:59 观网财经-宏观
- 央行两项新工具今日实施！“预计还有降准降息”
  
  2024-10-18 12:50 观网财经-金融
- 诺基亚在中国裁员近2000人，在华份额已不到5%
  
  2024-10-18 11:19 观网财经-科创
- 李德仁院士提出“时空智能学”
  
  2024-10-18 10:00 观网财经-科创
- 欧洲央行宣布降息25个基点
  
  2024-10-17 20:34 金融观察
- 美的科技月：累计奖励超5亿元，加强全球人才引入
  
  2024-10-17 20:26 观网财经-科创
- 存量房贷下调后还有红包：下月起定价机制可重新协商？
  
  2024-10-17 18:35 观网财经-金融
- 茅台在香港降价千元？门店员工称暂未接到通知
  
  2024-10-17 18:04 观网财经-消费
- 成都将迎大规模拆迁？房小团发布澄清声明
  
  2024-10-17 16:23 观网财经-房产
搜索

   观察者头条查看全部

“不吃够自己种的苦果，某国就不会放下身段老实谈判” 评论 90

关键时刻，外贸大省如何突围？评论 35

“特朗普会输，‘用谈判孤立中国’行不通” 评论 91

“中国代表团访问巴西，探讨两洋铁路” 评论 193

直播：如何应对特朗普贸易战——来自毛泽东的智慧评论 30

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

字节跳动大模型训练被实习生攻击，涉事者已被辞退

政策组合拳下，四季度经济怎么走？

印度手机出货单季增长9%，vivo超小米首成第一

科大讯飞三季度扭亏，前三季度回款150亿

三季度经济增速4.6%，全年5%目标如何实现？

外媒称苹果曾与比亚迪秘密合作开发汽车电池，比亚迪否认

第十批药品集采开启，62品种263品规创历年之最

自然资源部：涉及国家安全，必须存储于境内

京东金融：不存在网传“挤兑”情况

学会反思的国产大模型，真变强了？

沪指大涨近3%，创业板指飙升近8%！两市成交额创9日以来新高

沪深两市成交突破1.5万亿，芯片行业ETF放量飙升

吴清：加快落实中长资金入市，严惩违规减持

央行两项新工具今日实施！“预计还有降准降息”

诺基亚在中国裁员近2000人，在华份额已不到5%

李德仁院士提出“时空智能学”

欧洲央行宣布降息25个基点

美的科技月：累计奖励超5亿元，加强全球人才引入

存量房贷下调后还有红包：下月起定价机制可重新协商？

茅台在香港降价千元？门店员工称暂未接到通知

成都将迎大规模拆迁？房小团发布澄清声明

“特朗普认为欧盟在占美国便宜，别指望梅洛尼能谈成”

“为防止被美国偷窥，连英国也支棱起来了”

特朗普：鲍威尔赶紧下台，总是迟、总是错

“中国有韧性美国则不然，特朗普已经搞砸了”

关键时刻，外贸大省如何突围？

“中国代表团访问巴西，探讨两洋铁路”

“世界贸易将围绕中美运转，美国如此笨拙…”

“中国将缺席，英国遭受打击”

“美国设下陷阱，韩国主动入局，要重现广场协议？”

美媒感慨：2小时→1分钟，中国又一壮举

“英伟达对中国客户隐瞒了…”

美国土安全部长放狠话：哈佛如果不从命，就别想再招外国学生

武契奇：天塌下来，我也不改主意

特朗普突然现身美日关税谈判，“背后是市场压力”

沙利文猛批特朗普：中国可不会像苏联那样崩溃

美国“吃货”欲哭无泪：特朗普逼着中餐馆换料，味儿不对了