仅用一张贴纸就能在AI前隐身安全监控摄像还安全么？

APP下载

扫一扫

下载观察者APP

仅用一张贴纸就能在AI前隐身安全监控摄像还安全么？

分享到：

2019-04-24 18:15:17 字号：A- A A+ 来源：新智元

关键字:

导读
最新研究发现，只要一张打印出来的贴纸，就能“欺骗”AI系统，让最先进的检测系统也无法看到眼前活生生的人。该研究也可能用于现实的视频监控系统，引起热议。

本文转自新智元编辑：肖琴、大明

一张贴纸让你在AI面前”隐身“。

来自比利时鲁汶大学 (KU Leuven) 几位研究人员最近的研究发现，借助一张简单打印出来的图案，就可以完美避开 AI 视频监控系统。

研究人员表示，他们设计的图像可以将整个人隐藏起来，不会让计算机视觉系统发现。这项研究在YOLO (v2) 的开源对象识别系统上进行了演示。

如上图所示，AI 系统成功检测到左边的人，而右边的人被忽略了。右边的人身上挂着一块彩色纸板，在论文中被称为 “对抗性补丁”(adversarial patch)，正是这块补丁 “欺骗” 了 AI 系统，让系统无法发现画面中还有一个人。

这种欺骗利用了一种称为对抗性机器学习的方法。大多数计算机视觉系统依赖训练 (卷积) 神经网络来识别不同的东西，方法是给它提供大量样本，调整它的参数，直到它能正确地分类对象。通过将样本输入一个训练好的深度神经网络并监控输出，可以推断出哪些类型的图像让系统感到困惑。

他们发表了题为 Fooling automated surveillance cameras: adversarial patches to attack person detection 的论文，并公布了用于生成图像补丁的源代码。

地址：

https://gitlab.com/EAVISE/adversarial-yolo

生成的补丁 (patch)能够成功地将人在检测器视线中隐藏起来。例如，这种攻击可能被恶意地用来绕过监视系统，入侵者只要将一小块硬纸板放在身体前面，面向监视摄像头，就能不被监视系统发现。

研究结果显示，这个系统能够显著降低人体检测器的精度。该方法在真实场景中也能很好地发挥作用。

如下面的 demo 所示，使用 YOLOv2 检测拍摄的录像，画面中人、椅子、桌子等都被准确地检测出来，但只要拿上这块 “补丁”，系统就无法检测到人。

1 2 3 下一页余下全文
标签 AI 隐身安全摄像头
- 原标题：一张贴纸欺骗AI，对抗性补丁让人类隐身，监控摄像危险了！
- 责任编辑:李嘉
- 最后更新: 2019-04-24 18:15:17
- 人类首次检测到火星疑似地震
  
  2019-04-24 17:47 航空航天
- “孙悟空”大战“阿丽塔”，联想Z6 Pro和小米9你选谁？
  
  2019-04-24 17:20 手机
- 厦门大学成功发射一枚带翼回收火箭
  
  2019-04-24 15:51 航空航天
- “吉林一号”今年新增20颗卫星将首次海上发射
  
  2019-04-24 15:48 航空航天
- 中国电信率先实现首个5G SA语音通话
  
  2019-04-24 14:28 5G
- SK海力士新增动产抵押信息抵押金额高达35亿美元
  
  2019-04-24 14:25
- 英国将允许华为“有限”参与5G网络建设
  
  2019-04-24 10:46
- 为了京东，刘强东应该辞去CEO
  
  2019-04-24 09:49 互联网大佬
- 联想Z6 Pro发布，常程：手机业务对谁来说都是持久战
  
  2019-04-24 02:00 手机
- 中国空间站公开征集科学实验和技术试验项目
  
  2019-04-23 17:45 航空航天
- 中国联通5G国际合作联盟：美日德法英等8国企业加入
  
  2019-04-23 16:13 5G
- 进军韩国！华为下月将在首尔开设5G服务中心
  
  2019-04-23 13:17
- 氢燃料电池“中国芯”研发获得突破
  
  2019-04-23 09:45 中国精造
- 华为推出“世界首款”5G车载模组
  
  2019-04-23 09:18
- 三星：Galaxy Fold将推迟上市做进一步改进
  
  2019-04-23 08:40
- 格芯宣布出售纽约州300mm晶圆厂，安森美4.3亿美元接盘
  
  2019-04-23 08:12
- 华为P30系列台湾开卖，引3500人排队抢购创纪录
  
  2019-04-22 22:24 华为
- 腾讯：登录新游戏基础准入年龄从13周岁提升至16周岁
  
  2019-04-22 20:27
- 首款全国产固态硬盘控制芯片发布：读写速度500MB/s
  
  2019-04-22 16:43
- 华为将为非洲国家杯推出首个5G手机网络
  
  2019-04-22 15:52
搜索

   观察者头条查看全部

“特朗普此举，是怕好莱坞没凉透啊” 评论 87

“这一领域中国正不战而胜，菲律宾也无法说不” 评论 81

特朗普蔫了：俄乌和平协议“也许达不成” 评论 135

涉及对华贸易，纳瓦罗对英国威胁上了评论 151

“气疯了！”美国年轻选民倒戈：为何牺牲我们？评论 211

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

仅用一张贴纸就能在AI前隐身安全监控摄像还安全么？

人类首次检测到火星疑似地震

“孙悟空”大战“阿丽塔”，联想Z6 Pro和小米9你选谁？

厦门大学成功发射一枚带翼回收火箭

“吉林一号”今年新增20颗卫星将首次海上发射

中国电信率先实现首个5G SA语音通话

SK海力士新增动产抵押信息抵押金额高达35亿美元

英国将允许华为“有限”参与5G网络建设

为了京东，刘强东应该辞去CEO

联想Z6 Pro发布，常程：手机业务对谁来说都是持久战

中国空间站公开征集科学实验和技术试验项目

中国联通5G国际合作联盟：美日德法英等8国企业加入

进军韩国！华为下月将在首尔开设5G服务中心

氢燃料电池“中国芯”研发获得突破

华为推出“世界首款”5G车载模组

三星：Galaxy Fold将推迟上市做进一步改进

格芯宣布出售纽约州300mm晶圆厂，安森美4.3亿美元接盘

华为P30系列台湾开卖，引3500人排队抢购创纪录

腾讯：登录新游戏基础准入年龄从13周岁提升至16周岁

首款全国产固态硬盘控制芯片发布：读写速度500MB/s

华为将为非洲国家杯推出首个5G手机网络

“特朗普此举，是怕好莱坞没凉透啊”

“这一领域中国正不战而胜，菲律宾也无法说不”

又作妖，美议员要提案强制英伟达芯片植入定位系统

“普京接受了邀请”

特朗普暗示：他俩可以接班

特朗普蔫了：俄乌和平协议“也许达不成”

威胁美国后又滑跪，日本财长：不抛美债

“气疯了！”美国年轻选民倒戈：为何牺牲我们？

越南工厂恐慌蔓延：客户已开始撤单，等90天有何用？

百日民调创80年最差，万斯：不相信、不在乎

塞尔维亚副总理：武契奇没放弃访俄

美印太司令部司令：中国在这方面超过美国，常常“夜不能寐”

巴菲特罕见警告美元：不会投资“在下地狱”的货币

48%流向美贫困区，“离了这些，我们根本活不起了”

“终于从中国借到了月壤，NASA却…”

阿尔巴尼斯成功连任，“特朗普因素成幕后推手”

仅用一张贴纸就能在AI前隐身 安全监控摄像还安全么？

仅用一张贴纸就能在AI前隐身安全监控摄像还安全么？