文章分类

腾讯安全平台部总监胡珀《IoT + AI + 安全 =?》

由 九三 于 2018-12-05 18:40:53 发表

我们分享的第三个重磅内容,来自腾讯安全平台部总监胡珀(lake2)带来的——《IoT + AI + 安全 =?》

这是一个很有趣的标题,也是一个大家期待许久的标题,IoT 与 AI 在安全上究竟会碰撞出怎样的火花?


这几年很明显就能感觉到 AI 与 IoT 技术发展迅猛,对我们整个安全行业其实是一个好消息。因为随着智能设备、AI 的发展,安全问题的影响也变的不同,比如过去的安全可能只是你的钱被盗了,那都有支付保险可以让厂商赔付。现在被盗的是我们的隐私,比如说AI音箱会放在卧室、客厅,处于用户的敏感生活区域;还有车联网安全问题对我们的人身安全会形成很大的威胁,所以说这些机遇对于我们安全从业者来说其实是个好事。

现在经常听到智慧+,比如我们去超市买个东西可以刷个脸,现在微信支付正在做刷脸功能,以后你买东西直接看一下脸就可以了。但是这里也有一个问题,比如我模拟别人的脸,那会不会把这个钱算在别人的头上,这里都有一系列安全的问题。包括我们的无人超市、自动驾驶,特别是未来几年智能化的设备发展会非常快。

新技术的发展一定会带来新的安全问题,我们觉得问题主要来自以下方面:

  1. 手机APP端问题

  2. 硬件自身问题

  3. 云端问题

  4. APP到云端间的通讯问题

从大的方向来看的话主要是这四个方面潜在的安全问题,我们去挖掘智能设备漏洞,主要会从这四个方面出发。


随着时代的发展,我们看到黑产也开始利用 IoT 设备做一些事情。我们现在每天都在对抗DDoS攻击,今天发现它是个路由器,明天发现它是个摄像头,这种来自IoT的攻击越来越多。我猜想这应该是得益于攻击代码的开源化了。这个是我们统计的 IoT 攻击趋势,下面这个图是我们团队把被黑的 IoT 设备做了一个统计,大概是这样一个趋势。右边是抓到的一个专门攻击 IoT 的代码片段。


下面具体介绍一下我们在 IoT 设备上发现的一些问题,首先 AI 音箱目前卖的比较火,但是它本身也存在一些不安全的因素,问题还是前面我说的四个点里。只要我把音箱拆掉,把固件 dump 出来分析,再把自己的程序刷进去,就可以把这个音箱做成监视器,本来需要一个语音指令唤醒,但再修改之后就会把声音记录下来,传输到云端,这个我们已经实现了。

另外一个是我们对智能楼宇做了一个测试,在深圳的腾讯新大厦就是一个智慧楼宇的典型,我们就发现它里面很多灯是可以用手机APP或者远程控制的,包括内部的插座插线板窗帘都可以控制。然后我们就对智能设备进行的一些破解,发现协议其实是有问题的。为了做黑客模拟攻击掩饰,我们在无人机下面挂了一个信号发射器,飞到36层会议室外发射信号,把里面的灯控制了。基本上智慧楼宇能够控制的东西我们都能控制,等于拿到了最高权限。这也是用一个实际的案例来证明未来我们的智慧设备会带来很多的安全问题。

还有就是劫持无人机,这个是在 2015 年研究智能设备的时候发现的,通过模拟信号远程把飞机给控制了,技术上解决调频的问题就可以。

还有摄像头,2014年的时候有一波热潮,很多传统的厂商开始做智能摄像头,但他们并没有足够的互联网安全经验。在设备运行的时候,我们用远程攻击的方式就可以把摄像头视频替换掉,比如让一个物体或者一个人凭空消失,未来这种摄像头如果应用到了安防监控中,坏人要干一些事情,他是可以把自己凭空消失掉,查不到证据的。


今天要讲的另一个问题就是AI,大家知道医疗行业已经用 AI 看片子识别疾病了。但是AI本身也有问题,主要有三类:

  1. 算法自身的问题 比如说它去识别图象,它去识别语音,其实需要大量的数据和样本。大家有没有想过如果这些数据本身是有问题的,AI 拿到之后识别就会受到影响。

  2. 传统的问题 它会捕捉视频,也会捕捉照片,还有就是有网络协议的传输,这可能面临一些传统安全问题,比如说溢出攻击。

  3. AI技术的滥用 我们发现黑产也开始利用 AI 技术,比如识别验证码,成功率非常高。还有用 AI 来实施诈骗,我们接电话的时候,有个人跟你对话,其实它是AI并不是人,但是你听不出来。

AI 影响比较大的一个方面就是无人驾驶,比如覆盖一个特定的攻击图层。左边是原始的,右边是修改后的图片。如果是人来开车的话就没有问题,但如果是自动驾驶系统的话可能就有问题,它可能认为直行可右转。


还有被污染的AI,现在很多的AI系统会用到谷歌的人工智能的TensorFlow。这里的问题主要是两类,一类是溢出,比如处理图片文件时,可能由于处理不当导致溢出,进而拿到它的权限。另外一类是它处理这种模型文件,如果这个模型文件有问题,我也可以拿到它的权限。

最后是被黑产利用的 AI,AI算法可能会被用于破解验证码,我们测了一下它的识别率挺高能够达到 95%,比传统的OCR技术厉害得多。它会把验证码切割好之后发送出去,拿大量的特征先用人工学习,学习之后会产生一个模型文件。某一类的验证码学习完成后,AI有针对性地去识别和破解,破解率当时也是挺高的。我还觉得奇怪,好像没有见到OCR技术破解效果这么好,后来是联合警方把这个团队抓获之后,发现他们其中有一个是博士,专门去做这方面的研究。

现在我们把 AI 应用到安全领域主要是三个方面,第一是向传统的生物特征转变,另外一个是一些工具可能会把我们的深度学习、机器学习,或者是神经网络的算法应用到我们的这个领域。还有就是实战效率提升,本质上就是把AI和传统安全结合起来,简单可以理解为是一个AI和传统特征的一个结合,避免漏报误报。

未来随着IoT和AI的应用,一定会带来更多的安全问题。当然,有挑战就用机会,它对我们安全层面是一个很好的机会。所以建议大家去看这个安全,我觉得很有搞头。第二,我们可以把AI应用到特定的安全场景,这个领域还是需要大家一起去探索和多多交流,因为这也是一个启蒙阶段。


PPT下载链接: https://cnbj1.fds.api.xiaomi.com/src/xiaomi-IoT-security-conference/IoT%20%2B%20AI%20%2B%20%E5%AE%89%E5%85%A8%20%3D%EF%BC%9F%20-%20%E8%83%A1%E7%8F%80.pdf