智能音箱“惊魂记”:夜半歌声、声音盗刷、暗中窃听

2020-07-13
实验结果发现,智能音箱出现了电流和数据流量波动,这证明智能音箱“偷听”的可能性是客观存在的。

编者按:本文来自微信公众号IT时报(ID: vittimes),创业邦经授权转载。

《IT时报》记者做了一组实验:一名男记者通过天猫精灵开通免密支付服务后,特意选择三名女同事依次呼叫天猫精灵充话费,充值金额分别为10元和50元。

结果显示,这三名实验者均能用男记者绑定的支付宝账户和银行卡成功为自己的手机号充值。关键是,这三名女同事此前没有接触过这部天猫精灵,相当于陌生人。

根据天猫精灵的规则,每笔免密支付最高金额为100元,一天最多消费200元。一个月里用户有可能会被盗刷6000元。

没想到,用智能音箱挪用他人银行账户资金竟然如此简单!

在一段段惊魂未定、一次次惊恐不安中,《IT时报》记者试图寻找智能音箱带来的反思和启示。

惊心: 深夜房间里智能音箱突然发飙

深夜11点,睡梦中,音乐《那女孩对我说》突然响起。

尽管小爱音箱被设置成中等音量,但歌手略带沙哑的声音还是在寂静黑暗的房间里显得刺耳。

王芳(化名)被惊醒。那是6月20日,恰逢丈夫上夜班,当时家里只有自己和仍在熟睡的孩子。

按下小爱音箱暂停键,王芳心里除了害怕还有疑惑。“明明没有设闹钟,为什么小爱音箱会突然响起?”

《IT时报》记者通过黑猫投诉平台联系到王芳。“这是个漏洞,我在网上看到很多人反映智能音箱自动响起的经历!”她说。

王芳向小米客服询问小爱音箱突然响起的缘由,但截至发稿,小米相关负责人仍未给出答复。

林华(化名)也有过类似的经历。凌晨一点,他本想借着看书培养睡意。可是,他的天猫精灵突然说话了!

“你能想象安静的房间里突然传出声音时的感受吗?” 林华用“空气瞬间凝固”来形容。

林华明显感到心脏颤动,甚至能听到自己加速的心跳声。

拔掉天猫精灵的电源,不再被打扰,只是这一夜林华仍心有余悸。为什么天猫精灵会毫无征兆地讲话?林华至今还未想明白。

云知声联合创始人、副总裁康恒告诉《IT时报》记者,智能音箱突然发声,很有可能是触发了误识别

“从语音识别技术本质上看,误识别问题不可能从根本上解决。”康恒认为,无论是AI深度学习还是其他各类算法模型,其本质是概率,只能降低误识别率

据康恒透露,业内行业惯例认为智能音箱24小时内误识别不能多于1次,但如果算法做得不完善,有可能智能音箱在几小时内出现好几次误识别的情况。

为了降低误识别率,智能音箱厂商只有两条路可以走。算法持续优化和迭代,让误识别概率缩小;另一条路则是加上其他模态,比如通过视觉识别技术,综合判断。

如果在十分安静的环境下发生误识别情况,在恒康看来,智能音箱厂商需要解决的是数据和算法匹配问题。

动魄: 大晚上智能音箱突然发出古怪声音

如果说“王芳”们对于智能音箱的误识别无能为力,那么沈琼(化名)的遭遇或许本可以避免。

一首歌曲过后,天猫精灵突然发出口袋摩擦声、苹果手机打字声、呼吸呢喃声……去年12月12日晚上9:30,沈琼正等待丈夫下班回家。

家里孤身一人,偏偏天猫精灵出现异常。“太吓人了!”沈琼说。

她录下了天猫精灵发出的古怪声音,并和家人确认此前是否在手机上有误操作。她得到否定的回答。

最终,沈琼拔出天猫精灵的插头,世界终于回归平静。

沈琼向《IT时报》记者展示了自己与天猫精灵旗舰店客服的聊天记录,在排除智能音箱被他人蓝牙误连接的可能后,客服最终得出的结论是“资源问题”。

当时天猫精灵播放的是一首ASMR(又名耳音、颅内高潮)音乐。

沈琼向记者表示,当时自己并未向天猫精灵发出想听催眠音乐的口令,家人也没有收听ASMR音乐的习惯。

耐人寻味的是,在沈琼联系客服两天后,客服告知她相关音频已被下架。

记者实测,如果现在再向天猫精灵下达播放ASMR音乐指令时,天猫精灵不能识别。

原本ASMR是一种减压催眠的亚文化,但在后续发展中涉及软色情化而受到争议。

2018年6月8日,全国“扫黄打非”办公室约谈网易云音乐、百度网盘、B站、猫耳FM、蜻蜓FM等多家网站负责人,要求各平台大力清理涉色情低俗问题的ASMR内容,加强对相关内容的监管和审核。

记者在QQ音乐、网易云音乐、喜马拉雅、B站输入关键词ASMR,均未发现相关音频内容。但在虾米音乐中,多首ASMR歌曲仍可被找到,其中包括令沈琼不安的那首歌。

中国信通院曾在一份报告中表达了这样的担忧,智能音箱加速不良信息的传播途径,内容源可能会成为不法之徒宣扬色情、恐怖主义传播等不良信息的新手段。

而智能音箱厂商不具备识别或处理涉黄、涉爆、涉政等违法违规的能力,加之网络传播平台自我把关意识不足,增加了内容监管难度。

如果通过智能音箱听到含有ASMR软色情内容音乐是青少年,那会有怎样的后果?

隐患: 声纹泄露可被轻易“声音盗刷”

一位业内人士透露,智能手机会将用户的生物信息储存在专门的加密芯片中,但智能音箱并不是这样。

生物信息加密芯片有一定技术壁垒,仅限苹果、高通、华为等少数几家厂商能生产。”他表示。

目前智能音箱大多采用的是平板类或普通芯片,配备安卓、Linux操作系统及相应程序。

市面上主流智能音箱芯片方案,表格来源:我爱音频网

添加生物信息加密芯片,意味着整个系统大调整,其中还会涉及包括应用开发等多个复杂环节。

这不难解释,厂商为了控制成本,和千元起步的智能手机相比,一台售价不过100~300元智能音箱中生物加密芯片的缺位。

可怕的是,和指纹、虹膜一样,声纹是用户的唯一生物身份证,一旦被泄露,后果可想而知。

作为一种支付工具,如果绑定支付宝账户,并开通免密服务,只需对着音箱下达充话费指令,便能让音箱快速完成任务。

你可以选择不使用声纹识别支付,规避生物信息被泄露的风险,但还可能有新问题。

网络尖刀团队创始人曲子龙告诉《IT时报》记者,和智能手机语音助手专门服务于手机用户的情况不同,智能音箱属于公共应用设备,所在空间里任何一个人都能向智能音箱下达命令,“白名单之外没有设置黑名单,可能会产生隐患。”

就像文章开头,《IT时报》记者所做的实验,试想如果你身在群租房,当陌生室友也能对你的智能音箱下达充值命令,是否意味着他们有机会薅你的羊毛

遗憾的是,目前智能音箱还没有诞生专门的行业标准,技术精度、结构参数均由厂商选择。另一方面,监管法规缺失,未能给潜在的风险戴上枷锁。

这或许是用户面对害怕生物信息泄露和担心被薅羊毛两难困局的根源。智能音箱的支付场景,远不如使用智能手机安全。

远忧: 一套彻底混乱的智能家居系统

奥维云网数据显示,2019年中国智能音箱市场销量为3682.2万台,今年全年市场销量将达4820万台。

今年全年市场销量将达4820万台,来源:奥维云网

“未来智能音箱会扮演家庭娱乐控制的角色,成为智慧家庭IoT的中控台。”康恒如是说。

美好愿景下,还有隐忧。

日本早稻田大学等机构此前一项研究显示,通过使用声波发生器连接智能手机将攻击命令转化为声波信息远距离传递,能干扰智能音箱工作

使用扬声器进行智能音箱音频热点攻击(Audio Hotspot Attack),图源:早稻田大学/ IEEE Spectrum

浙江大学也发布研究成果称,团队能通过“海豚音”超声波黑掉智能音箱。

“海豚音”超声波攻击激活siri并拨打电话

听不见的声波能暗地里操控智能音箱,用户们不禁担忧:如果说半夜家中音乐响起只是惊魂曲的序章,那么房间灯光忽闪忽跳,冬天冷空调无法关闭,洗澡时热水无法被打开,智能家居系统的大混乱会不会是这段“音乐”的最高潮。

“上述场景更偏向于学术研究,属于侧信道攻击,只能在设定范围内攻击,不可能针对普通用户大规模使用。”曲子龙直言,如果超出攻击范围,黑客需要利用组合,比如诱骗访问钓鱼网站,但并不是常见攻击方法。

另一方面,用户隐私数据安全始终是智能音箱无法绕开的话题。

在康恒看来,记录用户数据无法避免。很多厂商会记录用户的匿名数据,但侵犯用户隐私的关键在于,拿到用户数据后有没有脱敏,如何运用这些数据。

曲子龙向《IT时报》记者介绍了网络尖刀曾经做过的一个实验,把未唤醒状态的智能音箱连上电流表,随后播放郭德纲相声,通过耗电量和路由器流量监测判断出在未唤醒状态下智能音箱存在窃听的可能

实验结果发现,智能音箱出现了电流和数据流量波动,这证明智能音箱“偷听”的可能性是客观存在的

本文(含图片)为合作媒体授权创业邦转载,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。