GA黄金甲ADLab：智能音箱网络安全与隐衷钻研汇报
颁布功夫 2019-07-10
目 录
一、市场发展与将来趋向
二、技术发展
2.2 语音交互技术
2.3 组网模式
2.4 安全及隐衷风险钻研的必要性
三、智能音箱安全风险与案例分析
3.1.1 盛开的调试接口
3.1.2 内置的后门
3.1.3 未授权的盛劈头口
3.1.4 盛开未授权的DLNA（Digital Living Network Alliance) 服务
3.1.5 代码缺点
3.2.1 APP申请过多的权限
3.2.2 APP通讯
3.3.1 设备间互联互通和谈
3.3.2第三方内容审核
3.3.3声纹鉴别算法缺点
四、隐衷风险
4.2 过多的权限
4.3 音箱的日志信息被泄露
4.4 灌音信息能够被持久跟踪进建
4.5 API敏感信息泄漏风险
4.6 用户无法治理自己的隐衷信息
2014年11月，亚马逊低调颁布一款智能音箱Echo，它标志取智能音箱市场发展的起头。2015年销量达到250万台，2016年的销量达到520万台，也因而凭借不俗的销量一举超过传统音箱领头羊Sonos，夺得在线音箱行业市场销售头把交椅。一度在智能音箱市场细分领域占据了极大部门的市场份额。亚马逊颁布的智能音箱Echo受到了市场强烈反映，引发了全球智能音箱热潮。随后谷歌公司在2017年5月份也颁布了自家的智能音箱产品Google home。紧随着，苹果公司在2017年颁布智能音箱HomePod。随着国表各大巨头厂商相继颁布各自的智能音箱产品，国内厂商也紧追其后，纷纷入场布局。首先京东和科大讯飞合作推出了“中国版Echo”叮咚音箱，随后酷狗、阿里巴巴、幼米、百度、华为等企业也先后跟进，陆续通过自研或者合作的方式入局。
全球智能音箱市场发展飞快，急剧发作，2017年整年出货量达到了3220万台中国智能音箱市场增长迅猛，目前已经成为全球第二大智能音箱市场。
智能音响是传统音箱升级的产品，家庭消费者能够通过它上网点播歌曲，上网购物，亦或是相识气象预报，按时闹钟，新闻资讯等。它也能够对智能家居设备进行节造，好比打开窗帘，设置冰箱温度，提前打开热水器升温等，这种智能音箱是接入了智能家居网络中能够进行的操作。其实智能音箱主题比力简要，就是让机械在说话对话这一环节占有近似于人类的鉴别能力，并渗入到人们的日常生涯中。
2.1 智能音箱职能
图1 智能音箱职能示意图
智能音箱分歧于传统音箱，它将是物联网世界的说话入口。
2.2 语音交互技术
图2 智能音箱鉴别正确率
2.3 组网模式
图3 组网示意图
2.4 安全及隐衷风险钻研的必要性
人类的语音内容中蕴含了丰硕的幼我信息。通过语音内容，分析人员能够获得幼我的春秋、性别、籍贯、健全情况、周围环境等幼我敏感信息。所以智能音箱的语音采集及利用涉及到敏感的幼我隐衷问题。
隐衷权是人的基自己权，公家有权势相识自己的幼我信息是若何被采集的，什么时辰被采集的，在哪里被采集，公家有权势决定自己的幼我信息如电采集，保留及使用方式。随着民多自我� ；ひ馐兜奶岣呒八痉ǖ慕�，加强幼我信息安全及隐衷� ；さ暮羯苍嚼丛礁�。
2018年，欧盟起头执行GDPR法案，要求企业必须保险幼我隐衷安全。
近年来，关于智能音箱涉及的安全及隐衷问题也时时见报端。
图4 智能音箱幼我信息泄露报路
GA黄金甲在对音箱的安全钻研期间，共向CNVD（国度信息安全缝隙治理平台）及CNNVD（中国国度信息安全缝隙库）提交了十多个设备安全缝隙，部门设备的编号及注明如下表所示。
|
缝隙编号 |
缝隙风险 |
缝隙级别 |
|
CNVD-2019-13611 |
齐全节造设备 |
高危 |
|
CNVD-2019-06254 |
齐全节造设备 |
高危 |
|
CNVD-2019-05626 |
齐全节造设备 |
高危 |
|
CNVD-2019-05625 |
齐全节造设备 |
高危 |
|
CNVD-2019-07688 |
播放恶意音频 |
中危 |
|
CNVD-2019-09098 |
齐全节造设备 |
中危 |
|
CNVD-2019-12775 |
内容窃听 |
中危 |
|
CNVD-2019-12111 |
信息泄露 |
低危 |
|
CNVD-2019-13278 |
信息泄露 |
低危 |
|
CNVD-2019-15526 |
播放恶意音频 |
低危 |
3.1 设备端
3.1.1盛开的调试接口
图5 盛开的调试接口
3.1.2 内置的后门
3.1.3未授权的盛劈头口
部门音箱盛开了部门的盛劈头口，通过这些盛劈头口，利用未授权的盛劈头口，攻击者能够节造音箱播放恶意音频或者进行灌音。
图7 未授权的盛劈头口
3.1.4 盛开未授权的DLNA（(DigitalLiving Network Alliance) 服务
图8 盛开的DLNA服务
3.1.5 代码缺点
图9 获取playurl
图10 肆意号令注入执行
图11 成功开启telent服务
3.2 APP侧
3.2.1APP申请过多的权限
APP申请权限过多的问题比力严沉，在我们测试的国产音箱中，该问题全数存在。其中过度的权限蕴含但不限于APP读取短信，读取手机的鉴别码，发送/读取短信/彩信的权限，打开摄像头的权限，读取用户通话纪录及已手机已装置利用信息，拨打电话，使用呼叫转移，读取活动数据的等敏感权限。
图12 敏感权限
3.2.2 APP通讯
通讯和谈未加密问题，使得攻击者能够利用这些露出的安全问题，获得设备的节造权。
图13 APP通讯抓包
3.3 设备互联及第三方服务
3.3.1 设备间互联互通和谈
在智能家居的场景中，智能音箱起到了节造中心的职位，智能音箱通过鉴别用户的语音号令，通过智能家居的互联和谈节造其他家居设备。我们在钻研智能音箱的时辰，发现部门厂家在智能家居设备的互联和谈中没有选取必要的安全审核机造，出格是设备和设备之间合法性验证。攻击者利用这些设计缺点就能够窃取音箱的语音号令内容或者犯法节造其他智能家居设备。
3.3.2第三方内容审核
由于智能音箱的使用者，很大一部门是儿童。因而对智能音箱来说对音频回复内容的审核应该要有肯定的敏感内容防护，不能回复反动音频或者是粗口内容。在我们钻研的过程中，我们发现个别音箱在处置内容鉴别时，短缺必要的防护，使得在一些特定的中英混合问题的场景中，智能音箱会回复粗口的内容。
3.3.3声纹鉴别算法缺点
4.1 误唤醒
在音箱的使用场景中，只有效户唤醒音箱后，音箱能力网络用户的语音信息。而由于有些音箱的唤醒算法存在缺点，使得音箱时时在未被唤醒的情况下，自行唤醒，并且网络用户语音，上传到后盾进行鉴别。这样会使得用户的隐衷存在泄漏风险。在我们测试的音箱中有五款智能音箱存在分歧水平的误唤醒情况。占比达到56%。
4.2 过多的权限
APP申请的蕴含APP读取短信，发送短信的权限，摄像头的权限，通话纪录及已装置利用信息，使用呼叫转移，读取活动数据的等敏感权限。
在音箱的使用场景中，在气象预报的时辰必要获取用户地点的城市的地位，在通常的使用情况下，只必要音箱的表网IP地址即可获取用户的地域地位，而某些音箱除此之表还获取用户家中路由器的WIFI的BSSID信息及GPRS位相信息。
4.3 音箱的日志信息被泄露
某些音箱每天会上传用户音箱的系统日志信息，这些日志信息不仅蕴含音箱的日常使用信息，还蕴含了音箱地点局域网的WI-FI的密码信息。
4.4 灌音信息能够被持久跟踪进建
在我们钻研的这些音箱的远场音频处置�？榛岫陨璞傅牟杉讨�，会对统一设备采集的音频会偷偷打上唯一标识。这些语音文件保留到云端后，第三方厂家在进行语音分析及AI建模时，能够通过暗藏的声音标识定位到幼我，能够对统一家庭成员的声音进行追踪，能够对幼我的语音特点变动进行长功夫的跟踪和进建。
4.5 API敏感信息泄漏风险
智能音箱的产业链中蕴含了音箱设备厂家、语音鉴别及语音合成平台厂家、远场音频处置厂家、NLP算法厂家、音频内容提供商、表围设备商等。
在智能音箱厂家与产业链厂家交互中API，蕴含用户的手机号，具体地理地位，WI-FI的BSSID，MAC地址蹬酌户隐衷信息，而这些信息对于产业链厂家来说不是业务所必须的。
4.6 用户无法治理自己的隐衷信息
用户有权势决定自己的幼我语音信息在云端的保留。厂家应为用户治理这些隐衷信息提供服务入口。
国表的智能语音设备厂家如亚马逊在APP侧及音箱侧为用户提供了删除云端幼我灌音。亚马逊音箱用户只必要对音箱说“Alexa，删除我今天所说的所佑妆。亚马逊将会删除在云端保留的用户灌音。
通过对多款智能音箱进行深刻地钻研，我们总结出五个方面的安全问题，别离为安全风险、设备端、APP侧、表接设备及第三方组件以及隐衷风险。
设备端问题重要是智能设备开发板露出出调试串口，能够通过调试器将设备中的固件独读取出来进行逆向分析，导致固件泄露。
APP侧问题重要是存在被逆向分析的风险，我们在钻研过程中，对多款智能音箱的手机端app进行了逆向分析，发现了好多关键问题，例如，设备和云服务器之间的通讯和谈。智能音箱中使用通过第三方和谈进行局域网音频播放，而使用的第三方和谈是没有进行设备认证的。
最沉要的一个安全问题就是隐衷问题，我们发现多款设备都存在网络用户信息并打包回传云服务器的职能。其中有的设备被攻击后，在用户不通达的情况下，能够进行灌音操作。甚至还能回溯用户的使用痕迹和语音痕迹。
针对这些安全问题，必要逐一进行防护。APP侧要使用加固伎俩，预防被逆向分析，将一些关键和谈的实现放到native层实现。对于表接设备及第三方组件，智能设备厂商必要对第三方厂商的安全准入进行把关。
隐衷问题是一个大问题，同时也是一个宽泛的社会问题，厂商可能通过网络用户使用信息来分析用户行为以便更好的提供服务，但该当思考隐衷天堑。同时对于网络到的用户信息应做到加密，不能只管网络不论� ；�，厂商应该承担起自己的社会责任。
全国政协委员、GA黄金甲集团CEO严望佳在2019 全国政协会议上提交了三个提案，其钟锥关于加快美满数字经济时期数据法治建设的提案》和《关于规范人为智能安全健全发展的提案》与幼我隐衷有关。这两个提案建议加快《数据安全法》工作及《幼我信息� ；しā饭ぷ�，加快发展人为智能安全利用律例和伦理路德钻研及利用安全测评工作。
京公网安备11010802024551号