依赖智能设备,当心“知识债务”| 海外头条

2019-08-19
随时待命的智能设备在没有指令的时候又在忙些什么呢?


编者按:

《海外头条》是创业邦新推出的海外栏目,服务于广大创业人群,为他们提供专业、有启发性和实用性的海外讯息。

栏目通过分享优秀的行业热点文章,帮助创业者打开新思路,洞悉全球市场动向,掌握大企业背后的秘密。创业不应盲目,张开眼睛看世界,才能找到新风景。

不知你是否注意到一种情况,当你使用手机、电脑或其他智能设备时,屏幕上经常会跳出一些“相关的”广告和推荐内容。

奇怪的是,虽然你从未浏览或是搜索过相关的内容,但仔细想想,这些内容往往是你在生活中与比如人谈论过的话题。

这不禁让人怀疑,科技产品已经可以自主监听了吗?

本期推介《大西洋月刊》的一篇文章《人们开始意识到语音助手实际上是如何工作的》(People Are Starting to Realize How Voice Assistants Actually Work),作者Sidney Fussell。


随着人工智能发展,人们的生活发生了变革,尤其是语音技术使得很多怪异行为变得正常化,比如拍手开灯,通过刷脸购物,对着空气大声说话等等。

语音助手大多数时间都是隐形的,因此人们慢慢接受了这样的观点,那就是驱动它们的人工智能就像魔法一样,能在没有人类干预的情况下自动响应命令。

可是,随时待命的智能设备在没有指令的时候又在忙些什么呢?

作者称,上周二彭博社报道,数百家Facebook的承包商监听并转录了用户对Messenger应用程序大声说出的语音片段。他们的工作是确保人工智能生成的文本与音频匹配。

Facebook对此表示,这些音频是匿名的,没有一个用户可被识别。Facebook的一位发言人在发给《大西洋月刊》的电子邮件声明中说,就像苹果和谷歌一样,一个多星期前Facebook也暂停了对音频的人工审核。

考虑到Facebook发生的诸多隐私灾难,以及该公司最近进军家庭摄像头系统的打算,这条新闻实在有些令人反感。

但作者指出,在科技公司中,雇专人查看设备和用户之间的对话片段是家常便饭。

苹果要求承包商转录Siri无意中听到的音频片段,这个月早些时候该项目公开后已经终止;微软的承包商把用户与Skype翻译软件的声音互动记录下来;谷歌的承包商转录了人们对谷歌助理的命令;亚马逊转录了用户对Alexa的要求。

这些公司谁都没有告诉用户他们身边有一个实时转播的话筒。据之前的新闻资料,很多被监听的意外录音涉及非常私密的内容。

作者表示,与其说这是围绕着监听隐私的“丑闻”事件,不如说这是用户群对语音助手实际工作原理知之甚少的结果。

用户只关心智能设备完成了指令任务,但不知道背后有谁在听具体内容。

语音技术所依赖的人工智能产生于一个循环反馈机制:产品性能足够好,从客户那里收集更多的语音数据用于改进服务,随着产品的改进,有更多的人购买,然后收集更多的数据,进一步改进产品。

这个循环需要一个庞大的客户群来维持,那么关键问题是,一旦用户知道即使他们没有触发设备,雇佣工们也会一直听到他们的话,还会有那么多人购买这些产品吗?

Facebook的一位发言人承认,承包商会对那些选择转录语音聊天内容的用户的音频进行转录,但尚不清楚用户是否可以在不通过潜在人工审查的基础上,成功使用语音转录功能。

作者称,由于人工审核的复杂性存在于这个反馈机制中,随着公司提高语音助手水平的需要,用户会被要求更深入地将智能设备融入日常生活,风险只会变得更高。

比如亚马逊拥有的一项专利技术,已经可以评估用户的情绪状态,并相应地调整他们的反应。

其结果是,随着人们对工具的使用率越来越高,科技变得越来越聪明,人们对工具的了解也会越来越少。

作者提及一位哈佛教授最近创造了“知识债务(intellectual debt)”一词,总结了这一现象:人们欣然接受新技术进入自己的生活,出了问题才费心去了解它是如何工作的,基本就是先买后问,积累了太多的知识债务。

过去的两年里,要求保护用户隐私的呼声有所上升。

在科技行业,隐私在某种程度上成了一种讨好用户的营销策略。但仅靠隐私并不能解决知识债务的问题。

对于消费者来说,从一开始就去了解智能设备是如何工作的非常重要。

本文为创业邦原创,未经授权不得转载,否则创业邦将保留向其追究法律责任的权利。如需转载或有任何疑问,请联系editor@cyzone.cn。

来源:创业邦