人脸识别技术让我们不被遗忘怎么办?

2020-10-31
随着大数据、云计算和人工智能的发展,手机、穿戴式设备、摄像头、传感器等无时无刻都在记录着人们的运行轨迹,这些都被数字化后云端存储,低成本、无限制、跨地域的传输、复制和存储。

编者按:本文作者系无锡市大数据管理局局长胡逸,文章首发于澎湃新闻,创业邦经作者授权转载。

在小说《双面真相》里,当代科幻作家特德·姜讲述了这么一个故事:磨刀石公司发布了一款新型搜索软件“会忆”。越来越多人选择佩戴穿戴式个人摄像头(类似谷歌眼镜的科技产品),持续数年不间断拍摄自己生活的每一刻,汇集成生命日志,成为最完整、最不会出错的全生命周期的影集。

人们需要生命日志的原因有很多,有人是为了不错过生命中的美妙一刻,有人是为了随时调用之前有的灵光乍现,甚至有人是为了追寻过敏性体质孩子的过敏源。当然,没有人能有时间、也不会去把所有的内容全看一遍,就像你不能重新活一遍。

而“会忆”这个产品宣称,他们的算法可以帮你把想要的“针”从“干草堆”里精准地找出来(来自英文谚语“find a needle in a haystack”,翻译成中文就是“大海捞针”)。磨刀石公司对这个产品的定位是要超越“Siri”(苹果手机的虚拟个人助理软件)等虚拟助手:他们想用它取代人类的自然记忆。如果你想和朋友分享“上次我吃过的西餐厅的牛排”,“会忆”会自动调取当时的视频并播放出来。如果你和太太为某事争吵,“会忆”会自动回放你们俩之前的言论,而不至于互相指责对方“翻旧账”。至于,让“会忆”帮助找一下汽车钥匙、随意乱放的物品,更是小事一桩。

随着大数据、云计算和人工智能的发展,手机、穿戴式设备、摄像头、传感器等无时无刻都在记录着人们的运行轨迹,这些都被数字化后云端存储,低成本、无限制、跨地域的传输、复制和存储。

“会忆”这个产品逐渐会成为现实,如同美剧《权力的游戏》中罗伊斯家族的那句族语“我们永远铭记”(we remember)。人的一举一动、一言一行,一切都被记录,一切都被数字化,我们过往的一切,如同“数字刺青”一般,镌刻在“虚拟数字人生”的“电子皮肤”上,让人一望即知。反之,“遗忘”将成为这个时代的奢侈品,一个“永远记住”的时代正在降临。

爱因斯坦曾被问过一个问题:“你和我们这些人到底有什么区别?”他的答案是:“如果让你在干草堆里找一根针,你只会去找这根针,而我会把干草堆里的所有针全部找到。”随着新一代信息技术的演进,似乎每个人都可以成为爱因斯坦,找到人生的每一个针。

和阿尔茨海默症(老年性痴呆)相反,当今世界上大概有80名“超忆症”,他们能将自己亲身经历的所有事情记得一清二楚,具体到每一个小细节。美国人布拉德·威廉斯便是其中一员,他可以记起从十岁到现在的所有的事情,比如哪天他吃了什么、穿了什么、说过什么话等等,一清二楚。拥有完美记忆并不如我们想象的那么美好,一段文字会在他脑海中唤出众多画面,导致他无法专注于文字内容。他所认知的实例令他无法理解抽象概念。他的大脑时常会控制不住地闪回过去的回忆。每当想起那些让自己悲伤的东西时,他会陷入无尽的痛苦当中。

近年来,越来越多的人脸识别技术与应用现身公众视野,其中不少引发舆论争议:斯坦福大学研发的算法可通过面部照片识别性取向;部分学校利用人脸识别“监控”教师和学生的上课状态;一些地方的交通管理部门通过人脸识别抓拍闯红灯的行人,被抓拍者的个人信息可实时显示在附近的电子屏幕上。许多人据此得出了“人脸识别技术有被滥用趋势”的判断,主要也是因为人脸识别被强制要求使用、使用规则和保护手段不明、无法撤回并删除数据,安全性不高可被破解等等原因。

最近,“清华大学教授拒绝人脸识别门禁”的消息再次热议,清华大学法学院劳东燕教授认为:“人脸数据具有不可更换性,因为我们无法换脸。一旦泄露就是终身泄露,即便采取法律手段维权成功,也难以恢复原状”。这背后隐藏着个人数据权益保护与个人数据自由流动、合理使用之间的平衡关系,也隐藏着学者对“一切都被记录,一切都被数据化”的担忧。

个人信息保护事关广大人民群众的切身利益,事关国家信息安全,事关数字经济发展,国家显然意识到了这个问题的存在和解决方案出台的必要性。10月13日至17日,十三届全国人大常委会第二十二次会议将在京举行。根据委员长会议建议,本次常委会将审议全国人大常委会委员长会议关于提请审议个人信息保护法草案的议案。

这其中,有一些规范将备受关注。

首先,数据的利用秩序日益成为这个时代的基础制度。个人信息的界定、私密信息保护的法律适用、个人信息的合理使用等制度,都是试图实现个人权益保护和信息自由流通的二者平衡点。

其次,如何区分场景保护个人隐私。以“人脸门禁”为例,如果对个人信息(包括人脸、体温等生理体征)收集和获取环节进行的法律规制已无法真正有效保护个人信息,那么,我们是否应当考虑加强对个人信息使用环节的法律规制?对于敏感的个人信息,必须确立严格的告知和同意规则,即非经告知并取得同意不得处理,同时加大对危害个人信息行为的惩罚。

第三,是否需要在删除权的基础上,再增加规定被遗忘权?对于自然人就其个人信息的知情权、访问权、修正权、被遗忘权、限制处理权、可携带权、拒绝权等如何行使,做出更具体、更明确的规定。

《欧盟数据保护指令》在1995年规定了“删除权”,在2012年修订版中首次提出“被遗忘权”(right to be forgotten),2018年5月25日正式生效的《欧盟数据保护通用条例》(GDPR)确立了被遗忘权,规定了被遗忘权的行使要件及限制条件。此外,美国加州也通过了类似法律,并有一个很形象的名称——“橡皮”法律,要求科技公司应当回应用户要求删除涉及个人隐私的信息。

在司法实践层面,“被遗忘权”最初是通过判例来确定的。

2010年2月,西班牙公民冈萨雷斯,向西班牙数据保护局(Spanish Data Protection Agency, AEPD)提出对西班牙报纸La Vanguardia以及谷歌公司及其西班牙分支机构的申诉。冈萨雷斯的房产曾因社保欠费而被公告强制拍卖,该公告刊载于La Vanguardia发行的报纸,并被谷歌搜索引擎收录。冈萨雷斯认为社保欠费早在多年前已被彻底解决,要求报纸在网页端删除或修改有关页面,以便与他有关的个人资料不再出现,并要求谷歌公司及谷歌西班牙删除或屏蔽与之有关的个人信息,以便这些资料不再出现在搜索结果之中。

2014年,欧盟法院认定当地居民有权要求网站和搜索引擎移除指向不切题的或者过期信息的链接。

至此,“被遗忘权”在欧盟通过司法判例正式确认。之后,谷歌陆续使用了约1235473URLs来满足348508份移除信息的请求。

我国首例“被遗忘权”案是任甲玉诉百度案(参见北京一中院(2015)一中民终字第09558号判决书),任甲玉曾在无锡陶氏生物科技有限公司从事过相关教育工作,后与该公司解除劳动关系。通过百度搜索自己名字,任甲玉发现有和陶氏教育的相关条目。任甲玉认为陶氏教育在业界名声不好,遂主张搜索“任某”之时屏蔽掉“某教育公司”等关键词网页,要求百度删除其关于陶氏教育的相关搜索。

法院经审理驳回任某的诉讼请求,认为我国法律中并无被遗忘权的权利类型,任某主张的被遗忘权不具有“利益正当性”和“保护必要性”的双重要件。

2020年5月28日,十三届全国人大三次会议表决通过了《中华人民共和国民法典》,自2021年1月1日起施行。民法典第1037条规定,自然人具有对自己个人信息的查阅权、复制权以及更正权,当发现信息处理者违反法律法规或双方约定时,具有删除权。这些权利有助于克服自然人和信息处理者之间的信息不对等,并减少信息错误给当事人造成的不利后果。但是,这里还是没有提到“被遗忘权”。

有学者认为,删除权与被遗忘权的区别在于:传统的删除权是一对一的,即自然人(信息拥有主体)对于企业(信息处理者)提出要求,当信息拥有主体认为信息处理者违法或违约收集、使用其个人信息的情况下,有权要求企业删除其个人数据。而在传统删除权上进一步扩展提出的“被遗忘权”是一对多的,不仅包含传统的删除权的权利要求,还包括要求信息处理者负责将其已经扩散出去的个人数据,采取必要的措施予以消除。

回到文章开头的那个科幻故事,如果真有那么一天,到处是摄像头,到处是人脸识别设备,到处是低成本的云端存储,对你生命中每个时刻进行连续不断的视频记录成为可能,你是否愿意选择一个“永不遗忘”的人生?清华大学劳东燕教授呼吁“别把人脸识别技术搞成现代‘刺黥’”,这其实就是文章开头那个科幻故事中提出的一个问题:如果每个人都变成认知赛博格(赛博格 Cyborg,即人类与电子机械的融合系统。认知赛博格指人类更多借用电子设备来认识客观世界的信息加工活动,而非原有的感觉、知觉、记忆、思维、想象等活动),几乎不会被记错,也不会记错什么,那么,拥有完美真实印象就不会产生其他问题了吗?

“通往地狱之路,往往是由善意铺就”,如果每个人都在数字化时代成了“超忆症”,我们还需不需要原谅和遗忘?“冰释前嫌”将不复存在,因为数字化将造就时代冰川。大多数情况下,我们必须忘记一些事情才能够原谅,只有不再经历,才可以忘记。而“会忆”App会阻止这种反馈回路的运转。

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。