环球首页 国内·国际·言论 | 经济·财富·科技 | 社会·文化·生活·其他 | 专栏 | 过刊检索 | 关于我们 | 环球广告
“人脸”守卫战
  新华网 ( 2020-10-20 06:45:43 ) 来源: 《环球》杂志
 

 

  从法律角度来看,面部识别技术应用过程中存在侵犯隐私、违反个人数据保护、算法歧视等风险,这正引起学界和商界越来越多的担忧。

刘耀华

  创新工场董事长兼CEO李开复近日的一个“口误”吓坏了三家公司,也把人脸数据的安全隐患问题摆上了台面。

  9月12日,李开复在HICOOL全球创业者峰会上演讲时表示,曾帮助北京旷视科技有限公司(下称“旷视科技”)从美图、蚂蚁金服处收集了大量人脸数据。随后,蚂蚁金服、旷视科技先后发布声明紧急澄清。李开复也为自己的“口误”道了歉。但事件依然引发网络上对于人脸数据安全性、人脸识别使用边界问题的讨论。

  面部识别技术能实现精准定位到个人,并对个人进行精准分析,也因此,人脸数据是个人的敏感信息。当前,面部识别技术已应用于很多行业,如刑侦等涉及国家安全、社会安全的领域,以及金融、医疗、电子商务等日常生活场景。

  但从法律角度来看,面部识别技术应用过程中存在侵犯隐私、违反个人数据保护、算法歧视等风险,这正引起学界和商界越来越多的担忧。

无意间“丢了脸”

  刷脸消费、刷脸乘车、刷脸打卡……人脸识别技术在日常生活中能做的事变得越来越多。

  2018年8月,国际调研机构Gen Market Insights发布《全球人脸识别设备市场研究报告》称,根据人脸识别行业发展现状,到2016年,全球生物识别市场规模在127.13亿美元左右,其中面部识别市场规模约26.53亿美元,预计到2021年这一数字将达到63.7亿美元。2017年,中国面部识别产值占全世界29.29%的市场份额,2023年预计将达到44.59%。

  产业壮大的背后也存在人脸信息被各行各业随意采集应用的情况。此前,位于江苏南京的某大学,就在部分教室安装了面部识别系统用于日常考勤和课堂纪律管理。该系统在学生进教室后自动识别其个人信息,帮助学生自动签到签退,并全程监控学生上课听讲情况,学生在教室内包括发呆、打瞌睡、玩手机等小动作在内的所有行为都能被该系统识别出来。

  在许多生活场景中,人们也在不知情的情况下留下了自己的“人脸数据”。比如,一些餐馆和购物区通过电子广告牌先进的面部识别技术,不仅提供个性化广告,还测量和记录消费者信息及相关反响,以达到使零售商能够提供更有针对性的营销和服务的目的。

  这类面部识别技术的使用不需要配合专业的面部采集设备,个人在无意识的状态下就可被获取人脸图像,个人数据甚至隐私完全处于透明状态,姓名、性别、年龄、职业,甚至包括用户不同情境状态下的情绪等大量信息都在“刷脸”过程中被采集并存储,其中还包括大量未成年人的个人数据。

“脸安全”之忧

  2019年8月,换脸App“Zao”一夜爆红,用户只需要在App中上传一张照片,就能将自己的脸替换成“小李子”“周润发”等人的脸,人脸融合效果几可乱真。

  目前,“人脸”已成为直接关系到每个人财产甚至人身安全的关键信息,“换脸”技术的出现引发了人们对人脸技术安全的极大担忧。

  人脸图像是重要的个人生物识别数据之一,在一般情况下掌握面部识别数据的组织和个人单独从人脸图像就能定位到个人。若不法分子将获取的用户身份特征用于违法目的,将对公民个人隐私造成泄露甚至侵害。

  而单从技术本身来看,面部识别技术的应用也存在产生错误识别和算法歧视的风险。

  面部识别技术具有两种不同的功能。一是对个人身份进行验证,目的是验证这个人是否是其声称的那个人。在这种情况下,系统将把预先记录的生物特征模板(如存储的图像)与一张真实的人脸比对,以进行验证。该功能依赖于两个模板的比较。二是对某一个人的身份进行鉴定,即在一群人中找到目标。在这种情况下,系统必须对捕捉到的每张人脸进行测试,以生成生物特征模板,并明确它是否与系统已知的人相匹配。该功能依赖于比较一个模板和一个模板数据库。

  由此可知,面部识别技术实际上是一种概率性的技术,都是基于模板之间的估计和匹配程度,因此该技术并不具有百分百的准确度。比较时,系统可以推断出一个较高或较低的可能性,如果这个可能性值超过了系统预先确定的某个阈值,系统就会假定存在匹配,从而确定此人就是被认证或被识别的人。

  面部识别技术是建立在人工智能(AI)之上的,现实世界中的一些偏见早已经渗透到了AI领域。比如,面部识别技术在识别不同种族和性别的人脸时,效果存在很大不同,MIT媒体实验室一项新的研究表明,肤色越黑,识别率就越低,在识别黑皮肤女性时,它的错误率几乎达到了35%。美国国家标准与技术研究院对面部识别算法进行了广泛测试,2018年发现最佳算法的误差率都会达到0.2%。

  在推出Face ID时,苹果公司声称,与Touch ID相比,Face ID的人脸识别准确率有了大幅提高,新一代Face ID系统的识别错误率极低,但苹果也承认,同卵双胞胎或彼此长相非常相似的家庭成员之间也存在欺骗Face ID系统的可能性。

  面部识别技术中错误率的存在,极有可能使某个人因错误地被识别为犯罪嫌疑人而遭拘捕,或成为错误的商家对象而被发送定向广告,或因错误识别导致自己的终端设备被其他人打开。

限制用“脸”

  高校为了统计学生出勤率是否一定要通过收集学生的人脸图像来实现?一些购物店和餐饮店是否一定要通过面部识别技术向顾客推送广告?健身房为了记录会员的健身次数和健身情况,除了收集、存储、使用个人的人脸数据、指纹等生物特征数据外,难道就没有其他方式?

  为了规范人脸数据收集,绝大多数国家和地区,在个人信息保护立法中均已明确了最小化和必要性两大原则。欧盟《通用数据保护条例》(GDPR)第5条规定,收集“数据应是充足的、相关的并且限于数据处理目的最小必要范围”;韩国《个人信息保护法》第3条第1款规定收集个人信息“应限于实现目的的最小限度”;中国网络安全法规定“网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则”。

  鉴于面部识别可能产生侵犯隐私、违反个人数据保护原则、导致算法歧视等负面后果,美国很多州已经或准备限制面部识别技术,欧盟也通过严格的数据保护立法规定了面部识别技术的数据收集和使用限制,一些国家还通过案例表明了对面部识别技术的谨慎态度。

  2019年5月,旧金山制定法令禁止警方使用该技术,成为美国第一个禁止警察和市政部门使用面部识别技术的城市,要求相关主体披露他们目前使用或计划使用的所有监控技术(包括面部识别),并阐明监管委员会必须批准的有关这些技术的政策。

  2019年6月,美国马萨诸塞州的萨默维尔市议会通过投票表决,禁止在公共场所使用面部识别软件,规定该市各机构、分局或下属部门,均不得在公共场所使用面部识别技术,还禁止在刑事调查或法律诉讼中使用面部识别软件系统产生的数据或证据。

  2020年,美国俄勒冈州波特兰市议会通过了两项禁止使用面部识别技术的法令。一项法令禁止城市使用面部识别技术;第二项条例禁止私人公司在公共场所使用面部识别技术,该法令指出,这些技术表明“对黑人、妇女和老年人有偏见”。其他州也在考虑采取措施限制或禁止使用该技术。

  除了直接立法限制在公共场所使用面部识别技术外,针对包括人脸在内的生物特征数据,各国还规定了高于一般个人数据的保护要求。欧盟《通用数据保护条例》(GDPR)对个人数据规定了严格的保护要求,也对在信息技术时代被广泛利用的生物识别数据有进一步约束:一是明确一般“禁止以识别自然人身份为目的对个人基因数据、生物特征数据的处理”,且“对于基因数据、生物特征数据或健康数据的处理,成员国可以维持或引入更进一步的限制条件”;二是规定在处理大规模的上述特殊类型的数据时,数据处理者尤其需要对其中潜在的风险进行安全评估。美国共有16个州已将生物特征数据纳入普通数据隐私法的保护范围。

  各国的执法案例也显示了对面部识别技术的谨慎态度。

  2019年,瑞典一个高中的学校董事会在一个实验项目中使用面部识别技术对学生的面部信息进行了登记。虽然学校在收集学生的生物识别数据之前征得了监护人的明确同意,而且监护人和学生也可以表达不参加试验的意见。但是,8月20日,瑞典数据保护机构还是针对该校的行为实施了罚款和警告等行政处罚。

  瑞典数据保护机构在其裁决中认为该校以三种方式违反了GDPR的下列规定:违反第5条的目的限制和数据最小化基本原则,对学生的隐私构成了极大的侵扰,且面部识别软件的使用与目的不成比例;违反第9条,没有法律依据而处理敏感的个人数据(生物特征数据);违反第35和36条,违背了特殊类型数据的保护影响评估和事先咨询的要求。

尚需完善立法

  面对“刷脸”的广泛应用与“丢脸”的困境,从政府到行业,都还有许多工作要做。

  首先,完善在面部识别技术领域的立法。网络安全法虽然明确将个人生物识别信息纳入个人信息范围,但并没有区分一般个人数据和敏感(或特殊类型)个人数据,统一使用一套收集、使用、传输、管理规定。

  因此,建议在制定中的个人信息保护法中明确一般个人数据和特殊类型数据的区分,并对后者规定更加严格的要求。对于敏感个人数据、生物特征数据等的收集、使用、处理和传输也要更细化和严苛,明确限制其使用范围、使用目的、收集方式、存储方式等内容。

  其次,对于使用面部识别技术的主体,相关监管部门应制定更具针对性的监管规则,进一步加强监督检查,有效提高使用面部识别技术主体的注意程度,防范易发且更具危害性的数据泄露等安全风险。

  此外,目前出台的《公共安全人脸识别应用图像技术要求》(GB/T35678-2017)相关标准,是以公安机关具体的刑事侦查、证照管理等公安业务及安防为基础制定的,随着面部识别技术在各领域尤其是金融领域的逐步拓宽,亟需统一从技术层面建立各行业标准体系。

  (作者系中国信息通信研究院研究员)

来源:2020年10月14日出版的《环球》杂志 第21期

《环球》杂志授权使用,其他媒体如需转载,请与本刊联系

本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”

 请注意:



·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
·新华网拥有管理笔名和留言的一切权利。
·您在新华网留言板发表的言论,新华网有权在网站内转载或引用。
·新华网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容。
·如您对管理有意见请向留言板管理员反映。

发表评论: 用户名 密码 匿名

 查看评论
放大字体
缩小字体
打印本稿
查看评论
推荐给朋友:
  相关新闻:
新华网版权与免责声明:

 
凡本网注明"稿件来源:新华网"的所有文字、图片和音视频稿件,版权均属新华社和新华网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:新华网",违者本网将依法追究责任。
本网未注明"稿件来源:新华网"的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:新华网",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与新华网联系。

订阅本刊
本刊通用网址:环球杂志
  • 如果您对《环球》杂志的稿件有任何意见及建议请与我们联系。
  • 编辑部电话:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8号新华社第二工作区
  • 邮政编码:100040
  • 对外合作:
    010-63077015
  • 传真:010-63073516
  • 总 编 辑:冯瑛冰
  • 执行总编辑:卞卓丹
  • 《环球》杂志
    新华通讯社主管
    瞭望周刊社主办
    环球杂志社编辑出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·国内统一刊号:CN11-1273/D
    ·邮发代号:2-511
    ·国外邮发代号:SM341
    ·国内订阅:
    全国各地邮局均可订阅 本刊随时办理邮购
    ·全年订阅价:192.00元
    ·国内零售:
    全国各大中城市报刊摊点/地铁/机场/书店等均有销售
    ·零售价:8.00元
    ·国外总发行:
    中国国际图书贸易总公司(北京399信箱)
    ·海外定价:US $6.00元 HK $25.00