当脸部辨识科技进入深水区,智慧化等于监控化?

2020 03/30 11:14
云游控股旗下头号玩咖领
分享
栏目

资讯

阅读

电影《普罗米修斯》 站在海关的自动查验闸道,面对相机,一秒后闸道迅速开启;拿起手机,相机瞬间辨识解锁,进入主萤幕,这样的使用体验我们早已不陌生。不过说到脸孔辨识,更好玩的或许是能够辨识出年龄、在脸上加上可

  电影《普罗米修斯》

  站在海关的自动查验闸道,面对相机,一秒后闸道迅速开启;拿起手机,相机瞬间辨识解锁,进入主萤幕,这样的使用体验我们早已不陌生。不过说到脸孔辨识,更好玩的或许是能够辨识出年龄、在脸上加上可爱狗耳朵、狗鼻子或猫熊黑眼圈、或是让我们看见变老之后会长成什么样的那些 App。自从机器辨识人脸的准确率因深度学习而在近几年突飞猛进,甚至超越人类所能,各种延伸出的应用也越来越多元跟普及……只不过,就像每一样人类的发明,当精灵从神灯里被释放,起初设想不到,或是不愿设想的事情,总是随之而来。

  将近两个月以来,香港反送中示威与抗争持续升高,而这些抗议群众如何反警方的监控科技,也成为焦点。他们除了戴上口罩、面罩,还使用在野外看星星时会用到的指星笔雷射光对准警方的蒐证摄影机,为的就是避免事后被人脸辨识软体查出身份。同时,在同样备受外界关注的新疆,在市区无处不在的海康威视监控系统,则是再教育营以外,另一个让听到相关消息的人毛骨悚然的存在。

  相较于其他生物特征识别技术,像是指纹、虹膜、声纹等等,脸孔辨识在于自然,以及不容易被察觉这两点上占有优势,但这优势是对辨识者来说的,对于被辨识者,这样的优势就成了挡也挡不住的破口。

  看!天眼在看着我们

  美国联邦政府基于国防安全考量,将中国的海康威视跟浙江大华两家公司列入美国国防授权法案 (NDAA) 的黑名单之后,联邦政府各机关必须得在 8/13 之前移除所有来自这两家公司的设备。然而这并不容易,因为移除的范围还包括由这两家公司销售给其他公司,并且贴上美国或日本企业品牌进入到各个商店、银行、路口的摄影机。这使得这项试图移除成千上万只天眼的工作肯定无法在期限前达成,也将成为美中两国贸易战下,另一个持续闷烧的议题。

  美国联邦政府或许真的担心中国的眼睛窥伺,但美国人民也担心美国自己的政府恶搞。旧金山在 5 月中经议会决议,成为第一个禁止政府机关──如警察或交通管理局──使用人脸辨识技术的城市。而就在这几个月,萨默维尔、奥克兰等城市或地区也加入了反人脸监控的行列,许多美国的城市跟州也正在立法限制人脸辨识的使用范围。反对这项技术的人提出许多理由,例如担心人脸辨识有种族跟性别的偏差,会造成执法不当与不公,或是认为这样的技术会让人民时时感到活在监视之下,是踏入反乌托邦的关键一步。

  反对人脸辨识者在这里担心的倒不是中国的监控系统,而是微软、亚马逊还有 Google 等云端服务公司。Evan Greer 在 BuzzfeedNews 的一篇文章中表示:……即使这些演算法运行良好,无处不在的人脸扫描仍然对人类自由的未来构成巨大威胁。由人工智慧驱动的生物识别监控与我们之前看到的任何监控完全不同。它能够以之前不可能的规模,实现对整个人口的即时位置跟踪和行为监管……想像一个你从未见过的人看着你的一举一动──比较你的面部照片并预测你是否会犯罪──想像一下软体以最快的速度工作,而无法同情你。它认为它知道你的感受和你想要的。如果你过了特别糟糕的一天,它也不在乎。你脸上的表情可能会让它把你当作国家的敌人。我们中的任何一个人都可能成为演算法冷酷证词的受害者。

  图/flickr

  这三家公司并不是因为提供一般消费者人脸辨识产品而被抨击(当然也是有啦,例如Google 今年推出的 Nest Hub Max),而是因为他们都提供了相关技术,给云端服务的使用者,特别是政府单位来采购使用。像是亚马逊的AWS Rekognition、微软的Azure 脸部 API,至于 Google 的Cloud Vision则暂时只开放侦测图片中的多个脸部,以及相关的重要脸部特征,例如表情或头饰。 但暂不支援脸部识别。

  人脸辨识的批评与回应

  反对者一方面透过议会,禁止地方政府使用及采购人脸辨识服务,另一方面也要求这些公司停止贩售相关服务给政府单位,特别是执法部门。在今年三月,78 位人工智慧领域的科学家跟研究者在一篇公开的文章上联名反对 AWS Rekognition 应用在政府执法上,认为其技术还有很多欠缺,这些人包括正在微软、Google、Intel 任职,甚至还有之前就在 AWS 工作过的专家,更别提还有 400 位不同领域的学者也同样连署反对。另外,亚马逊的员工在 6 月时也发表公开信给老板贝佐斯,要求公司停止贩售人脸辨识技术给政府执法部门,不要当危害人权的帮凶,压迫社会中的边缘人,特别是移民家庭;在亚马逊的股东会议上也有股东提出类似的倡议,但最终被否决。

  为了回应这样的批评,AWS 的Amazon Rekognition产品介绍网站上新增了一页,标题为脸部辨识与人工智慧的事实,当中有一段特别强调使用脸部辨识时绝不能违反个人权利,包括隐私权,或对需要由人类进行分析的情景做出自主决定。正如 Matt Wood 博士所言:机器学习是一个非常有价值的工具,可以帮助执法机构。虽然人们担心它被用于其他目的,但我们不能因为温度可能会被设定错误,造成比萨饼被烤焦,便因此扔掉烤箱。然而,从公共安全角色来看,政府权衡得失并规定执法机构应当符合的温度(或信任度),是一种很合理的想法。AWS 的执行长 Andy Jassy 也表示欢迎监管,但希望政府统一标准,免得城市与州政府各自为政,到后来可能有五十种以上的规矩要遵守。不过目前为止,AWS 还是美国公民自由联盟 (ACLU) 的主要抗议对象,ACLU 更直接用实验证实 AWS 的 Rekognition 有很大的问题,竟然把 28 位美国国会议员误认为已被逮捕的罪犯,其中非白人议员被误认的比例特别的高。

  微软看到了亚马逊中了那么多箭,也跟 ACLU 的人喝了几杯咖啡,便在去年底接连在官方部落格发表两篇文章强调微软在发展人脸辨识技术上将遵守的自律原则;更主动邀请政府管制,删除了一个含有 1000 万张人脸图像的数据库,跟亚马逊一比起来像是乖宝宝。但最近微软也因为投资以色列一间人脸辨识技术公司 AnyVision 而遭到抨击。根据以色列当地媒体HAARETZ 的报导,AnyVision 这家新创公司的技术被用在约旦河西岸,监控每一个来去的巴勒斯坦人,侵犯了巴勒斯坦人已经很稀薄的人权。而根据Forbes 报导,这家公司的顾问团主席是前以色列情报特务局局长,公司主席 Amir Kain 更是前国防部安全部门的长官,可见与以色列政府关系有多好,特别是在无止尽成长的监控业务上。微软把 AnyVision上架到 AppSource 平台上,表示会遵守自律原则,但怎么看就是会办不到啊。

  至于 Google,虽然自家服务暂时不支援脸部识别,想避开战场,但 Google 背上的箭也没少。2016 年,Google被一位女性起诉,原因是 Google 在未经她许可下,利用上传到 Google 相簿的照片建立了她的脸孔模板,不过在 2018 年底 Google 打赢了这起官司,也替其他同样这么做的科技公司冲开了防线。

  《从0到1》

  知名的矽谷投资人、我很喜欢的《从0到1》一书的作者 Peter Thiel 更将 Google 拉上公审台,他最近除了在全美保守主义大会上表示联邦调查局跟中央情报局该调查 Google 与中国政府看似叛国的关系,也接着在 8/2 号投书纽约时报,再次针对Google 发飙,认为该公司与中国合作研究人工智慧是危险的。但尴尬的是,Peter Thiel 创办的 Palantir 公司也是大数据监控生态系的成员,而且还是最主要、且最受争议的玩家之一,前面不是提到有许多亚马逊员工联合写信给该公司高管吗?信里头除了要公司别卖人脸识别技术给执法单位,也要求亚马逊停止与 Palantir 的合作,因为 Palantir 就是协助美国政府打击非法移民,造成数千位孩童跟父母分离的技术军火商。当然啦,Peter Thiel 想必认为将包括人脸辨识在内的大数据及人工智慧技术卖给美国中央情报局、国安局、或是移民及海关执法局(ICE) 是属于爱国行为。

  智慧化基本上就等于监控化?中美大国给我们的提醒

  人脸辨识能够成为争议话题,代表这项科技的确已经具备普及跟深入所有人生活的本领,但就如同人类对其他科技的依赖造成的问题一样,被方便的人脸辨识技术驯化的我们,很可能难以察觉技术的偏颇跟缺失,在技术失败跟故障时依然盲信,让强大又普及的技术带来强烈又广泛的问题,到处都是的塑胶垃圾就是这样的案例;但反过来说,在人脸辨识技术普及到各个范畴的此刻,要是我们无法信任人脸辨识技术,则可能会浪费更多时间在验证上,或是干脆忽略技术发出的正确提醒,结果还是让技术无用化。

  前阵子,舆论也开始关注起政府单位采购的海康威视监视摄影机,才惊觉其无孔不入的程度,已经到了只能叹句啊不然咧的无可奈何。其实地方政府也颇为欢迎这项技术,例如市户政人脸辨识系统在今年三月便启用,能够监测行为与辨别身份的智慧路灯也即将在市扩大实施,其他还有许多案例在人权协会这篇文章里看得到。人脸辨识或许只是另一款中立的技术,已经证实在许多时候可以大幅提升找到失踪人口或嫌疑犯的效率。但我们现在也都明白智慧化基本上就等于监控化,若没能预先辨识出人脸辨识的后续效应,看看中国跟美国的情况,应该是很好的提醒。


本文地址:http://www.ithangye.net/zixun/353.html

友情提示:投资有风险,创业须谨慎!编辑声明:IT行业网是仅提供信息存储空间服务平台,转载务必注明来源,文章内容为作者个人观点,不代表本站立场且不构成任何建议,本站拥有对此声明的最终解释权。如果读者发现稿件侵权、失实、错误等问题,可联系我们处理:1074976040@qq.com

相关阅读
文章图文排名