|
【案例】危险的人脸识别
原文来源：科技鉴定师
AI换脸软件ZAO的走红，打开了人脸数据应用的潘多拉魔盒。
“仅需一张照片，出演天下好戏”，这是ZAO的宣传口号。当不少人惊叹于其换脸效果的逼真之时，一些人开始担忧：倘若这一技术被居心叵测的人利用，同样“仅需一张照片”，你就可能变成色情电影演员、犯罪事件主角或其他你不想成为的人。而这些以假乱真的素材，极有可能成为新型敲诈或诈骗的趁手工具。就像网友担心的那样：视频欺诈很快会成为最流行的犯罪玩法，对骗术识别能力差的老人有极高杀伤力......
卸载ZAO（很多人这么做了），也许能减少一些你的担忧。但一个严峻的事实是，除了ZAO之外，收集并使用我们人脸数据的机构和企业，正变得越来越多。比如，拥有你相册读取权限的APP、为你提供人脸解锁功能的手机厂商、对你进行身份验证和面部检测的金融或教育类APP，甚至是你办公楼里的刷脸出入系统，以及无处不在的安防摄像头。为了便利，我们正在把自己的人脸数据免费交给越来越多拥有新技术的组织。这一趋势浩浩荡荡，个人仿佛无法抵抗。
个人信息买卖几乎每天都在发生，而如今我们连“脸”都不能好好保护了。除了上面提到的AI换脸带来的欺诈风险之外，攻击人脸识别系统从而进行身份冒用带来的财产、名誉、人身等方面的安全隐患也不容忽视，而3D打印技术的成熟正让《碟中谍》电影里面的换脸场景成为现实。更可怕的后果在于，一旦人脸数据与其他隐私数据打通，我们最终会进入“裸奔时代”——当你走在大街上，掌握数据的人只要看你一眼，就洞悉了你的一切，身份、职业、收入、偏好、性格……
如果不想沦为数据的奴隶，我们必须从今天开始认真对待我们的“脸面”。
你的人脸正在成为别人的生意
在北京中关村的一家咖啡馆里，刘嘉为燃财经演示了自己的创业项目。
用户只需上传一张照片，几秒之内就能自动生成一份长达12页的“事业报告”，报告会对一个人的人格特征、内在特质、外在特质等进行详细的分析和评价，目的是诊断其适合的职业和管理风格。在使用不同人脸进行了多次尝试后，准确度之高令笔者十分惊讶。
“这绝对不是AI算命。”刘嘉反复对燃财经强调，他的产品基于基因学、心理学、医学等科学，并结合了AI和大数据等前沿技术。未来，刘嘉希望把分析范围从事业向情感、健康等领域拓展。在笔者看来，刘嘉的项目的最终目标非常可能是——仅需一张照片，就能洞悉你的一切。
惊奇，伴随着恐惧。
刘嘉的项目只是人脸识别浪潮中的一朵小小浪花。一个不得不承认的事实是，我们的人脸正在成为别人的一门生意。
不久前，人工智能企业旷视科技在港交所提交招股书。旷视科技成立于2011年，起家于人脸识别，在计算机视觉领域与商汤科技、依图科技、云从科技并称CV（计算机视觉）四小龙。2016年、2017年和2018年，其营业收入分别为6780万元、3.13亿元和14.27亿元。资料显示，旷视科技为OPPO、vivo、联想等知名企业提供人脸识别相关服务。
旷视科技谋求上市的背景，是人脸识别技术从公共领域向消费领域的快速延伸。过去，由于技术创新不足、应用推广有限、成本高，人脸识别被制约在公共用途，一直没有进入更广泛的商业化应用中。
在智能手机采用人脸识别技术之前，采集我们人脸数据的场景主要是：小区、街道、地铁、写字楼、商场、景区等公共场所，采集主要用于安防目的和管理目的。比如去年，张学友在全国召开巡回演唱会，累计有超过10名逃犯在演唱会前后被抓，“功臣”正是人脸识别技术，这让张学友本人都不得不感叹：“我们国家真的太先进了”。
近几年，这一局面得到扭转。智能手机剧增、移动支付习惯的养成，加上人们对智能家居的狂热，个人消费需求的增长直接推动了移动端消费级人脸识别应用的爆发。从这一点上说，我们正在协助越来越多的厂商收集人脸数据。
2017年，苹果推出支持人脸识别解锁的新款手机iPhone X，小米Note3、vivo V7+等智能手机也推出了人脸识别功能。同年，支付宝、京东、苏宁也都先后开启刷脸支付功能。人脸识别的消费级应用场景开始不断延伸。和指纹识别、虹膜识别、语音识别等其他生物识别技术相比，人脸识别具有极高的便利性和不错的安全性，其应用场景不断增多。
资料来源 / 中商产业研究院
中商产业研究院的一份报告显示，2019年生物识别技术将进入大规模应用阶段。据预测，2020年我国生物识别技术（含人脸识别技术）行业市场规模将突破300亿元。围绕人脸识别，已经形成了基础层（芯片、算法、数据）、技术层（视频人脸识别、图片人脸识别、数据库对比检验）、应用层（硬件、应用和应用方案）的完整产业链结构。
如果细心观察，你会发现线上线下越来越多的场景都在增加人脸识别功能。
人脸识别过度使用令人担忧
ZAO的风波还没过去，旷视科技的风波就来了。 人脸识别被用于课堂
几天前，一张带有“旷视”标志的视频监控图像在社交网络上疯传。图中不仅有被监控的两名学生，还有她们的行为数据，比如趴桌子、玩手机、睡觉、听讲、阅读、举手的次数等。尽管旷视科技回应称，这只是“概念演示”。但关于隐私的讨论铺天盖地而来。大部分人认为：技术虽好，但应该“用对地方”。
对于人脸识别的应用，微软主席布拉德·史密斯曾在去年的一场科技研讨会上发出警告：“如果不加以规范和监管，脸部识别技术会彻底改变人们的生活方式并让人们毫无隐私可言。”
这不是危言耸听，来看看我们的科技公司们都在谋划什么吧。
教育是人脸识别的“重灾区”。不少教育科技公司都推出过类似旷视的监控功能，声称可以分析学生在课堂上的行为，并对异常行为实时反馈。一段宣称是“智慧课堂行为管理系统”的描述是这样的：
系统每隔30秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值，系统就会向显示屏推送提醒，任课教师可根据提醒进行教学管理。
除了课堂以外，高校所谓的“智能校门”，教室门及宿舍的出入也都在加装人脸识别系统。但闸机只是切入点，更多方案提供方希望用AI重构教育全流程，所以出现了上面我们看到的场景。《2019年中国智慧教育行业市场发展及趋势研究报告》数据显示，2018年智慧教育的市场规模超过5000亿元。众多AI技术公司、教育场景公司加入红利的争夺中。
巨头公司也不例外。京东曾推出过一款基于AI的“超级眼镜”，据介绍，佩戴“超级眼镜”的店员可以看到眼前顾客的会员信息、用户画像、购物倾向等重要信息，全面实现“知其所想，投其所好”。2017年，京东还推出过自己的无人便利店，通过刷脸来记录顾客的购买喜好，并将这些消费行为信息保留。
百度将活体识别技术用在百度钱包账号找回功能，腾讯微众银行用于开户过程。微众银行活体检测需要镜头前的用户读一段文字，并配合语音识别检测。借着刷脸识别、人脸支付等黑科技的噱头，能够收集人脸信息的应用到了无孔不入的地步。如今人脸识别应用已经变得娱乐化，收集人脸数据的门槛正在一步步降低。
娱乐化大大降低了厂商收集用户人脸数据的门槛
当然，正如苹果公司CEO库克所说，“技术本身没有好与坏，一切由我们人来决定”。
人脸识别的应用边界在哪里，值得所有从业者思考。百度创始人李彦宏曾经因为说“中国人愿用隐私换便利”引起舆论围攻，在技术好与坏的判断上，科技大佬们的态度也很关键。
可怕的后果
早在2017年，前美国中央情报局技术分析员斯诺登就曾经预言：以手机解锁为代表的人脸应用出现，会让人脸扫描正常化，也会让人脸识别终将被滥用。
如今，随着越来越多的人脸数据被上传到云端，数据泄露或违规使用的可能性大大增加。以ZAO为例，ZAO能走红的一大原因是，它降低了AI换脸的使用门槛。但该技术同样可能被用于虚假宣传，比如爱“炫富”的微商们，以前喜欢P图和奥巴马握手，以后是不是会直接上一个以假乱真的握手视频？以前希望借“马云语录”为各种忽悠项目站台的微商们，以后是不是会直接上一个马云“亲自代言”的视频？
敲诈和诈骗也需要警惕。2017年底，国外一位ID为“deepfakes”的网友，首先使用了AI换脸算法，此后这种算法也被命名为deepfakes。随后在国外的Reddit论坛上，产生了大量的AI换脸视频。然而这一技术后来被乱用，开始有人用换脸技术将色情作品中的主角换成明星脸，并上传到著名的色情影片分享网站Pornhub上。未来，如果有人把我们换脸成色情影片演员、犯罪事件主角、被绑架的人质……或者伪装成我们进行视频通话（结合声音模拟技术），并以此进行敲诈或对亲友诈骗，后果同样不堪设想。
《每日邮报》日前报道，今年3月，一名诈骗犯利用AI语音模仿软件冒充公司大老板，成功让一家英国能源公司的CEO相信自己正在与德国公司的老板通电话，并骗走了22万欧元。未来，如果类似骗术结合换脸视频，诈骗的成功率恐怕会更高。
FaceTime是苹果手机内置的一款视频通话软件，曾有不少网友表示接通后对方处于黑屏状态。除了发垃圾广告外，还存在一种可能，对方截取你的面部画像用以破解人脸识别系统，细思极恐。
用淘宝搜索“假脸面皮”，可以以非常低的价格轻松买到周润发、刘德华、周星驰等明星的乳胶面具，有商家也可接受定制。未来，随着3D打印技术的成熟，电影《碟中谍》里面的场景恐怕很快会成真。
福布斯记者Thomas Brewster发布过一篇文章，介绍了3D打印头型如何成功骗过智能手机人脸识别的过程。Thomas Brewster合成了一张自己完整的3D图像，打印出了一个3D头型，然后对5款手机的人脸识别功能进行解锁测试，惊讶的是其中有4款都沦陷了。人脸识别被成功骗过意味着我们并不能百分百依赖人脸识别措施。
Thomas Brewster的3D打印头型
唯一值得庆幸的是，换脸技术暂时还不能大规模威胁到我们的手机支付安全。一位技术人员告诉燃财经，刷脸支付需要调用摄像头对人像进行检测，屏幕反拍的方式目前并不能骗过摄像头的生物监测技术。
但也不要轻易乐观。美国有一款名为Twinning的应用，用户只需上传照片，就能通过人脸识别找到与其容貌最相似的明星。但在走红之后，产生了非常严重的信息泄露，现在在谷歌搜索中，还能看到不少泄露出来的照片。因此，谨慎使用可能收集我们人脸数据的应用十分重要。
可能到来的“裸奔”时代
人脸识别最大的风险在于，一旦人脸数据被泄露并和其他个人信息打通，将导致一个彻底“透明”的时代的到来。
今年年初，燃财经曾经报道过巧达科技，这家企业因为非法窃取公民信息被查封，36人被检察机关依法批准逮捕。燃财经拿到的一份文件显示，巧达科技宣称其数据库有2.2亿自然人的简历、简历累计总数37亿份。此外，巧达科技还有超过10亿份通讯录，并且掌握着与此相关的社会关系、组织关系、家庭关系数据。
巧达科技靠此牟利巨大。2016年，巧达科技全年收入1.2亿元，净利润4800万元；2017年，巧达科技全年收入4.11亿元，净利润1.86亿元，净利润率超过45%。而其杀手锏就在于对数据的“打通”。
人脸数据，倘若被泄露，并与其他数据关联，将带来灾难性的后果。因为其特殊性在于，人脸代表着对一个人现实身份的确认。未来，非常可能出现的场景是：当我们走进一家商店，店员立刻就能知晓关于我们的一切：身份、职业、收入、偏好、性格……
而当这一天来临时，每个人都将处于“裸奔”状态。甚至戴上面具也无济于事，因为摄像头还能识别你的体型、你的步态。 我们应该如何对待人脸识别
除非与世隔绝，否则无法完全拒绝人脸识别。
对外经贸大学数字经济与法律创新研究中心执行主任许可认为，人脸识别技术在商业上的使用无法一刀切禁止，从理论上讲，所有的数据都有泄露的可能。对于个人而言，需要在便利性和个人信息保护上权衡和取舍，对于珍视个人信息胜于便利的人，最好完全不使用任何要求进行人脸识别的App，通过市场机制倒逼企业做好隐私保护。
北京市安理律师事务所高级合伙人王新锐表示，人脸数据在各国的立法中通常都属于个人敏感信息。之所以敏感，在于其天然能够真正识别个人身份且终身无法更改，而且容易以非接触的方式收集。从某种程度上说，生物识别信息真正定义了我们每个人。
目前，多国都在开始进行立法强化对人脸信息收集以及识别技术应用场景的约束。今年7月，继旧金山之后，美国出现了第二个禁止人脸识别的城市。马萨诸塞州的萨默维尔市议会通过了禁止在公共场所使用面部识别软件的投票。新政策生效后，该市各机构、分局或下属部门，均不得在公共场所使用面部识别技术。但只是禁止了公共场所的使用权，没有涉及商业范畴。
图 / 视觉中国
我国也已经有数据相关的立法，正在征求意见阶段。国家互联网信息办公室在今年5月发布的《数据安全管理办法（征求意见稿）》中规定：“如果收集使用规则包含在隐私政策中，应相对集中，明显提示，以方便阅读。另仅当用户知悉收集使用规则并明确同意后，网络运营者方可收集个人信息。”而且“网络运营者不得以改善服务质量、提升用户体验、定向推送信息、研发新产品等为由，以默认授权、功能捆绑等形式强迫、误导个人信息主体同意其收集个人信息。”
王新锐认为，换脸、换声这类App最大的问题在于其大规模收集的生物识别信息如果发生泄露及滥用，会造成各种欺诈和造假。且生物识别信息的丢失会比其他身份信息的丢失造成更严重的后果。主要原因在于不可更改性，比如邮箱、电话可以更改，但人脸、声音、虹膜等信息泄露后，没有办法再更改。
针对AI进校园、生物识别技术在校园逐步开始应用的现象，9月5日，教育部科学技术司司长雷朝滋在接受澎湃新闻采访时表示，“（对于人脸识别技术应用）我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”
到目前为止，人类在人脸识别这一技术面前仍然处于手足无措的观望状态。我们应该行动得更快一点，在人脸识别的大规模危害正式发生之前。
编辑：吴悠
| 
楼主: admin
发表于 2019-9-24 22:09:00
