2019,“AI换脸”大恐慌


编辑:大司炉

刚刚过去的这个周末,一觉醒来,一款叫“ZAO”的“AI换脸”游戏突然就刷屏了朋友圈。只要上传一张照片,立马就能把电影电视剧里明星的脸换成自己的。朋友圈的各路“戏精”们立时倾巢而出,连夜把自己的脸换进了各种大片的镜头里。
 
但几乎就在同一时刻,有人却第一时间发现,这技术太可怕了。
 
就凭我一张照片,竟然能模仿出我做各种表情的样子?
 
就凭一张照片,我就上了电影屏幕,同样的技术,万一我哪天上了“小电影”怎么办?
 
据说,已经有人用这项技术把网友的脸P进某些受争议场合的现场视频里去了。
 
这么成熟的技术,到时候我有口也说不清啊。
 
哪怕不做这么刺激的事情,把我的脸分析的这么细致,那以后随便拿一张照片,办个网贷什么的,根本不是难事啊。
 
接着,有心人分析了ZAO的《用户协议》,发现里面还有更大的“纰漏”:只要使用这款软件,就意味着同意把自己的肖像权“全球范围内完全免费、不可撤销、永久、可转授权和再许可” 地交给了“ZAO”及关联公司。
 
也就是说,只要照片进了人家的系统,人家拿去干什么都是你同意了的。
 
这还得了?
 
朋友圈一片哀鸿遍野,自己的隐私又一次被完完全全地剥夺了,法律专家也第一时间指出,这种霸王条款是无效的。
 
可哀鸿遍野了三分钟,大家还是觉得:这个游戏真好玩儿。
 
话说回来,这样的技术既然都已经这么成熟地摆在你面前了,与其跳着脚让它“胎死腹中”,不如想想,未来的技术革命,究竟会怎样改善我们的生活。
 
在这个自拍满天飞的年代,各国用严格的法律保护的肖像权、名誉权,写上再多的“神圣不可侵犯”,也终究败给了疯狂的现实。
 
“ZAO”并不是第一个做“AI换脸”游戏的应用。两三年前,就有一款叫“deepfakes”的应用靠着这项技术风靡一时,可是,紧接着,大量使用该应用制作的女星“换脸”视频出现在各大色情网站上。
 
像现在一样,新技术也引发了巨大的恐慌。
 
很多人开始抵制它,这款应用和这项技术一时间成了人们谈之色变的东西。
 
《卫报》说,它已经成了用来“控制和羞辱女性”的恶毒工具。“推特”甚至禁止上传这款应用制作的视频。

▲网友用Deepfake制作的视频截图,看起来毫无PS痕迹
 
但是,在这个时代,一个技术既然已经出现了,你总不能把它丢进“忘怀洞”里去。“AI”换脸的技术在过去一年里“人人喊打”,没想到才过了两年,就“墙外开花墙里香”,一夜之间“刷屏”了中国的社交媒体。
 
也许它很快会被勒令下架,但它肯定又会在某个不经意的角落再次冒出来,刺激我们的神经。
 
技术革新的大潮之下,我们曾经笃信的每一个信条,都经受着前所未有的巨大挑战。



01



成文的法律也好,印刻在人们心中的种种“公序良俗”也罢,都来源于那些已经发生过的事情。
 
各国的立法程序各有差异,但无疑都是一项严肃审慎的工作。隐私权、名誉权、肖像权这些“古老”的法律概念从一开始“触网”,到真正落实在法律条文上,可能需要好几年,十多年,甚至更久的时间。
 
换句话说,它永远是滞后的。
 
而大概十多年前,“网络社交”还是个街谈巷议的新鲜玩意儿的时候,有一个著名的段子,大意是说,你永远不知道网线另一头是个什么人,也许是一只猫呢?
 
当时,网络社交还不是一个很普及的东西,没有智能手机,甚至没有笔记本电脑,连台式机都不是家家都有。这种“新事物”在当时的迷人之处就在于,你对屏幕那一方的人一无所知:不知道Ta的名字,也不知道他的长相,甚至不能确定ta的性别。
 
Ta怎么说,那ta真的就是什么样的人。
 
当然,Ta找你借钱的时候除外。

▲当年的“网上邻居”早已经成了古老的印记

 
估计也没人想到,短短十几年时间,连小学一年级的学生都有了微信群,八十岁的老太太也开始学着用支付宝买菜了。
 
这样一来,除了特殊的职业需要,人们日常使用的网络社交工具不得不加进来一些熟人:抬头不见低头见,你不加我微信,总是说不过去吧。
 
既然加了这些亲朋好友,人家顺着你的好友列表,大概就知道你是谁的亲戚,谁的朋友,家住何方,曾在哪个学校就读,以后要去哪儿工作了。
 
更不要说,“校内”“人人网”风靡那几年,只要知道了同校某某人的名字,按图索骥,就能发现他几乎整个社交圈。
 
可以说,这年头,想要看清一个人的“真面目”,早已经不用大费周章地发函到对方户口所在地派出所调档案、查履历了,顺着微信微博顺一圈,比什么都方便。
 
李彦宏前些时候说过:中国人更愿意拿自己的隐私去换取生活上的便利。
 
这话刚说出来,网上骂声一片,时间久了,大家还是“真香”了。
 
“人肉搜索”已经不是什么新鲜玩意儿了。刚出现的时候,它还是人人喊打的对象,过了这么些年,大家也都见怪不怪了。
 
你谴责得再厉害,怎奈想要做到的成本实在太低了。
 
 
 

02


 
上世纪二十年代的一天,美国司法部的探员约翰·埃德加·胡佛带着他的女伴海伦小姐走进了美国国会图书馆。他向她展示了自己为这座全世界最大的图书馆创建的索引卡系统,通过每本书的作者、年代、标题、关键字等信息,原本需要好几个小时才能找到的图书,几分钟便可以送到读者的面前。
 
这项技术放在李彦宏和拉里·佩奇手里,可以造出搜索引擎,而对跳槽到司法部的胡佛来说,却是改变整个美国的撬棒。
 
进入司法部以后,胡佛将新技术运用到了打击犯罪的工作中。凭借着这项利用蛛丝马迹为犯罪嫌疑人“画像”的“绝技”,他一手将调查局从司法部独立出来,成为今天世界闻名的美国联邦调查局(FBI),他本人也因此历经六任总统,成为了“纸牌屋”背后的男人。
 
联邦调查局成立伊始,就强行打破了美国人在过去一个多世纪里视若“国命”的各州与联邦政府的平衡。当时,首位驾驶飞机横渡大西洋的飞行员林德伯格之子被绑架后惨遭撕票,嫌犯横跃数州逃亡,凭借着对这次案件的渲染,胡佛成功说服了国会,联邦调查局得以进入各州对绑架案展开调查,宪法赋予各州的司法权就这样被削弱了一大块。
 
但面对着横渡大西洋的英雄所遭遇的巨大悲剧,捍卫“州权”的反对者的声音很快被淹没了。
 
后来,联邦调查局开始了对各路“敏感人物”的监视、监听。甚至在60年代,他们还写信给马丁·路德·金,利用安装在金的房间里的监听记录,威逼这位黑人民权领袖自杀。所幸,因为当时的美国媒体拒绝曝光这一非法手段取得的丑闻,金才逃过一劫。

▲约翰·埃德加·胡佛,靠着“践踏”美国的“立国精神”,成了全世界最有权势的政府雇员

 
这桩桩件件,无疑都严重地违反了美国的宪法,也与“国父”们的理想背道而驰,但是面对着联邦调查局掌握的那些令人闻风丧胆的技术,批评者把官司打到各大媒体、联邦法院甚至参众两院,最终也是无计可施。
 
到最后,人们也默认了联邦调查局这些“无法无天”的行径,连色情网站上都知道了要提醒观众“FBI Warning”。
 
而2010年前后,随着智能手机的普及,社交软件带上了定位功能。之前“千里会网友”的浪漫景象被“附近的人”取代,而第一批吃到这只螃蟹的一众公司里,就有我们熟知的“陌陌”。
 
2011年8月3日,陌陌在苹果APP Store上正式上线,那个时候,苹果还是iPhone4,诺基亚为代表的一众“半智能机”以及各种非智能机还在中国市场上占据着大半壁江山。
 
“早产”的陌陌除了最先摘到“约炮神器”的桂冠以外,也最先受到了质疑:这款软件这么轻松地就知道了我在哪里,我是男是女,甚至我的身高体重、真实照片,我在这家公司面前跟“裸奔”还有什么区别吗?
 
他们把这些信息卖给广告商,最多是接两个骚扰电话的问题,要是被别有用心的不法分子得到了,这还得了?
 
从陌陌诞生那一天起,这些社交软件蕴含的信息安全风险就一直被人们提起,也不乏有人真的受到了侵害,但是,直到现在,智能机已经“一统天下”,苹果也更新了七八代,却没有多少人真的因此放弃了使用社交软件,或者停止在这里分享自己的位置信息。
 
技术发展到今天,没让我们免于“裸奔”,只是让我们习惯了“裸奔”。



03



▲至今,陌陌还占据着同类型app的“头把交椅”


有意思的是,ZAO的最大股东,也是陌陌。而它的执行董事和监事,也是陌陌的总裁和联合创始人。
 
据《北京商报》报道,对于ZAO用户图像、FACE ID如何传播和存储、平台监守自盗或被黑产盗库的可能性有多大等问题,陌陌官方一直没有给出回应。
 
这一点也不奇怪,现在对这个问题,怎么样回答才不违反法律法规,也不冲击人们的敏感神经,ZAO和陌陌的团队估计一两天是反应不过来的,一旦说错了话,恐怕又会陷入更多的麻烦里面去。
 
这家“十年老厂”一直以来都被很多心思保守的人视为洪水猛兽,至少有那么几分暧昧色彩。据说,前两年还有某个重点院校的院学生会主席因为女朋友下载过陌陌而深感受辱,破口大骂。
 
2016年1月,在被告席上,快播创始人兼CEO王欣说:“技术本身是无罪的。”
 
技术到底有没有罪,这是思想界争讼未休的问题。但实际上,技术确实在某些程度上,让犯罪成本大大降低了。
 
从一家互联网公司获取用户信息,对普通人来说不容易,对道行高深的“黑客们”们来说却有数不清的方法。“拖库”“撞库”这些词,普通人不会操作,但也听了不少。
 
传统的规则里,那些罪大恶极的事情渐渐变成了一件太多人能做到的事情。
 
网络骂战演变成了互相“揭底”,“人肉搜索”变得司空见惯,甚至爆出对方的户籍信息,这些都严重违反了既有的社会规则,但对处在情绪高潮的双方来说,做到这一切,又太容易了。
 
渐渐地,人们学会了更高超的隐藏技术,以及更“淡定”的心态。
 
也是在刚刚过去的这个周末,一个自称燕山大学里仁学院的博主在网上po出了一组自己虐猫的视频,网友们“按图索骥”,找到了一张疑似里仁学院内景的照片,又找到了一个“嫌疑人”。
 
但很快,人们发现,自己竟然掉进了这个虐猫人的“疑阵”里。那张图是原博盗用的,博主又放出了一只被砍头的猫的照片,嘲讽网友没能“人肉”得到他。
 
这个时候,正义的网友们恐怕又只恨微博官方披露的个人信息不够多了。
 
但说实话,即使“精准定位”找到了这个人,但网友们不过就是骂骂人,说两句不好听的,风波过去,谁还记得这些事呢?
 
信息大量泄露的一个“好处”是,大家每天面对的信息太多,自己那点“小九九”在别人眼里,也被更多人的信息淹没了。
 
每次网络风波中,只要不触犯法律和根本性的错误,从大公司到小老百姓,大家都默认,“拖”字诀是真好用。
 
时间会帮你忘记一切,而技术的进步让时间变得比以前更快了。
 
 
 

04

 
 
当然,人们对个人信息的泄露更敏感的神经在于,“利维坦”会拿它做什么?
 
当今世界有些国家,反对派们散步,也不忘把装着监控摄像头的路灯杆放倒,他们觉得,那是比税务官还具体的国家统治的存在。
 
斯诺登从CIA叛逃的时候,全世界一片哗然,号称“自由世界”“灯塔”的美国,竟然是这么监视全国人民的,而且监视得这么不露声色,无孔不入。

▲时至今日,谈起监控网络,人们第一时间想到的还是七十多年前乔治·奥威尔笔下的“电幕”

 
在这个中学生人手一本《1984》的年代,看到摄像头,就想到大洋国,想到友爱部,想到101室,不是某个国家独有的思维跳跃方式。毕竟,进入现代社会,各国的国家机器越来越发达,也越来越专业,引发的担忧也更多。
 
不管是美国这样的总统制国家,还是英国这样的议会制国家,在传媒、行政等一系列工具的加持之下,民选立法机构和传统形成的司法机构对政府的制约一天天在弱化,这些专业的官僚机器毕竟变得越来越强大,也让普通人的疏离感越来越强。
 
但是,其实这里面蕴含着两个让人可以“放下心来”的因素:
 
一方面,如果他们能收集公民们的所有信息,那么海量的数据足以将人们的注意力淹没,那些只属于自己私人领域的信息反而没多少人会在意。
 
另一方面,如果他们需要排查或者重点监控某些人,只能依靠某种算法或者程序,而不是手动检查——而这就要求明确地把这些标准放在程序里面,而不是凭借执法者的经验和“心情”去评判一个人是不是需要“特别关注”。
 
这也未尝不是一个推动“法制化”的契机。
 
简而言之,不要一提大数据就觉得“1984”就要到了,“我们”要大踏步走进“美丽新世界”了,还是要相信,事情没到那个份上,我们的现代生活哪是那么容易被破坏掉的。

▲大数据时代,每个人读暴露在数据洪流之下

 
诚然,我们要保卫我们的个人生活,保卫我们的隐私信息,保卫我们家人、朋友和各种社交关系。
 
但是,面对汹汹而来的信息时代,“闭关锁国”是行不通的。为了便利生活,为了维系基本社交,把自己的一些私人信息给交给服务供应者,是我们每个人都无法避免的。与其歇斯底里地拒绝,不如冷静地分析分析,自己得到的便利能不能弥补信息泄露带来的风险?信息泄露造成的损害有没有法律保护?
 
如果这两个问题都能得到满意的回答,对于新技术,真的没有什么太过恐慌的必要。
 
可能,比起新技术,真正要改变的是,我们的生活的方式。
 
我们必须学会在信息流的冲刷下,找到一个兼顾安全与舒适的空间,冷静地面对新技术对私人生活的冲击。
 
著名汉学家孔飞力曾经讲过一个关于“叫魂”的故事,乾隆中期,一个关于“妖人”靠着别人的断发残迹摄取他人魂魄的传言震动了大江南北。紧随而来的是一场无厘头的大搜捕和大恐慌。
 
实际上,“妖人”并不能通过头发来摄取魂魄而致人死命,但对于未知事物的恐惧,却让人陷入一种无谓的保守与自我保护之中。
 
这种未知事物,曾经是“妖术”,现在则是让人闻风丧胆的“科技”。
 
面对它们,与其恐惧,不如了解,也许到最后,你会发现,就像“妖术”是好事者无端的想象,那些“黑科技”其实蕴含着让我们活得更有趣的“新世界”。


1

2

3

4

 

文章转载自微信公众号:404厂锅炉房

类似文章