与恶共生的宿命，换脸软件ZAO却大喊“来呀，造作呀”

如同互联网历史出现的无数次迅速窜红的前辈，兼具社交与自拍属性的视频换脸软件ZAO火了。

9月1日，#ZAO AI 换脸#冲入微博话题榜前十，随后ZAO在App Store视频类的排名也迅速超过了爱奇艺、腾讯视频等视频软件常青树，进入榜单前二。9月2日，ZAO又摘得免费App排行榜桂冠，一时风头无两。

Zao最大的亮点就是只需要使用者提供一张自己的照片，即可通过特定的算法，将我们的脸替换到影视明星身上。

虽然粗看上去Zao这款产品的功能十分新颖，但是追根溯源到底层技术，Zao并无创新之处，其不过将2017年出现的“deepfakes”技术产品化。而Zao首次将该技术搬到台面上来，似乎也打开了一个十分危险的潘多拉魔盒。

换脸早已不是新鲜事

早在2017年末，一个名为“deepfakes”的用户将自己制作的AI换脸视频发布到了Reddit论坛中，随后，广大宅男看到了该技术的“应用前景”。

deepfakes响应这种需求，将女明星通过该技术被融合进了成人电影中——一时间，斯嘉丽·约翰逊、盖尔·加朵、泰勒·斯威夫特等明星均成了成人电影中的“主角”。 而随着这些影片流入互联网，法律与隐私等压力扑面而来，Reddit开始禁止此类技术的分享交流，并且封禁掉了“deepfakes”的账号，这直接导致了deepfakes将AI换脸技术的代码开源。

就像王欣所说的“技术本身并不可耻”，deepfakes技术就像一把双刃剑，如果我们用它做电影特技或许会事半功倍，但是一旦其开源，注定将沦为欲望的玩具。

随着普罗大众广泛使用deepfakes技术，越来越多的电影明星沦为成人电影中的“主角”，为了逃避伦理、法律等风险，以P站为代表的互联网平台纷纷封禁deepfakes技术产生的成人电影。

当然，目前来看，deepfakes技术的应用仅仅是在“sex”方面有所收敛。在B站依然有许多UP主，通过deepfakes技术将不同人更换到传统的影视剧主人公身上，以博取关注。

虽然ZAO并没有解释其技术来源，但是从技术规律的角度来看，ZAO很有可能和deepfakes师出一脉。

ZAO有侵害用户肖像权的危险

虽然靠着“AI换脸”，ZAO成为目前中文互联网最炙手可热的社交软件，但是光环之外，Zao也遇到了极大的争议——在世界上最大的谎言“我已阅读”下，ZAO严重侵害的用户的隐私、肖像等权利。

根据知乎用户民商事律师@法山叔从法律的角度分析，ZAO主要有两方面的问题。首先，如果用户选择使用ZAO，那么用户的肖像权将会拱手让给ZAO，未来用户的脸可以随意供人使用；此外，Zao并没有获得明显的肖像权，如果用户使用ZAO造成侵权，全部责任归用户承担。

如果第二个问题只是ZAO在逃避风险，那么结合ZAO的盈利模式，第一个问题就值得深思了。

就目前来看，ZAO并没有任何付费功能，随着软件的火爆，ZAO的服务器甚至一度瘫痪，ZAO官方微博也表示，“AI服务器很贵很贵……这个月花700万租的服务器，今晚已经消耗了三分之一了。”

参考共享单车私自挪用用户押金的先例，ZAO山穷水尽之下，为了生存，很有可能将“愿意用隐私换取便利”的用户的肖像倒卖——毕竟，用户已经签了“卖身契”，卖不卖全看平台的良心。

当然，除了肖像权的风险外，ZAO的出现还为我们打开了一个潘多拉魔盒。

潘多拉魔盒已经打开，与恶共生是它的宿命

事实上，从AI换脸技术诞生的第一天起，“恶”就伴随着它一起成长，与恶共生似乎成了它的宿命。

早在2016年，牛津大学就发布了一个奥巴马演讲的视频，从视频来看，奥巴马穿着标志性的西服，面对镜头夸夸而谈，在口型以外，奥巴马的眼神和面部微表情细致入微，不少人以为这就是奥巴马。然而，这个视频很快遭到否定。

2019年6月，一段Facebook CEO马克·扎克伯格的“换脸”视频被发布到网上，在合成视频中，马克·扎克伯格以贬义的姿态评价Facebook：“一个人，手握偷窃来的数十亿人的隐私信息，他们的所有秘密、生活和未来等等……我将其归功于幽灵（Spectre），幽灵告诉我，谁掌握了数据，谁就掌控着未来。”

对于“肯德基的原料鸡长6个翅膀”劣质PS照片都相信的人来说，AI换脸无疑会助长造谣的气焰。

试想一下，如果网络上突然出现某一个新闻主播被AI合成的照片，播报某一地方猪肉价格将上涨，会不会引发猪肉抢购热潮呢？

而随着技术的成熟，实时AI合成有一天终将问世，到那时，“乔碧萝殿下”是不是就可以将屏幕前的遮挡欣然放下，换上“AI面具”，毫无顾忌的进行诈骗式的网络直播。

更重要的是，结合时代来看，随着5G网络的到来，用户的肖像或许会取代文字、语音成为最重要的沟通方式，再结合ZAO掌握了这些资源，这将是对未来沟通安全极大的挑战。

村上春树在《地下》一书中提到过一个“与恶共生”的观点——我们每个人，每个事物，都不是尽善尽美的，多多少少都含有恶的一面，关键是我们怎么对待恶的这一面。因此我们要“与恶共生”，在前行的途中，给恶安排恰当的环境。

回到AI换脸技术，虽然目前来看，该技术十分危险，但是正如前文所诉，技术本身无罪，如果应用到正途，相信AI换脸将会散发不一样的光辉，因此，还是希望法律与社会的道德约束能限制AI换脸恶的一面。