撰文 / 董雨晴 游勇
编辑 / 王晓玲
9月4日早间,工信部就Zao引起的争议约谈陌陌。Zao运营团队4日下午回应称,上线以来,一直和各主管部门保持着积极顺畅的沟通,将严格按照法律法规和各主管部门的要求,按照更加严格的标准,全面加强内容管理、完善各项管理机制,确保用户个人信息安全和数据安全。
iOS免费榜第二,微博热搜话题榜前十,第一个公开版本发布不到24个小时,这款名为Zao的AI换脸软件就在社交媒体上刷屏,并成功吸引了互联网与投资界甚至律师界的注意。
Zao的玩法非常简单,用户只需要上传一张个人照片,就可以替换影视剧里的主角形象。如果不仔细看,足以以假乱真。而Zao的素材库里有非常多经典影视作品的片段,基本每个片段都只有15秒-30秒。代入感如此强烈的软件在朋友圈引发了一轮狂欢。
但相关开发团队还没来得及庆祝,质疑声开始铺天盖地:其一是产品太过火爆,服务器难以承载,导致部分用户无法继续体验产品。
其二,大面积发酵的争议随之而来,人们把矛头指向了Zao用户协议第6条第1项,“在您上传/或发布用户内容以前,您同意或者确保实际权利人同意授予Zao及其关联公司以及Zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容全部或部分的修改与编辑”。
后者被外界普遍解读为“霸王条款”,过度摄取用户授权,用户不仅要将自己的肖像权授权出去,还有可能承担侵犯其他人肖像权的风险,其中的“不可撤销”则意味着,一旦用户上传了换脸视频,就无法撤回其中的肖像授权。
比换脸更有意思的,是换脸本身所引发的一场关于用户隐私和AI应用场景的讨论。截至发稿,该协议已被修改,新内容删除了“不可撤销”“完全免费”“永久”等字眼,措辞也更加柔和。
Zao的“企图”
Zao出自陌陌技术团队之手,其背后的注册公司,长沙深度融合网络科技有限公司,有两位核心成员,分别是创始人王力和执行董事雷小亮,前者是陌陌现任COO,后者是陌陌的联合创始人兼游戏业务部总裁。
“陌陌和探探这些陌生人社交平台上都有用户大量的自拍。”广州一位创业者赵献声分析,这是为何陌陌团队能够做出这样的产品,因为背后需要大量的素材和照片对算法精准度进行训练。
事实上,Zao的玩法并不新鲜,使用的是Deepfake深度换脸技术。
而最先出现AI换脸视频是在2017年12月,一位ID名为“deepfakes”的用户在Reddit论坛上传了一段视频,把情色电影里的女主角换成了好莱坞明星,引起用户震惊的同时,也引发了严重的社会危机。随后,deepfakes的账号被封杀,而deepfakes也将其AI换脸项目的代码开源。据悉,Zao这个产品也是基于deepfakes的开源代码进行开发的。
关于AI换脸技术不难的话题得到了几位业内人士的认可。“AI换脸从技术角度其实不难的,开源算法也不少,不过他们产品定义的不错,让这个能实用。”深鉴科技联合创始人姚颂对AI财经社说。
姚颂认为,Zao的产品定义其实非常好,像Deepfake这种让用户上传一个视频的模式,首先要单独找到视频里的所有人像,然后对面孔做跟踪,非常耗费计算量。而Zao的做法是预先设置了很多模板和视频,等于提前把90%以上的计算都做了,“这个就比较简单了,限制在了它提供的这些模板的范围内”。这样的产品体验成功让Zao在一夜之间得到用户的认可和愿意来尝鲜。
“火不代表成功。变脸本身技术不难,很老的东西了,难的是你怎么创建一个主题的社群,搭建运营体系。”相比于技术本身,赵献声更关心的是如何将用户的热情持续下去。
目前看来,Zao更像是一个工具,而不是一个社区,尽管从目前Zao的板块分工和隐私条款可以看到做社区和内容的野心。工具就意味着很难将这些流量持续地留在应用上,这样的例子不胜枚举,包括古典互联网时代的“足迹”与“Faceu”,以及今年初爆火的捏脸软件Zepeto,都在火爆一段时间后迅速走向衰落。
健康的生态如抖音和快手,有MCN机构维护头部内容生态,同时有较好的UGC用户生产氛围。但目前Zao的用户上传素材功能还未开放,需要用户提交申请权限,Zao官方通过才可以使用该功能。
要想实现长期可持续的内容运营,Zao需要填补更多影视内容模板,这也就涉及到内容版权问题。在版权说明中,Zao表示:“Zao产品上存在的短视频和表情等素材,除了特别声明是Zao跟合作方进行版权合作的之外,均来源于Zao用户自发的上传,Zao不享有素材的商业版权”。
也就是说,尽管陌陌花了大价钱购买带宽服务,满足井喷的用户需求,但如果无法采取有效措施,Zao也将和大部分网红软件一样,日益被人遗忘。
对陌陌而言,这也是一次没有计划的走红。陌陌内部人士称,该产品并没有大规模宣传,属于冷启动,且这样的项目在陌陌内部也不只有一个。
据36氪报道,Zao项目由陌陌CEO唐岩主导,2019年春节前后立项,归属于陌陌企业发展部,该部门主攻独立APP研发。与之相对的是陌陌创新事业部,负责陌陌APP内部的创新业务。
效仿字节跳动APP工厂的模式,陌陌内部也已经孵化了多款产品,据天眼查数据,前述企业发展部还研发出了拍照修图软件doki相机。
针对年轻人打造泛娱乐和泛社交平台一直是陌陌的战略方向。据不完全统计,陌陌内部至今已孵化哈你、Cue、赫兹、meet相册在内的多款社交产品,唐岩本人则十分认可“内容”对于社交平台的价值。
图/视觉中国
而如何降低门槛制作优质内容,抖音创造出了一种模式,Zao则是另外一种,相比之下,Zao的门槛甚至更低,一张图片就可以帮助用户输出比肩经典影视剧的优质内容。同时,Zao也十分注重社交功能的铺设,现阶段用户可以通过微信以及QQ添加好友,就此可以获得好友的面孔使用权。
有投资人告诉AI财经社,陌陌的成功之处在于抓住了Deepfake技术,嫁接大平台资源为之打磨产品,在这个基础之上,用户不再需要付成本研究AI技术,视频生成时间可以压缩至几秒,最后还可以一键分享至朋友圈。整个体验过程顺滑且流畅,视频合成的完成度也很高。
只是谁也没想到,在用户热情还非常高涨,版权问题也没有暴露之前,一个平时不引人注目的隐私条款先引爆了危机。
隐私、版权是不是大问题?
8月31日凌晨,张呈躺在床上,拿着手机从1点玩到将近4点,她身陷于Zao的换脸素材难以自拔。而等她第二天醒来,发现大家都在讨论用户隐私协议的问题。她和大多数人一样,没有去关心这张充斥专业术语的冗长协议里到底写了什么。
但当她被告知自己上传的照片容易引发隐私危机,甚至会催生黑产和诈骗时,她感到非常害怕和恐惧。甚至她还被告知,根据这份隐私协议,她所上传的照片版权已经不属于她,即使卸载软件也无法撤回。
“我成了受害者和侵权者了?”在一轮轮的讨论之后,张呈满心疑惑。
有此疑惑的人不在少数,在一个名为“Zao官方助手”的微博账户下,大量用户在最新的一条微博下留言,“能不能注销账户”、“注销账户后服务器是否会删除面孔”以及“如何删除面孔”。
人们的隐忧来自于外国的案例。在Deepfake面前,人类隐私问题暴露无遗。因为任何人都可以通过Deepfake技术对人们的肖像进行处理。
在海外,色情行业与政界是Deepfake技术应用的重灾区,2017年deepfakes在Reddit论坛上传多段色情视频后,相关讨论一度热烈,但也遭到了Reddit与其它社交平台的封禁。Deepfake却并未消失,2018年1月,一款Windows程序FakeApp出现了,它可以让不具备AI知识的用户自制换脸视频,但仍需要在电脑上进行操作。
甚至恶趣味演变的愈发无底线,一款被永久下线的产品“DeepNude”就是例证,只要给它一张女性照片,它便就可以自动“脱掉”女性身上的衣服。美国政界人士也深受其扰。两个月前,美国众议院情报委员会刚就Deepfake技术举行了首次听证会,委员会认为这些视频如果被用来捏造假新闻,会对2020年的美国总统大选产生灾难性影响。
对于Zao的隐私安全问题,一位技术专家对AI财经社提出了两个担忧,一是不知道这些公司会把人像用于什么地方,二是一旦这些权益被平台拿走之后,就可能存在法律陷阱。“表面看它是主动承诺义务,法律不约束,其实它是暗地里引诱滥用,以此获得权利,进而通过代维权就可能获得收益。”上述专家说。
他提到了一个“代维权”的概念,比如用户在这个软件生成的的肖像被他人使用,平台就可以代为维权。“表面是帮忙维权,当大量的使用形成事实上的侵权后,代维权就会变成敲诈,对那些恶意使用的人形成法律陷阱。”
微博用户“法山叔”的观点在社交网络上最具代表性。他认为Zao的做法存在两个问题:1、“Zao”app涉嫌过度攫取用户授权,让你在无形中将自己的肖像权拱手让人,以后你的脸将完全有可能被别人随意使用,变换;2、Zao并未获得换脸明星们的肖像权授权,你变脸涉嫌侵权,但当明星认为自己的权利受到侵害时,“Zao”app将完全有可能将法律的锅全部甩给你,让你自己承担侵权苦果。
但也有创业者表达了不同的观点。“你本人愿意转发自己的视频,怎么涉及到隐私了?你随便用杨幂的头安装在岛国片才叫隐私,才叫侵犯肖像权。”赵献声非常不解,他创业做了一个线上平台。在他看来,用户有点过于担忧,“很多看起来霸王条款的东西,在平台方角度不得不去声明,但其实并不是霸王条款。”
“从人性上、法理上、内容产出上,陌陌做到位了,唯一瑕疵就是版权问题。”赵献声对AI财经社说,显然在他看来,平台想把侵权风险转移给用户的做法站不住脚,用户在Zao平台上换脸使用的影视片段,毋庸置疑是平台方需要解决的版权问题。
事实上,相比于国外可以直接上传视频然后换脸不同,Zao的产品机制在有意回避侵犯公众人物肖像权的问题,例如在面孔照片提交后,Zao会进行非公众人物验证和肖像权验证,确保符合相关法规才能使用,如未被验证,该面孔则无法使用,如果是明星本人想要上传面孔,则可以通过自拍验证。
不过截至发稿,Zao的协议也已被修改,删除了“不可撤销”“完全免费”“永久”等字眼,措辞也更加柔和。
用户被这个突如其来的新玩意和新玩法吓得不轻。除了侵权风波,甚至有人认为这些图片和电话留在平台上,会被人用在人脸支付上,威胁到个人的资金安全。对此,蚂蚁金服对AI财经社回应称,“网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的”。
目前,“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。
而被黑产利用的前提是默认Zao会把用户的图片和数据贩卖出去,在这一点上,Zao也有所声明,“ZAO用户利用技术对ZAO产品上的短视频进行修改编辑后形成的短视频和动图,仅可在法律法规允许的范围内以社交为目的进行非商业性的信息网络传播”,同时,Zao也表示会加强人工审核,尽力保证ZAO上的内容不侵犯相关权利人的合法权益。
事实上,在Zao之前,美图秀秀和天天P图做过一个帮人换军装和换古装的功能。用户上传自己的一张照片,系统根据用户的脸部特征,生成一张不同历史时期的怀旧照。这在当时也引发很多人跟风制作,尽管本质上都是需要上传照片,但当时并未引发类似的质疑。
随着侵权和隐私风波逐渐平息,Zao更应该思考的是,社会公众的关切很容易就能修改和达成,难的是怎么去解决版权纠纷以及往后的用户留存。一时换图一时爽的用户,并不会一直换图一直爽,毕竟互联网经历了太多的昙花一现。