只要在APP中上传一张照片，你想变成哪个明星，就能变成哪个明星。听起来很梦幻，但却触手可及。近日，一款名为“ZAO”的AI换脸APP在朋友圈刷屏。根据官方的介绍，利用AI技术，用户可以在ZAO软件上使用自己的照片替换影视剧或者小视频中的人物，从而生成以自己为主角的视频。ZAO的口号为“仅需一张照片，出演天下好戏”。AI换脸效果在视频中几乎可以“以假乱真”，一时间不少网友发现自己的朋友圈被各种“自己与明星飙戏”的短视频所刷屏，也吸引了大量网友尝鲜。其火爆程度从ZAO官方助手在8月30日夜间发布微博可见一斑：“这个月花700万租的服务器，今晚已经消耗1/3了。”

一

但ZAO在走红的同时，也引发了不小的争议，其用户协议不仅让ZAO可免费使用并修改用户的肖像，还可以将它任意授权给自己想授权的第三方，甚至当作信息进行贩卖。这使得大众对于AI换脸技术所带来的个人信息泄露风险产生了担忧。

9月3日，针对媒体公开报道和用户曝光的“ZAO”APP用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工业和信息化部网络安全管理局对其背后的北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。微信等平台也对ZAO的分享链接屏蔽，提示理由为“网页存在安全风险，被多人投诉”。随后，因用户协议涉嫌过度收集用户信息及隐私安全争议，AI换脸软件ZAO火速发布致歉声明，将自己再次送上了微博热搜。

二

面对种种争议和ZAO的道歉，相关话题也随即冲上热搜榜，但由此引发的隐私保护争议和反思并未平息。

AI换脸的背后，其实也远不止泄露公众隐私这么简单，技术被不法分子滥用将会是AI换脸软件最大的风险之一。据资料显示，早在2017年，国外一位ID为“deepfakes”的网友，利用业余时间创造了一个AI换脸算法，并在国外风靡过一段时间。但“deepfakes”的算法很快被一些人用于明星和色情行业，许多公众人物成为受害者，最终在饱受外界争议的情况下被封杀。

近日，澎湃新闻就报道了在二手交易平台闲鱼APP上发现，有多位卖家通过AI换脸技术制作出当红女明星的不雅视频，进行售卖的现象。这不仅侵害了被换脸的当红女星的肖像权，可能构成侮辱罪，还对我国打击色情产业工作造成了极其恶劣的负面影响。

三

对于新技术、新事物从来不一刀切，这是我国改革开放以来，“摸着石头过河”的政府对于创新给予最大限度的宽容，但AI换脸也让人们看到了人工智能从“深度学习”到“深度伪造”的“作恶”速度如此之快。

当然，我们也不能因为AI换脸存在，就否定人工智能的技术进步和社会发展趋势，毕竟技术进步对于社会进步的意义本身是无可厚非的。但技术的使用需要底线，这一底线就是不能违背最基本的公序良俗。任何创新也只有在技术、市场、规则和法律之间，找到平衡点，趋利避害，才能维持其自身的合理发展，维持用户的使用热度，为技术注入灵魂，推动社会进步发展。

彭茂洋