律师指出，制作、售卖AI换脸不雅视频已构成传播淫秽物品牟利罪，同时涉嫌侵犯他人肖像权和名誉权。此外，律师还提醒，被换脸的视频有可能被用于诈骗或敲诈，造成更大的危害，应引起全社会重视。
资料图 中新经纬 常涛摄
40多位女星被换脸 上百部视频卖49元
9月2日下午，在某头部二手交易平台上，中新经纬客户端搜索关键词“AI换脸”，系统提示“无法搜索违规信息”，但当搜索“换脸”时，可以检索到“爱换脸，全网最全、价格最低”“换脸合集 可试看”等卖家打出的信息。中新经纬客户端与其中两位商家沟通后发现，他们在平台上所售的实为明星换脸的不雅视频。
卖家雨嫣(化名)对中新经纬客户端说，他手里有45位女明星的上百部AI换脸视频资源可以出售。随后，雨嫣向中新经纬客户端发来了上述视频的目录截图。“网盘发货，在线观看，打包价49元。担心不像可以免费试看，当红一线(明星)的内容更好点，三四线(明星)的内容一般。”
视频换脸操作页面 受访者供图
另一位卖家也称，可以打包出售40多位女明星上百部AI换脸视频，价格为75元，可以免费试看，网盘发货。
上述两位卖家均提出不要在二手交易平台上沟通内容，而是要求在QQ上聊。其中一位卖家对中新经纬客户端说：“平台对这种信息监控比较严格，商品信息随时可能被删，我们也是抱着侥幸的心理，能卖一单是一单。”
中新经纬客户端注意到，9月2日晚间，上述两款商品的信息已被平台删除，但搜索“换脸”仍可看到其他众多相似的商品信息。
换脸视频可定制 10元制作一分钟
此外，在其他一些电商平台上，还有卖家表示，可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片，卖家便可以将照片中的人脸“转”到特定视频中特定人物上去。
“提供被换脸人的五到十张照片和视频素材，收费是10元一分钟，五分钟起做，一到两个小时出货，如果视频比较长，还可以便宜。”该卖家表示，“你可以自己提供视频，也可以用我的，但视频要越清晰越好，不要侧脸、盖脸。”
该卖家强调，视频是他亲自做，他手里有很多固定客户。“做视频的时候电脑什么也干不了，还损耗显卡，所以我这个价格算很公道。”该卖家说，“找我的有的是做‘小黄片’的，但更多的是做一些商品的宣传短片，大家各有各的用途。”
来源：QQ群截图
此外，在一些与“AI换脸”相关的QQ群内，还有一些卖家称可以传授AI换脸技术，“包教包会，价格公道”，并且还可以赠送全套明星换脸视频资源。据了解，“学习”AI换脸技术的学费约在500元上下，最快四五个小时就能学会。
有用户对此表达了担忧。网友“熙熙”表示：“会不会有人利用我发在社交平台上的自拍照去制作换脸视频呢?那样的话就太可怕了。”还有评论称，这个简单的应用可能会被居心叵测的用户利用，从而制作各种色情、暴力的虚假视频。
律师：AI换脸被滥用的风险不容忽视
ZAO App的突然走红引发了这波对于AI换脸技术的关注与讨论，但实际上，这项技术并不是最近才出现的。今年年初，一段通过AI技术将《射雕英雄传》中演员朱茵脸部替换成杨幂的视频在网络引起热议。目前，在一些视频网站上，仍有大量AI换脸视频。
AI换脸背后是Deepfake技术，Deepfake指的是用人工智能软件制作的虚假视频，由FakeApp程序创建而成，FakeApp则可实现AI换脸。
在ZAO由于可能引发版权、隐私安全等问题引起用户广泛关注后，北京市安理律师事务所高级合伙人王新锐曾表示，ZAO这类利用深度学习技术换脸的软件，最大的问题还是大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险，而这种风险目前被公众广泛低估，但实际上已经在不断带来严重的后果。
北京志霖律师事务所律师赵占领在接受中新经纬客户端采访时表示，制造、销售AI换脸淫秽视频无疑已构成传播淫秽物品牟利罪，同时也涉嫌侵犯他人肖像权和名誉权。而对于购买AI换脸淫秽视频的买家来说，若对其加以传播或者以传播牟利，则也可能构成违法甚至犯罪。
赵占领进一步指出，除了将AI换脸技术用于制作淫秽视频，提供定制视频换脸服务若被不法利用可能造成更大的社会危害。“对于普通人来说，别人拿你的照片去给视频做了换脸，这有可能是出于调侃目的，但也有可能会利用这种视频向被换脸者的亲属进行诈骗、敲诈。赵占领说，“我担心的是，这一技术被滥用，或者是被那些不法之徒及有恶意的人使用，便等于打开了潘多拉的魔盒。”
赵占领认为，对于这种新型的违法犯罪行为，需要及时完善现有法律规则和技术手段，同时也应该通过更多的手段让民众知晓这种行为带来的危害性。
