AI技术应用逐渐落地的同时，换脸技术从最初的个人娱乐行为，走向了黑产交易。近日，AI星球发现，部分二手交易买卖平台就出现了“这些卖家通过AI换脸技术制作出当红女明星的不雅、大尺度视频图片进行售卖。AI星球在同一平台和另一位卖家沟通，经过一番“讨价还价”，全部视频资源从“绝不走账号，一律通过网盘渠道发送，与账号没关系，安全性极高，支付方式支持微信、支付宝等多种渠道

  AI换脸黑产通过AI定制技术，对众多女星的肖像进行“移花接木”合成淫秽视频，进行非法盈利。目前利用AI换脸技术从成品视频、定制视频到软件及教程，整个产业链从下、中、上游都有厂商提供，有的厂商甚至从研发、定制、包装等提供一条龙服务关于AI换脸女星肖像深陷“艳照门”事件，今年3月，闲鱼就有做出了相关回应。 从3月20日起，闲鱼有关人员在浙江省网信办的协助下，掀起了为期3个月的“互联网专项整治”之风，当时就开展了严厉打击涉嫌违反公序良俗的“扫黄打黑”行动。对于对违反公共秩序及良俗的售卖交易一直以为都采取零容忍的态度，对相关行为采取“严重处罚”策略。与此同时，闲鱼平台将主动协助执法机关开展线上举报违规账号、线下协助打击黑产、及时追踪团伙

  北京大成（哈尔滨）律师事务所朱宝律师在接受AI星球采访时表示， AI“换脸”明星售卖淫秽视频， 一方面，利用并非原创的视频从事商业活动，这种行为已经这类视频在国内传播，即使没有商业利益，其根本上已经触犯了“传播淫秽物品罪”。 根据我们国家《刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金； 情节严重的，处三年以上十年以下有期徒刑，并处罚金； 情节很严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。此前，AI换脸软件“ZAO”的一夜爆红，在不到一个星期的时间里，经历了从“一炮走红”到“道歉约谈”的大起大落。这类换脸软件的“平民化”在实现AI应用层面的突破的同时，也暴露出许多问题。回到2017年，一位名叫“deepfakes”的网友在Reddit上发布了一条《神奇女侠》女主“盖尔·加朵”的色。为了制作这段视频，deepfakes用静态图片和YouTube视频对机器学习算法进行了训练。 这也告诉我们，机器学习确实能够适用于制作任何人的色。

  事实上，deepfakes还用类似的方法给泰勒·斯威夫特（Taylor Swift）和麦茜·威廉姆斯（Maisie Williams）制作了类似的视频。这款视频爆火之后，deepfakes用户数一周内就从15000扩张到55000个。由于巨大的娱乐性和潜在的商机，AI换脸被得到大范围普及和使用。 2018年，一位名叫阿冷的主播，在网友的创作下可以一天“换一张脸”。

  坦白说，技术是中立的，对于AI换脸我们起初也并没有介意过。 几年前，《速度与激情7》里的主演保罗·沃克，在电影没杀青之前就意外离世。影片最后，制作方是通过一种CGI的技术换脸呈现出来，才让我们正真看到了分叉口永别的这一幕。

  deepfakes火爆之后好莱坞的一些数字公司就对它产生了强烈兴趣——对于电影制作公司来说，这项技术将大幅度的提升后期制作对效率，而且大量节省本金技术是中立的，而那些AI换脸软件之所以被大众以及产生担忧的真正问题就在于，当它走出专业影视制作需求，在未经用户许可的同时用于伪造虚假视频、甚至利用手中掌握的人脸信息进行非法催收活动，影响财产安全。对于AI换脸会造成的危害，其早期“受益者”Reddit2018年2月采取行动，关闭了deepfakes论坛，并更新了全网规则，称将会严格审查涉及非自愿和未成年性暗示的网站。这一“换脸视频”的做法，也获得了包括twitter等社交平台，pornhub等等各大平台的认可。本站不容忍任何非自愿的内容，非自愿内容直接违反我们的使用条款，该条款禁止复仇色情报复（revenge porn）、deepfakes，以及任何未经同意或允许上传的内容

  对用户协议涉嫌过度收集用户个人信息及隐私安全争议，AI换脸软件“ZAO”也在9月3日首次做出回应，称：在用户使用的过程中，为保护肖像权不被冒用，“ZAO”设置了真人验证环节，整一个完整的过程仅为验证用户上传的照片是您本人，为确保用户的信息安全，“ZAO”不会存储个人面部生物识别特征信息。

  但往往，很多时候，都是我们自己无意识中“勾选”了暗藏玄机的用户协议，以及通过不同方式上传了照片。

  当然，除了需要从更多法律层面规范各种互联网APP隐私保护等问题外，“科技向善”绝不仅仅是一句简单的口号和遇到危机就拿来用的挡箭牌，它是迈向深渊的边界。

  特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

  除了戴头盔！12月1日起，电动车、三轮车上路“5严查”，最高罚款2000

  小米“迟到的直播”：雷军回忆纽北往事，SU7 Ultra将亮相广州车展

  一加 13 维修备件价格公布：屏幕组件 1650 元，主板 2350 元起

  线 Pro 首发搭载 realme UI 6.0，支持 4 年系统更新维护

  孩子一放下就哭 背着才肯睡，妈妈无奈出“绝招”哄睡，门锁：做梦也没想到，我还能带娃

  弟弟和姐姐姐夫一起出来玩，她俩走哪就把弟弟带哪，网友：不是人人可以做德华呢，幸福吧