一键脱衣、换脸亲吻，AI开始作恶了？

和迪丽热巴“接吻”、长得和特朗普“一模一样”、马斯克身陷“贫民窟”、乘地铁的照片被“一键脱衣”……随着AI技术的成熟和发展，一键“换脸”“换装”因带来意想不到的效果，受到很多关注，屡屡冲上热搜。

近日，不少网友在社交媒体和短视频平台上开始秀出AI换脸内容，比较常见的是在热播剧中换上自己的脸或者喜欢的明星的脸。但此举也引发网友担忧，AI换脸在影视剧中“大行其道”，这是否尊重演员和版权，这种换脸未来是否也会出现在非法视频里？

事实上，ChatGPT走红后，生成式AI技术的发展和应用，引发了新一轮AI技术热潮。多家巨头涌入，并开发面向消费者的AI应用，让人工智能开始在用户生活中“生根发芽”。但除了自娱自乐之外，不少人试图利用AI牟利，甚至做出违背伦理、触犯法律的事情。

如何让AI在不伤害人类的前提下，有利于人类和社会发展，正在成为新的课题。

图/视觉中国

当AI换脸走红

“终于实现和喜欢的爱豆合照了”，有不少网友近日在社交媒体平台上晒出自己和爱豆的正脸照片，被网友戏称为“拿去骗我妈，我妈以为我谈恋爱了”。这些照片皆来自一键生成的AI换脸APP，这些APP有海量的视频和照片模板，能够让不少粉丝实现和爱豆合照的愿望。

不过很多网友表示，这些APP此前基本都免费，现在则需要充钱办会员。在手机中的应用商店搜索，不少关于AI换脸的APP近期的下载量排名都有大幅提升，在评论区，很多网友觉得新鲜有趣，但也有网友产生了质疑。

一位博主公开发布声明，称“被AI换脸软件盗图做模板了”，该博主表示，自己作为模特，和摄影师辛辛苦苦拍摄，但就这样被盗用了，是有点“伤心”。另一位博主也称自己在1月份发布的一组照片，目前在国内社交媒体平台上被不少人用AI换脸软件私自使用，涌现出大批类似素材的视频和照片，甚至有人因相关内容还上了热门榜单，流传到海外平台。

在短视频平台上，有不少主打AI换脸内容的博主因使用这项技术圈粉不少。最近还有博主惹出了不小的争议。

特效师洪某在短视频平台上有超过百万粉丝，此前他经常通过电脑后期制作替换影视视频中的镜头，日前他通过AI换脸的方式，将女明星迪丽热巴出演的电视剧中激吻镜头的男主角替换为自己，该视频引发了不少争议，多位粉丝表示了不满，甚至找到他要讨说法。洪某后续在抖音上晒出自己被迪丽热巴粉丝抓伤脸的情况，最终的结果是洪亮把关于迪丽热巴的内容都隐藏删除。他的账号因违反社区规定，也被封了15天。

该事件引发了法律界人士关注，同时也让AI换脸的行为更受到关注。在不少人下载APP使用时，这种技术背后带来的伦理挑战和法律风险越来越凸显。浙江晓德律师事务所主任陈文明则表示，该博主进行AI换脸时，如果得到演员的同意，尊重了演员个人的相关权利，那么这种行为就变得可行，能够适当应用。但如果没有得到演员的同意，有可能违反道德和法律的双重规范。

万商天勤律师事务所合伙人张烽告诉中国新闻周刊，上述博主这种行为可能侵害了相关录像制品或视听作品的版权改编权，侵害女明星的人格权、肖像权、名誉权，传播这种内容如果被认定为不良内容可能违反互联网信息内容治理相关规定和公序良俗。

赛迪智库网络安全研究所所长刘权则指出，这种行为涉及多方面的问题，包括道德伦理和法律法制等。对个人而言，这种行为将会对被害人的心理健康造成损害；对于公众而言，通过AI技术进行合成创作，可能会模糊真实与虚假之间的界限，损害社会公信力和价值观念。从法律法制角度看，如果未经授权使用他人肖像或作品进行合成或创作，可能会构成侵犯他人肖像权和知识版权，涉及侵权问题，需要承担相应的法律责任。

技术成本越来越低

今年以来，随着ChatGPT的爆火，生成式AI逐步被人们关注。当一款AI产品可以像“人”一样回答问题，与用户产生互动时，不少业内人士认为“通用型AI”已经到来。

刘权告诉中国新闻周刊，过去市场上的AI产品主要是所谓的“分析式AI”，这类产品的主要功能是对数据进行学习和分析，以此来进行预测、辅助用户进行判断。与这类AI不同，生成式AI的主要功能是通过学习来生成与训练数据不同的新数据。得益于这种创造能力，生成式AI可以比分析式AI应用于更多不同的场景、完成更为多样化的任务，因而正在成为一种“通用型AI”。

他进一步指出，生成式AI技术通过换脸、变装等技术，可以创造出非常逼真的视频和图片，能够为互联网生态提供大量的内容产品，并且相比于传统的UGC（用户生产内容），AIGC（AI生产内容）在内容制作成本、内容数量、质量的稳定性等方面都更有保证，这些特点决定了生成式AI在电影制作、游戏、虚拟现实等领域中有着广泛的应用潜力。

张烽表示，从内容生成创作角度而言，生成式AI为内容生产创作提供了低成本、高效的方式，一方面从创作主体上看，让更多普通用户也能很方便地借助AI工具创作出基本符合自己需求的数字内容；另一方面，从创作内容上看，让数字内容的创作更加贴近用户需求和使用场景；此外从结合方式上看，让内容生成创作能够智能化地结合到各种场景中。

一位资深电商从业者近期发现不少利用生成式AI的创作工具相继问世，以前对很多中小厂家来说，拍摄非常精美的产品图令人头疼，一方面没有相关人才，另一方面成本也不低。近期有很多利用AI做电商设计的产品，一般会按年收费，能够多快好省进行营销内容的制作。

中央财经大学数字经济融合创新发展中心主任陈端表示，目前来看，生成式AI最容易带来改变或产生冲击的，就是在内容生产领域。原因在于内容生产链条相对较短，通过打造IP的价值链延展空间比较大，目前来看有商业变现的可行性。

刘权指出，生成式AI在消费端和产业端的多个领域都可能进行颠覆性的变革。在消费端日常办公领域，相对重复、创造性较低的任务都可以由生成式AI来辅助完成；在搜索领域，生成式AI+搜索的模式可以大幅提升人们从海量信息中检索出自己所需要信息的效率，因而可能会成为新一代的搜索方式。

此外，他还指出，在产业端，如在工业设计领域，生成式AI不仅可以根据设计人员的思路迅速提出多套方案，还可以直接对各套方案进行比较评估，供设计人员选择，这样就可以有效节省设计成本、缩短设计时间，例如目前谷歌、英伟达等企业已经在芯片设计中运用AI进行辅助设计；在药物研发领域，引入生成式AI可以辅助研究人员识别化合物的分子结构，并根据需要对分子结构进行重构和修改，可以帮助缩短研发时间，减少研发投入。

根据美国Western Securities （西部证券）分析，预计到2025年，AIGC市场空间将达到40.352亿美元，到2030年市场将达到217.558亿美元。这意味着整个市场在未来几年可能迎来爆炸式增长。

“不加限制将会面临严重挑战”

在不少社交媒体和电商平台上，搜索“AI换头”“AI特效”，不少人都在用这些技术接单，但并不是明目张胆，一般会让用户加微信，然后从朋友圈看视频案例，收费在几十元到上百元不等，商家表示“提供一张照片即可”。

陈文明指出，不论是收费来做这类视频还是进行教学，这些营利活动的前提必须是征得相关人士的同意，否则有可能造成侵权。

而上述商家则表示，“自己娱乐有啥风险，只要不商用，谁会来找你？”陈文明强调，随着技术的发展，所谓的“一键变脸”，如果完全放开不加限制的话，肯定是弊大于利。从法律层面来看，隐私权、知识版权等领域都可能面临严重的挑战。

刘权的担心之处则在于，生成式AI的滥用也可能造成很大的公共危害，例如不法之徒可以以更低的成本、更高的效率来伪造文本、图片，甚至视频的资料，并以此来从事诈骗、恐吓、诽谤等犯罪行为。

张烽进一步指出，随着技术发展，纯从技术角度而言生成制作成本确实可能会越来越低，但是从相关技术监测检测手段和法律规制、管理制度角度来说，会加大违法成本。

近两年，随着AI风起，融资超千万美元的AI产品不在少数，不少产品因此深陷色情信息和虚假信息舆论风波。在不少媒体的报道中，ChatGPT也可以按照用户的指令生成虚假信息。上月底，马斯克和1000多名人工智能专家签署联名信，呼吁暂停训练比GPT—4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。

张烽指出，在未来发展方面，目前比较一致的意见是，人工智能自然语言大模型本身因为涉及海量参数模型开发、海量数据训练、巨大算力支持，并非一般小公司可承担，竞争主要存在于中美两国互联网巨头。互联网巨头们谨慎小心对待监管，其自身也有比较强烈的社会责任感，有实力也有意愿以合规方式推进研发和应用。至于未来受益公司，凡是拥有大数据、大算力和大量应用用户或应用场景的公司，会享有很多机会。比如目前以图片类版权授权和使用为业务模式的公司会受到一定影响，但是基于其拥有的巨量正版图片数据资源，相应调整业务模式的话，还是会有很多机会。

4月11日，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公开征求意见。陈端解读此举为在一轮新的立法和政策制定过程中，国家秉承包容开放的态度，通过鲜明的政策导向和指引帮助创新创业人士，明确底线意识，从而更充分释放创新创业的潜力和动能”。

刘权指出第三条给出监管的原则是国家明确支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。一键换脸等行为变得更加普及和容易后，有必要建立相关的规范和监管机制，确保该技术的合法、合规和安全使用，并维护良好的社会秩序和价值观念。同时，企业和个人也应该自觉遵守相关法律规定和社会道德标准，不进行侵权行为和虚假宣传，促进AI技术的健康发展。

作者：孟倩