自从 5 月底 "AI 诈骗正在全国爆发 " 登上热搜后，利用 AI 换脸技术的诈骗事件频繁发生。
(相关资料图)
近日，中国银河证券发布公告称：利用 "AI 合成技术 " 的诈骗手段或将逐步蔓延至证券行业。公告显示，某知名经济学家称，自己被人利用 "AI 换脸 " 等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展荐股活动。
此前已经有哈尔滨、福州等多地网警通报有关 AI 换脸的诈骗事件，有人 10 分钟被骗了 430 万。
而 "AI 换脸 " 诈骗猖獗的当下，社交平台上也涌现了一批推销 "AI 换脸教程 " 的账号。
这些账号发布的视频，主要内容都是人物手一挥就换了一张脸。视频还会同时搭配洗脑的音乐，简单的动作，以及 "AI 换脸教程、直播实时换脸、视频实时换脸、自定义换脸 " 等相关文字。
如果有用户在视频下面回复，他们就会在评论区引导，让用户加联系方式详谈。
这些账号背后的上传者，自称是自媒体时代的成功学导师，不断追逐热点，付费传授各种流量密码。
只不过，这一次的 "AI 换脸 " 尚处于监管灰色地带，参与其中的用户可能稍不留神，就从 " 知识付费 " 变成 " 今日说法 "。
AI 诈骗之后，" 换脸 " 教程席卷平台
5 月底，有不少网友发现，当红女星 " 杨幂 "" 迪丽热巴 " 亲自在某女装品牌直播间带货。她们互动热情，介绍专业，短时间引来大量网友围观。
但仔细看，主播的脸又不太像明星本人，如果主播扭头的幅度太大，居然会瞬间 " 显出原形 "，变出另一张脸来。更有人在不同直播间同时看到多个 " 杨幂 "" 热巴 "。一时间，" 明星主播 " 分身有术，处处有 " 杨幂 "，个个是 " 热巴 "。
经过媒体曝光，人们才发现，原来部分直播间在未标识情况下，用 AI 换脸技术，让主播套上一张明星脸，误导消费者。
想起差点因为虚假的明星效应冲动消费，人们对 AI 换脸的魔力越发心有余悸。
视频换脸技术出现已久，早在 2019 年，一款名为 "ZAO" 的换脸 App 就曾红极一时，用户只要上传一张自己的正面照，就可以在电影角色的脸上套上自己的五官，与明星同台飙戏。
到了 2021 年年初，换脸应用程序 Avatarify 一度登上了 App Store 中国区应用免费榜榜首，但不到一个星期，该应用就被中国区 App store 下架。
这些软件的技术往往来自于 DeepFake 开源技术，依托大数据和人工智能深度学习机制，对既有视频或图片中的人物面部图像进行替换。
虽然当时的换脸技术还不够逼真，但已经能让一些短视频创作者吸引流量。
在 2021 年 3 月，TikTok 上的某个视频账号就通过换脸技术，制作了换脸汤姆克鲁斯练习高尔夫、表演魔术、讲笑话等视频，发布没多久就收获了 20 多万粉丝。
当时，这种技术门槛较高。视频制作者宣称使用了开源的 DeepFaceLab 算法以及其他的视频编辑工具，通过将传统的视觉特效与 DeepFake 技术相结合，前后花了整整两个月的时间制作。此外，硬件上还需要使用一对 NVIDIA RTX 8000 GPU 训练 AI 模型，才能达到以假乱真的效果。
随着近两年来技术大爆发，不仅出现了几乎可以傻瓜式操作换脸的相关软件，逼真程度也一再上升，目前已经可以做到实时换脸，从而应用到上面提到的直播领域。
但是从娱乐领域到商业领域，AI 换脸还处于灰色地带。
在此前的报道中，有法律人士认为，使用 AI 换脸技术时，应有显著标识，以免公众混淆。而未经明星同意使用其肖像直播带货，可能涉嫌多项侵权。
2023 年 3 月，某短视频平台上的特效师通过把电视剧中男主角的脸换成自己的脸，合成与女明星亲吻的影像，并借此宣传售卖 " 特效换脸教程 "，也引发了很大争议，并且该账号 " 特效合成师洪亮（收徒）" 被平台封号 15 天。
目前短视频平台对于这类行为提出了规范。比如 2023 年 5 月 9 日，抖音发布 " 关于人工智能生成内容的平台规范暨行业倡议 "，其中提到创作者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
而在政策监管上，今年 1 月生效的《互联网信息服务深度合成管理规定》也指出，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。并要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。
面对平台和监管部门的围追堵截，换脸明星以吸引流量的路子走不通。部分博主发现以身犯法不行，转身卖起了所谓的 AI 换脸课程。
79 元就能 " 换 "30 张脸
此前，央视财经曝光 " 主播 AI 换脸明星进行直播 " 时提到，在网上购买一套 AI 实施换脸的模型需 3.5 万元。
只过了一个多月的时间，AI 换脸的价格正在迅速平民化。如今，只需要 79 元，一个 AI 换脸套餐就能帮你换 30 张脸。
《豹变》在社交平台上搜到了有关 "AI 换脸教程，直播实时换脸，视频通话换脸 " 的相关视频，视频下方的商品链接中售卖相应的课程——不仅提供 "AI 换脸直播间搭建 " 工具包＋教程，同时 " 包教包会换脸直播，79 元可以解锁 30 张面孔 "。
店铺显示，该课程已售 13 份。《豹变》询问后并没有得到回复，截至发稿，相关产品已经下架。
类似售卖 AI 变脸课程的账号往往非常谨慎，多数账号在视频中并不直接宣传卖课，而是以 " 带你玩 AI 换脸 " 等字眼，吸引用户主动询问。
此外，卖家还会通过大批没有其他内容的僵尸号，批量转发同样的视频，然后在账号简介或私信中交换联系方式。
《豹变》从一位卖家客服那里了解到，不同的套餐价格不一样，包括 588 元的入门版本、888 元的基础版本、1388 元的进阶版本，以及 2888 元的专业版本。
客服表示，如果用于直播带货，建议购买 2888 元的专业版本：" 我们这个活动很划算了，永久免费使用，包更新，后续这个价格会变为年卡。"有相关行业从业者表示，类似的 AI 换脸技术主要来自于国外开源项目：" 最近 AI 技术大爆炸，很多技术都是开源的，而且更新非常快。国产自研技术也有，但都是有投资的公司做的，而且效果不理想。"
类似的开源项目，官方网站上就有使用教程。一些人搬运到国内之后，开始打包卖课程和教程，成本几乎为零。
比如，B 站、抖音等视频网站上的很多 AI 换脸视频都是通过 DeepFaceLab 生成的。DeepFaceLab 安装简单，更新快，功能强，模型多，参数丰富，对设备配置要求低。
其他热门的软件，比如 Fake App、OpenFaceSwap 等，都能在互联网上找到相关资源。
对此，《豹变》向售卖课程的客服核实售卖的软件是否属于开源项目，希望对比使用界面，客服却宣称，自家产品属于内部软件，不方便公开。
而其他从事 AI 技术科普的博主告诉《豹变》，这就是靠信息差割韭菜。
AI 换脸的用武之地在哪？
比起其他 AI 技术诞生之后备受各方瞩目，AI 换脸技术似乎只得到违法分子的青眼。" 换脸 " 的作用总让人想到灰色产业，在实时换脸技术成熟之后，没想到最先降低的似乎是违法成本。
实际上，此前 AI 换脸技术常运用于影视剧领域，一些曾因劣迹艺人被迫雪藏的影视剧，也是凭借 AI 换脸技术重见天日。而当实时换脸成为可能后，AI 换脸技术也有可能在直播领域找到用武之地。
通过 AI 换脸，品牌方可以让不同直播间里的主播共享同一张脸，一方面可以强化品牌 IP 与主播的连接，另一方面也可以减少主播流失带来的损失，摆脱对大主播的依赖。
此前大热的数字人直播技术，目前还面临着技术不够成熟、对算力的要求过高、互动能力不足等尴尬情况。相对来说，AI 换脸技术更为经济实用。
而且，AI 换脸技术已经在部分特殊场景有所应用。比如，对于国内中小跨境电商商家来说，外籍主播和模特的人力成本略高，导致运营压力过大。所以，有 TikTok 商家通过 AI 换脸将英语口语能力不错的国内主播、模特换脸变成外籍主播、模特，以减少人力成本。
目前已经有电商公司、科技公司在着手研究 AI 换脸技术。电商直播行业龙头遥望科技曾于 5 月 15 日发布公告称，与小冰公司签订关于《直播电商人工智能技术 / 产品战略合作》的协议，双方就 AI 技术、产品的研发、推广等事项在直播、短视频、电商等领域展开全面合作。其中包括 AI 换脸技术的研发。
腾讯旗下优图实验室、天天 P 图联合打造的 AI 变脸玩法等，也在尝试能够完成人脸替换、人脸再现、人脸合成甚至全身合成、虚拟环境合成等功能。
相对应的，针对 AI 换脸的检测技术也在发展。企查查显示，2022 年 10 月 4 日，百度申请的 " 人脸鉴伪方法、装置及计算机程序产品 " 专利公布。该专利涉及人工智能技术领域，具体涉及深度学习技术，可用于人脸鉴伪场景，提高了人脸图像鉴伪结果的准确度。
对于 AI 换脸技术在灰色产业的滥用，在监管和鉴别技术逐渐完善的情况下，类似情况应该会得到控制。目前来看，需要更多的相关科普、反诈知识来谨防 AI 换脸诈骗。
本文来自微信公众号：豹变（ID：baobiannews），作者：宋子豪，编辑：刘杨
标签：
