2024 年 12 月初，网络上呈现了一段带货视频，在视频中卖力地推销某食物的居然是国家流行症医学中心主任、复旦大学隶属华山医院感染科主任张文宏医师。
不少网友出于对张文宏医师的信赖，不只自己购买，还活跃地把视频转发到家族群。可是，张文宏医师自己很快对此做出了弄清：该视频非其自己录制，应该是用 AI 假造的。
网络截图
近年来，跟着人工智能技能的迅猛开展，此类 AI 假造视频事情一再曝光。不法分子运用 AI 技能，冒充名人身份进行诈骗、发布虚伪广告，甚至经过假造视频骗得巨额财产，严重威胁社会信赖系统和信息安全。
今日，咱们从技能视点来剖析一下此类事情。
AI 假造视频的技能：
从生计对立网络到 Deepfake
这类 AI 假造视频所用的技能并不是最近才呈现的，上世纪九十年代学术界就开端了面部替换和图画生成相关技能的研讨。2014 年，伊恩·古德费洛（Ian Goodfellow）提出了生成对立网络（GAN，Generative Adversarial Network），使得计算机能够生成更为传神且高质量的图画。
生成对立网络由生成器（Generator）和判别器（Discriminator）两部分组成。生成器创立内容，而判别器则检测所创立的内容是不是实在的，并将成果反应给生成器。在练习过程中，两者一攻一守，彼此对立，并在对立中提高各自的才能，终究生成器能够生成十分传神的画面。
2017 年，有人在网络社区 Reddit 上创立了一个名为“deepfakes”的账号，并发布了一些用生成对立网络技能制造的名人换脸视频。从此，“Deepfake”一词开端被广泛运用，一般是指代这类换脸视频所用的技能。
2018 年 1 月，一款名为 FakeApp 的桌面运用程序发布。紧接着，Faceswap、DeepFaceLab 等具有相似功用的开源东西呈现了。这些东西大大降低了 Deepfake 的门槛，使不具备专业知识的普通用户也能轻松生成换脸视频。
跟着相关技能不断前进，今日的 Deepfake 和之前比较，不只生成的视频分辩率更高、面部表情同步更天然，而且所需的数据更少、练习时刻更短。前期 Deepfake 练习往往需求数百到上千张方针人物的图片或数分钟至数小时的视频，以获取不同视点、不同表情的脸部特征。但跟着生成对立网络技能自身的开展，搬迁学习（Transfer Learning）、小样本学习（Few-Shot Learning）等技能的呈现，现在仅需求几十张甚至单张相片就能够生成 Deepfake 视频。
别的，前期 Deepfake 只能生成画面，现在结合声响克隆（Voice Cloning）、语音风格搬迁（Voice Style Transfer）等技能，还能够生成以假乱真的方针人物声响，而且能够令视频中的嘴部动作和声响共同。
简略来说，现在只需求有一张相片，几秒钟的语音，就能够生成 Deepfake 视频。当然，假如有更多相片和更长的语音，生成的视频也会更传神。
Deepfake 技能的
正面运用和负面影响
Deepfake 虽然是“假造”，但在取得被“假造”者答应的状况下，能够有许多正面的运用。例如，2019 年，英国足球明星大卫·贝克汉姆发布了一段呼吁消除疟疾的视频。在视频中，他运用了包含斯瓦希里语和约鲁巴语等在内的 9 种言语。而除了英语之外，其他 8 种言语都是用 Deepfake 技能生成的。
此外，Deepfake 所运用的各类技能在数字人等范畴也有广泛运用，在视频主播、影视制造、教育和训练、心理治疗恢复等范畴都能发挥活跃的效果。
但任何技能都或许被用在欠好的当地。在前面说到的假张文宏之前，现已呈现过假靳东、假马云、假雷军、假于东来等。冒充名人卖货不是最糟糕的，Deepfake 类技能还被用在许多更恶劣的当地，例如诈骗。
2024 年 12 月 20 日，BBC 报导了一则《爱情骗子运用 Deepfake 从我这儿骗走 1.7 万英镑》的故事。受害人是 77 岁的尼基·麦克劳德（Nikki MacLeod）。骗子告诉她，自己在一座石油钻井渠道上作业，并要求 Nikki 购买 Steam 礼品卡以及经过 Paypal 转账等方法供给金钱，以便在钻井渠道上取得互联网衔接，以及支付到苏格兰来见她的游览费用。Nikki 开始持置疑态度，但看到对方发来的钻井渠道上的视频后就信任了。
2024 年 1 月，某香港公司的一名职工从公司账户转了 2500 万美元给诈骗者。骗子以首席财政官的名义和他进行了视频通话，要求他履行这笔转账。在视频通话中，该职工不只看到了首席财政官“自己”，甚至还看到了其它“搭档”。
据闻名会计师事务所德勤 2024 年 5 月发布的一份陈述，2023 年美国的 Deepfake 诈骗增加了 700%，造成了 123 亿美元的丢失，而且这一数字在 2027 年或许会到达 400 亿美元。
除了诈骗之外，Deepfake 技能能够还被用来骗过人脸辨认。许多移动运用会运用人脸辨认来验证用户身份。为避免用相片冒充人脸，现在的人脸辨认技能一般都会进行活体检测，相似 3D 结构光等活体辨认技能需求特别硬件，但只要部分手机支撑。
现在，许多场合运用的仍是根据手机前置摄像头的 2D 人脸辨认。而 2D 人脸辨认的活体检测首要是要求用户做出眨眼、点头号动作，以及用屏幕闪耀特定颜色的光线。于是就有人运用 Deepfake 技能结合一些其它的手法，来骗过人脸辨认，然后盗取网络账号。
怎么辨认和检测 Deepfake 视频？
制造不行精巧的 Deepfake 视频用肉眼就可看出反常。例如，人物的面部表情或目光不天然，眨眼的次数过少，面部边际含糊，或许与布景的过渡不天然，人脸的光影效果与周围环境的光线状况不符等。可是，跟着 Deepfake 技能的前进，这些反常特征也越来越少。
现在已知的 Deepfake 技能能仿冒人脸做出的表情，但还不能仿冒人脸在遭到外部压力时发生的变形。所以，在视频通话时，假如置疑遭到了 Deepfake 诈骗，能够要求对方用食指按压一侧的鼻翼，或按压一侧的脸颊。
除了肉眼分辩，用 AI 来辨认 AI 生成的内容也是抢手的研讨方向。例如组成视频或许在帧与帧之间存在不连续性，进行时序共同性剖析就或许发现反常。别的，人的心脏跳动会导致皮肤呈现和脉息节律共同的纤细颜色改变，经过这种颜色改变能够获取脉息信息，而 Deepfake 的视频或许没有这种特征。
但咱们也要意识到，Deepfake 运用的生成式对立网络技能原本便是由生成器和判别器两部分组成，任何一种检测 Deepfake 的技能手法也都能够归入到 Deepfake 的判别器中，然后生成该技能难以检测的假造内容。
近年来，我国颁布实施了《互联网信息服务深度组成办理规则》《生成式人工智能服务办理暂行办法》等，但这些法令法规首要束缚的是供给相关服务的渠道。而跟着软硬件技能的开展，现在 Deepfake 完全能够只运用运行在个人电脑中的模型完结。
所以，要应对 Deepfake 带来的各类问题，需求全流程的综合治理机制，未来需求技能、渠道、法令的多元协同。用 Deepfake 冒充名人身份，诈骗别人购买产品，不只或许违背《民法典》第 1019 条和第 1024 条，侵略别人的肖像权、名誉权，还或许触及《刑法》第 266 条诈骗罪、《刑法》第 222 条虚伪广告罪等。关于运用 Deepfake 触及违法甚至违法的行为，就需求依法进行冲击。