诞生之初（chū），Deepfake是一（yī）项（xiàng）有趣的图像处理技术，仅（jǐn）仅带来搞笑（xiào）和娱乐视频，但殊不知，潘多（duō）拉魔盒就此被打开，催生出 黑产、恶搞政客“操纵”民意，Deepfake正逐步进（jìn）化为一种新型“病毒”，人（rén）类（lèi）伦理道德（dé）的“遮羞（xiū）布”也被无情揭开。

portant;" />

图（tú）：Saturday Night Live中凯特·麦金农换（huàn）脸伊丽（lì）莎白·沃伦

面（miàn）对因新技（jì）术而引（yǐn）发的（de）公众（zhòng）恐慌，相（xiàng）关监管机构也加快采取行动（dòng），出台“打假（jiǎ）”策略，旨在打击Deepfake虚假音（yīn）视（shì）频（pín），控制“造假（jiǎ）病毒（dú）”的传（chuán）播（bō）。同时（shí），国内也迎（yíng）来（lái）了“最严数据（jù）管理”的一年。

11月29日，中国国家网信办也（yě）正式发布（bù）《网络音视频信息服务管理规定》，指出自2020年1月1日起，AI造假视频（pín）不得随意发（fā）布。新规定中关于AI造（zào）假音视（shì）频的规定主要有四条：“按照国家有关规定（dìng）开展安全（quán）评估”、“以显著（zhe）方式予以标识”非真实音频信息（xī）、不得利用AI造假（jiǎ）技术发布（bù）虚假新闻、部署AI造假音视频鉴别技术（shù）和健全辟谣机制（zhì）等。

新规中不难发现（xiàn），有（yǒu）效抑制（zhì）Deepfake及类似造假需要“两（liǎng）手抓”，除了（le）利用法律法规严控“别有用心者”作恶，更要从（cóng）源头加强安全评估、鉴别（bié）技术等能力，借助（zhù）技（jì）术手段提（tí）前布局，在检测方面（miàn）领先一（yī）步。

近（jìn）日（rì），来（lái）自清华大学的人（rén）工智能（néng）企（qǐ）业——RealAI正式发布了一款深度（dù）伪造视频检测（cè）工具（jù），可一键实现对深度伪（wěi）造（zào）(Deepfake)视频（pín）的（de）自（zì）动精（jīng）准识别。

一、 一键换脸到一键“打假”

RealAICEO田（tián）天表示，尽管需求达成（chéng）一致，但目前大规（guī）模应用的打假方法面临诸多困难。

首（shǒu）先（xiān），Deepfake的开源（yuán）技术让AI换脸的使用门槛降低到手机美颜、P图的水平，一键换脸带来了“造谣”成本（běn）的（de）降低、爆炸式（shì）的传播。可是在防御层，相应（yīng）标准化（huà）的（de）检测工具却几乎（hū）没有，人工鉴别不仅（jǐn）专业性要求高（gāo），且效率低。所以，无论对于个人、平台还（hái）是第三方机构（gòu）而言，打假辟（pì）谣的时间（jiān）窗口很短，难度却很高。

portant;" />

图：雷佳音(左)换脸郭（guō）德纲(右（yòu）)

另外，更严重（chóng）的问题（tí）在于，很多（duō）情况下，Deepfake“以假乱真”的程度极高（gāo），人眼难（nán）以察（chá）觉。加之（zhī）其算法目前还无（wú）法建（jiàn）模分析，检测（cè）技术的（de）研究被严重影响，而造假（jiǎ）方的适应速度却很（hěn）快，新（xīn）技术日益迭代。

RealAI基于第三（sān）代（dài）AI技术推（tuī）出的深（shēn）度伪造视频检测产品，通过采用“数据增（zēng）广”的（de）方式（shì），用（yòng）伪造的视频训练（liàn）出一个新的模型，从而让模型（xíng）能够更好识别出（chū）伪造痕迹（jì），分辨出造假视频，可谓“魔高一尺，道高一丈（zhàng）”。该产（chǎn）品支持（chí）图像、视频内容鉴别，用户（hù）基（jī）于API接（jiē）口将待（dài）检测的图片（piàn）、视频上（shàng）传，一键即可（kě）反馈真伪（wěi）。

事实上，开（kāi）展针对Deepfake的“打假”研究（jiū）的团队早就存（cún）在，但相关的成果仅停（tíng）留在算法层（céng）面，更多的是（shì）为学术研究提供（gòng）使用，无法应对真实环境下大范围传播的虚假内容，所以，RealAI推出的这款标准化（huà）自动检测（cè）工具（jù）可以说（shuō）给规（guī）模（mó）化的“打假”行动带来了新希（xī）望。

二、检（jiǎn）测准确率达99%，Deepfake“在劫难逃”

作为清（qīng）华大学人工智能研究院核心孵（fū）化企业，以及国（guó）内（nèi）首家（jiā）安全可（kě）控（kòng）人（rén）工智能系统提（tí）供商，RealAI在AI安（ān）全（quán）与攻防技（jì）术领域拥有业界领先优势（shì）。在今年刚（gāng）结束的GeekPwn2019国际安全极客大赛中，其与（yǔ）清华大学联合战队一举获得“CAAD CTF 图像对抗（kàng）样本挑战（zhàn）赛”以及“CAAD 隐身挑战（zhàn）赛”两项比赛的冠军。

portant;" />

深厚的（de）技术积累也让RealAI安全研究（jiū）团队（duì）对“造假方”的攻击（jī）原理有（yǒu）着更深刻的理解（jiě），能（néng）够更有针对性地开发检测工具。本次推（tuī）出（chū）的深度伪造视频检（jiǎn）测（cè）产品，将原本（běn）高难度（dù）的检测过程大幅简（jiǎn）化（huà），只需接入SDK即可一键实时检测，调（diào）用简单快捷（jié）。

portant;" />

Deepfake视（shì）频（pín）检测产品流程图（tú）

与（yǔ）目前市面上（shàng）已有（yǒu）的（de）检测技术相（xiàng）比（bǐ），RealAI的（de）视（shì）频（pín）检测工（gōng）具利用深度学（xué）习算法、大量数据集训（xùn）练模型，能够（gòu）检测（cè）出绝大多数AI换脸假（jiǎ）视频，准确率（lǜ）达99%(内部测试数据集上)。在（zài）面对算法（fǎ）的换脸（liǎn）效果（guǒ）越来越逼真（zhēn）的（de）情况，RealAI的（de）研（yán）发团队也集中研（yán）发新型的检测（cè）算法，以迭代和更（gèng）新RealAI的检测算法库。

更值得注（zhù）意的是，该产品适（shì）用（yòng）于复杂视（shì）频内（nèi）容检测，支（zhī）持（chí）多种格式和多人（rén）脸检测模（mó）式，1S识别，最高可支（zhī）持10人以上（shàng）同屏（píng）。

三、Deepfake的（de）潘（pān）多拉魔盒终将被关上

随着Deepfake技术（shù）被滥用，传（chuán）统意（yì）义（yì）上“真实”与“虚假”的（de）界限被（bèi）模糊，这对于社会生活的影响之大此前未被预想（xiǎng）到（dào），但如（rú）今技术（shù）作恶所（suǒ）带来（lái）的负（fù）面影响正全面爆发。

比如，网络上肆意传播的视（shì）频、图片内容，内容平台传统（tǒng）的审核机制无法辨别Deepfake生成内（nèi）容，若采用人工审核，需要（yào）投（tóu）入额外的（de）时间（jiān）、人力成本;特定对象被编（biān）造虚（xū）假信息在社交（jiāo）平台上（shàng）广泛传播，处（chù）于舆论中心的当事人由于找不（bú）到能够证实“谣言”是捏造的有效（xiào）途径，个人声誉因此（cǐ）受损（sǔn）;案件调查、法庭（tíng）辩论中涉及（jí）的（de）视频、图像等证据材料，警察、律师等人员无（wú）法单（dān）凭肉眼识别证（zhèng）据是否是基于Deepfake伪造，需要专业工具鉴（jiàn）定真伪（wěi）;事故中真伪难辨的影像资料，保险（xiǎn）公司的（de）审（shěn）查人员缺乏Deepfake造假（jiǎ）认知以及不配备专业鉴别能力，存（cún）在被诈（zhà）骗（piàn）理赔的风（fēng）险……

“人人都怕换脸术”的恐慌，让反Deepfake的（de）检测需求变的（de）异常迫切，本次（cì）RealAI检测（cè）工具（jù）的推出（chū），通过与内容平台、执法（fǎ）机构、保险公（gōng）司等机（jī）构（gòu）开展合作，能够（gòu）在虚（xū）假内容甄（zhēn）别、线（xiàn）上资料审核以及影（yǐng）像物证真实性检验等实际应用场（chǎng）景发（fā）挥（huī）作用（yòng），并帮助企业与个人更好（hǎo）的进行（háng）信息（xī）管控与风（fēng）险（xiǎn）预（yù）警。

最（zuì）后，在这（zhè）场AI军备（bèi）竞赛（sài）中，Deepfake将持（chí）续演化（huà），RealAI也将持续迭（dié）代（dài）技术、打磨产品。RealAICEO田天表示，未来（lái）AI必然是安全可控（kòng）的AI，一（yī）键（jiàn）“打假”终将超（chāo）越一键换脸的速度，Deepfake的（de）潘多拉魔盒也终将被关上。