阿里巴巴安全的新一代安全架构核心AI技术在国际顶级会议上得到认可

8月19日，阿里巴巴安全图灵实验室最近宣布，它已经成功创建了DeepFake检测技术，用于多人换脸视频。描述该技术的论文已包含在国际学术会议ACMMM2020中。
DeepFake检测技术具有许多实际应用场景的价值。例如，当攻击者将不雅视频主角的面部替换为目标面部以进行传播时，DeepFake检测技术可以“识别伪造品并寻求真相”。
并追踪真相。目前，业界对于DeepFake变脸视频的检测解决方案主要分为两类：帧级检测和视频级检测。
帧级检测方法的标记成本很高，并且帧级预测必须转换为视频级预测，这需要高融合技术，这很容易导致检测遗漏或错误。太多的视频级检测研究集中在根据时间序列构建的检测模型上。
结果，检测效果在一定程度上受到限制。阿里巴巴安全图灵实验室的算法工程师向Xi介绍，为了更好地检测部分被篡改的DeepFake视频，阿里巴巴安全图灵实验室提出了一种新的检测方法，该方法易于标记，可以帮助神经网络很好地更新学习人脸特征。
获得更好的检测结果。当攻击者篡改视频时，阿里巴巴安全图灵实验室还发现了暴露的马蹄。
由于攻击者篡改了视频的单个帧，因此同一张脸会在相邻帧中抖动。因此，研究人员设计了一个新的检测模块。
查找这些抖动有助于识别。另外，业界提出的先前的检测方法最适合于单人视频面部篡改或多人视频面部篡改。
阿里巴巴安全已构建了部分攻击数据集，以弥补DeepFake检测数据集仅在多面视频中可用的事实。用一张脸或多张脸来篡改场景中的空白。
图片包含三个面孔。如果攻击者仅对一个人的脸进行DeepFake换脸攻击，则新的阿里巴巴安全技术也可以成功检测到。
图片来源：YouTube通过技术创新，阿里巴巴安全图灵实验室的DeepFake检测技术在视频电平检测和帧电平检测方面均属最佳。该技术的共同研究者和中国科学院计算技术研究所的副研究员王书辉认为，研究结果对于一般视频多实例学习和标记技术研究也很重要。
今年3月，阿里巴巴发布了新一代的安全架构，致力于防止源头的安全威胁，构建安全系统并创建数字基础架构安全模型室。阿里巴巴安全开发的DeepFake检测技术是新一代安全架构的核心AI技术。
基础设施的安全建设发挥了重要作用，并成功实施了降落应用。阿里安全图灵实验室的高级算法专家华棠表示，到目前为止，阿里已经在内容安全场景中使用了这种检测技术，并且将来还将在现场直播场景中进行部署。