研究人员开发能够可靠检测并清晰解释深度伪造图像的方法

图丨Pexels

据Homeland Security News Wire网站7月15日报道，近年来，深度伪造（deepfake）方法发展迅速。人工智能模型能够生成逼真的人脸、物体乃至整个场景，导致互联网上经过篡改的照片大量增加，且这些照片与原始照片的相似程度惊人地高。

生成式人工智能创造逼真图像的能力，在创意应用等领域开辟了新的可能性，同时也带来了错误信息传播的更大风险，被篡改的内容可能歪曲证据并破坏信任。

在RealOrRender项目中，弗劳恩霍夫光电子学、系统技术与图像评估研究所（Fraunhofer IOSB）的研究人员与德国联邦信息安全局（BSI）合作，旨在展示如何利用创新的人工智能方法，可靠且稳健地区分深度伪造图像与真实图像。

该项目由德国联邦信息安全局资助。

研究组的高级科学家安德烈亚斯·斯佩克（Andreas Specker）解释道：“首先，我们使用人工智能图像生成器重建该图像。随后，一个人工智能模型接管分类工作，并对重建误差进行混合计算。最终会得到一个以百分比形式显示识别准确率的估计值。总体检测率在85%到91%之间，在个别情况下肯定可以更高。”

重建越成功，被检测图像是人工智能生成图像的可能性就越大。

但仅仅揭露深度伪造是不够的，理解该方法为何能检测出深度伪造图像同样重要。

Fraunhofer IOSB研究人员纳迪亚·布卡特（Nadia Burkart）表示：“我们为此使用可解释人工智能（XAI）方法，来突出显示对模型决策有贡献的图像区域和结构。如此一来，就能清楚地理解为什么一张图像被归类为真实或人工智能生成。例如，独特的纹理或频率模式可能暗示图像的合成来源。可解释人工智能有助于展示模型在决策中使用了哪些特征。”

研究人员使用的可解释人工智能方法，根据其解释输出格式，可分为基于热图和基于分割的两类方法。

基于热图的方法可视化显示图像的哪些区域对模型决策贡献最大，以及这些因素在多大程度上影响了评估结果。

相比之下，基于分割的方法分析连续的图像片段，并显示哪些语义区域对模型决策做出了贡献。

在基于大型图像数据集的测试中，研究人员称证明了这种混合方法优于当前的方法。

研究成果正被整合到一个演示器中，该演示器将协助德国联邦信息安全局检测深度伪造图像。在上传所需检测图像后，演示器会显示检测结果和解释说明。

资料来源丨Homeland Security News Wire

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”