研究人员找到了一种发现最新假货的新方法

幸运的是,到目前为止,大多数备受关注的伪造品都是轻浮的事情,例如将《狡猾的史泰龙》的脸贴在《终结者II》中阿诺德·施瓦辛格的尸体上,或者 Nicolas Cage面对Nicolas Cage的印象,但这并不意味着该技术不会带来一些严重的道德问题。越来越真实的Deepfake,利用人工智能技术使其看起来好像人们做了从未做过的事情,可用于创建政治“虚假新闻”,并且无止境地用于其他恶意用途。

因此,至关重要的是,有种方法可以将假货中的真实货品进行分类-并在出现的地方发现假货。

以前的尝试已将重点放在统计方法上。一个 新的方法 (嗯,它在Deepfake中的新应用)着重于 离散余弦变换,于1972年首次发明,用于信号处理领域。这项频率分析技术可检查使用机器学习模型(称为 生成对抗网络 (GAN),以查找高频范围内的特定伪像。该方法可以用于确定是否已经使用机器学习技术创建了图像。

“我们通过使用离散余弦变换将图像转换到频域,从而选择了与以往研究不同的方法,” 乔尔·弗兰克 波鸿鲁尔大学霍斯特·戈尔茨IT安全研究所的研究员告诉《数字趋势》。 “[As a result, the images are] 表示为许多不同余弦函数的总和。自然图像主要由低频功能组成。相反,由GAN生成的图像在高频范围内显示出伪影-例如,在频域中出现了网格结构。我们的方法可以检测到这些假象。”

当然,与任何计算机安全问题一样,我们无法保证Deepfake方面的此漏洞将长期存在。如今,如今的伪造世界比一年前创建的伪造世界要好得多,它缺乏许多伴随早期实例的更“怪异的山谷”特征。

弗兰克(Frank)说,到目前为止,该团队的实验“证明了这些工件是源自深度学习算法的结构性问题。因此,我们相信这些发现将在将来具有现实意义。”但是他承认,机器学习正在以“令人难以置信的速度”发展。

在会议上展示了这项工作,在本周的国际机器学习会议(ICML)上,有6,000多名研究人员参加了会议。所有人都在以某种方式推进这一领域。结果,“永远不可能100%确定”,弗兰克说。

不过,它现在可以使用。有时候,这是安全专业人员可以期望的最好的结果。

相关阅读:

Posted in: 人工智能Tags: