研究人员建议使用一种令人惊讶的新工具 老鼠来检测深度假货

尼克·奥弗曼在这个令人不安的全屋深度假视频中为一个令人毛骨悚然的小女孩做了。

在终结者的天网第一次教会我们害怕人工智能的末日潜力几十年后,深假代表了来自人工智能的一种不那么致命但非常真实的威胁。 一些研究人员现在正在使用一种令人惊讶和明确的模拟工具来检测人工智能操纵的音频:老鼠。

虽然伪造音频和视频已经以某种形式存在了几十年,但机器学习最近使伪造语音变得更加容易,实际上,这些语音跨越了神秘的山谷,进入了可信的领域。

深假技术没有减速的迹象,因此研究人员正在寻找最好的工具来检测假货,包括人,不同的人工智能和是的,啮齿动物..

俄勒冈大学神经科学研究所的乔纳森·桑德斯(Jonathan Saunders)领导的三位研究人员发表白皮说:“我们认为老鼠是研究复杂声音处理的一个很有前途的模型。” 研究哺乳动物听觉系统检测假音频的计算机制可以为下一代可推广的欺骗检测算法提供参考。

换句话说,老鼠有一个类似于人类的听觉系统,除了它们不能理解它们听到的单词。 然而,这种缺乏理解实际上可能是检测假语音的一个好处,因为老鼠在专注于解码单词的实际意义时,不能被摇摆以忽略假的迹象。

例如,depfake音频文件可能包含一个微妙的错误,比如“g”应该是“b”的声音。 比如说,某位名人的一些假话描述了他们点了一个“”。 人类可能倾向于通过这面红旗来伪装,因为我们被训练从我们听到的句子中提取意义,同时调整语言的轻浮、口音和其他不一致之处。

该小组成功地训练老鼠区分某些辅音对的声音,这可能有助于检测假语音。 这项研究是在8月7日在拉斯维加斯举行的黑帽会议上提出的。

老鼠正确识别语音的频率高达80%。 这实际上低于研究人员发现人类能够识别深假的90%。

但这个想法不是训练一群啮齿动物来识别深假。 相反,科学家希望监测老鼠的大脑活动,因为他们能分辨出假货和真实的言语,以了解大脑是如何做到这一点的。 然后,目标是训练新的假检测算法与从小动物收集的洞察力。

这是假设啮齿动物不会变得聪明,并开始创造自己的卑鄙的深假。


郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。