悉尼大学：你的大脑比你更擅长识破"人造脸"

这一发现可为打击虚假信息开拓新的研究方向

悉尼2022年7月14日 /美通社/ -- 近期，悉尼大学的一项研究表明，虽然观察者无法有意识地识别"真假脸"之间的差异，但他们的大脑可以。

在兴起的"换脸术"（deepfakes）黑科技使用中，如何区分真实的人脸和仿造的人脸呢？悉尼大学的神经科学家发现了一种新方法：人们的大脑可以检测出人工智能（AI）生成的假脸，即使人们无法口头分辨出哪些脸是真、哪些是假。这项研究的论文近期被发表在 Vision Research 期刊上。

"换脸"视频、图像、音频或文本看起来极其真实，但实际上是计算机生成的克隆程序，旨在误导读者并左右公众舆论。他们是虚假信息传播手段中的常见手段，极度普遍 -- 出现在政治、网络安全、造假等领域。

你能分辨真假吗？左边的照片是真实的。来源：Michoel L. Moshel等人。

悉尼大学的研究人员在观察参与者的大脑活动时发现，大脑在54%的情况下可以识别出"假脸"。然而，只有37%的概率参与者可以口头识别"假脸"。

悉尼大学心理学院的高级研究员副教授Thomas Carlson说："虽然这项研究中的大脑展示出得准确率较低，仅为54%，但从统计学的角度上看是可靠的。"

"这告诉我们，大脑是可以识别出虚假和真实图像之间的差异的。"

对机器人和诈骗手段的识别

研究人员表示，他们的发现可为打击假冒伪劣提供一个跳板。

Carlson副教授说："大脑能够检测到‘人造脸'，这意味着当前的‘换脸术'是有缺陷的。如果我们能够了解大脑如何识别虚假图像，我们可以利用这些信息创建算法，在脸书（Facebook）和推特（Twitter）等社交平台上标记出潜在的‘人造脸'。"

在未来，基于现有和类似研究发现，相关人员预计可开发出一种可以实时提示虚假信息的技术。例如，安保人员可通过戴上脑电图功能（EEG）的头盔，识别正在面对的虚假图像。

研究人员在研究中使用了脑电图（EEG），这是一种显示大脑表层活动的检测方法。

Carlson副教授表示："EEG头盔可有助于防止类似迪拜和英国最近发生的银行盗窃和企业欺诈案件的发生。在这些案件中，骗子利用克隆语音技术窃取了数千万美元。在这些案件中，财务人员认为他们听到了可信客户或同事的声音，从而被欺骗转移了资金。"

眼睛vs大脑

研究人员进行了两个实验：一个是行为实验，另一个是神经成像实验。在行为实验中，研究人员向参与者展示了50张真实和计算机生成的假脸图像。他们被要求辨别哪些是真的，哪些是假的。

然后，另一组参与者在不知道一半的图像为虚假的情况下，观察相同的图像，并使用脑电图记录他们的大脑活动。

研究人员随后比较了两个实验的结果，发现人们的大脑比眼睛更善于识别虚假图像。

这只是一个开始

研究人员强调，鉴于这一研究领域的新颖性，他们发表在《Vision Research》上的研究只是一个起点。它不会立即（甚至可能永远）保证识别"人造脸"的绝对可靠方法。

Carlson副教授说："更多的深度研究是必要的。让我们看到希望的是，deepfakes"换脸术"是由计算机程序创造的，因此这些程序会留下可以被检测到的电子‘指纹'。"

"我们对大脑识别‘人造脸'能力的发现意味着我们可能会有另一种途径来打击‘换脸术'和虚假信息的传播。"

论文链接：