你能区分真实人脸和AI生成的虚假人脸吗?

yuyutoo 2025-05-11 02:35 2 浏览 0 评论

本月早些时候，外媒The Verge报道称一个名为
ThisPersonDoesNotExist.com的网站正在使用人工智能(AI)生成令人吃惊的逼真虚假人脸。而现在另一个网站WhichFaceIsReal.com可以让用户测试他们区分AI产生的虚假脸部图像和真实脸部图像的能力。

WhichFaceIsReal.com由来自华盛顿大学的两位学者Jevin West和Carl Bergstrom创建，他们都研究信息如何通过社会传播。他们认为人工智能产生的虚假脸部图像的兴起可能是麻烦的，破坏了社会对证据的信任。

“当这样的新技术出现时，最危险的时期就是技术出现在那里，但公众却没有意识到这一点，”Bergstrom告诉The Verge。“那时它可以最有效地使用。”

“所以我们要做的就是教育公众，让人们意识到这项技术就在那里，”West表示。“就像最终大多数人都知道你可以利用Photoshop对一张照片进行处理一样。”

ThisPersonDoesNotExist.com生成的虚假脸部图像

两个网站都使用称为生成对抗网络(或简称GAN)的机器学习方法来生成虚假图像。这些网站通过大量数据(真实人物的大量肖像)进行操作; 学习其中的模式，然后尝试复制他们所“看到”的内容。

GAN之所以如此优秀，是因为它们会自己进行测试。网络的一部分生成面部图像，另一部分将它们与训练数据进行比较。如果它可以区分，生成器将被送回绘图板以改善其工作。这些技术可用于处理音频和视频以及图像。虽然这些系统可以完成的任务有限，但它们正在稳步提升。

在这个人工智能生成的脸部图像的案例中， Bergstrom和West指出，一次恶意攻击可能会在恐怖袭击事件后传播错误信息。例如，人工智能可用于生成在线传播的假罪魁祸首，在社交网络上传播。

在这些情况下，记者通常会尝试使用谷歌的反向图像搜索等工具来验证图像的来源。但这不适用于AI虚假图像。“如果你想在这种情况下注入错误的信息，如果你张贴了犯罪者而且是其他人的照片，那么它会很快得到纠正，”Bergstrom表示。“但如果你使用一个根本不存在的人的照片？想想跟踪它的难度。”

他们指出，学者和研究人员正在开发大量可以发现深度伪造的工具。“我的理解是，现在它实际上很容易做到，”West指出。通过上面的测试，你可能发现你可以区分AI生成的脸部图像和真实的脸部图像。

“但这些虚假照片会变得更好。在三年后，[这些虚假图像]将难以区分，”West表示。当这种情况发生时，知道将是成功的一半。Bergstrom称：“我们的信息绝不是人们不应该相信任何事情。我们的信息恰恰相反：它不是轻信。”

notexists

相关推荐