随着生成式AI工具日益普及，识别AI生成或修改图像的重要性与日俱增。过去制作逼真假图需要专家投入大量时间精力，如今只需简单的键盘输入或鼠标点击即可完成。
微软AI for Good Lab近期发布的重要研究显示，人类识别AI图像的能力“仅略高于掷硬币机率”，这一发现令人警醒。该研究基于微软2024年8月推出的“真假图像测验”（Real or Not），吸引超过12,500人参与，进行约28.7万次图像判断，整体正确率仅达62%。
（Source：微软）
研究结果揭示了几个关键发现。首先，人们在识别人物图像方面表现较佳，正确率约65%，而识别自然风景的正确率仅59%。研究人员认为这与人类天生对人脸的高度敏感有关，正如英国萨里大学（University of Surrey）研究指出，人脑会被脸部吸引，甚至“在各处看到脸部”。
令人意外的是，最难辨认的图像往往是真实照片，但包含看似“不自然”的元素，如特殊光照条件造成的怪异光线效果。而由生成对抗网络（GAN）制作的图片识别错误率最高，达55%。
这项研究特别关注日常生活中可能遇到的图像类型，避免选用刻意刁钻或误导性的图片。即便如此，结果仍显示普通的AI图像也能轻易欺骗人眼。研究团队强调，随着生成式AI快速发展和图像生成器不断更新，产出图像越来越逼真，因此研究结果很可能高估了当今人们分辨AI图像的实际能力。
面对这项挑战，AI侦测工具展现出更高的可靠性。微软正开发的AI侦测工具据称能以超过95%的准确率识别真实与AI图像，远优于人类表现。然而，研究团队也提醒这些自动化工具同样会出错。
为应对AI带来的资讯误导风险，微软推动更高透明度标准，包括加入可见浮水印和强化图像识别机制。不过报告指出，仅靠浮水印可能不够，因为容易被裁切或修改移除。
这份研究提醒我们，视觉欺骗正变得日益高明，而我们可能根本发现不到。未来值得关注的是，侦测工具能否跟上甚至超越它们要侦测的AI技术。目前“真假图像测验”仍开放参与，为持续研究提供宝贵数据。
（首图来源：AI生成）
