据 BBC 的调查报道，近期发现一个国际网络诈骗团伙在 Facebook 上发布 AI 生成的虚假大屠杀受害者图像，引发了广泛关注。致力于保护大屠杀记忆的组织表示，这些图像让幸存者和他们的家属感到非常痛苦。对此，Meta（Facebook 的母公司） 也受到批评，认为其平台让用户将历史惨剧变成了一种 「情感游戏」。
实际上，二战期间在奥斯维辛集中营内部只有少数真实照片，而最近几个月，网络上的 AI 诈骗者发布了许多假图像，声称这些是来自集中营的场景，例如一个囚犯在拉小提琴，或者恋人在栅栏边重逢，这些内容吸引了数万次的点赞和分享。奥斯维辛纪念馆发言人帕维尔・萨维基指出:「这里有人在编造故事……这是社交媒体上奇怪的情感游戏。」 他强调，这不是游戏，而是需要被铭记的真实历史和痛苦。
BBC 调查发现，这些图像的源头大多来自一个以巴基斯坦为基地的内容创作者网络，他们通过与 Meta 的内容变现计划合作，试图从中获利。一个名为阿卜杜勒・穆吉斯的账户声称通过社交媒体赚取了 20，000 美元，而其账户在四个月内的内容观看量超过了 12 亿次。
这些 AI 生成的图像内容质量低劣，通常被称为 「AI 垃圾」，并在社交媒体上大量传播。奥斯维辛博物馆在 6 月发出警告，指出这些账户窃取其发布的内容，通过 AI 模型加工后，往往扭曲历史细节或完全虚构受害者的故事。
不仅如此，随着假图像的增加，奥斯维辛纪念馆的使命也受到威胁，许多人在其 Facebook 帖子下评论称 「这是一张 AI 生成的照片」。一些幸存者和家庭成员对此现象感到困惑和悲伤，国际大屠杀纪念联盟的罗伯特・威廉斯博士表示，他们对这种情况的发生感到遗憾。
Meta 方面则表示，虽然他们并不故意鼓励用户发布虚假故事，但其系统奖励高互动的内容。BBC 还发现来自印度、越南、泰国和尼日利亚的 AI 垃圾账户。
尽管有些内容创作者并未直接参与大屠杀图像的制作，但他们在同样的社交媒体群组中活动，认为历史内容是吸引流量的可靠驱动力。随着这些虚假历史图像的泛滥，存在对大屠杀历史真实性的担忧，威廉斯博士呼吁人们应避免极端操控历史的方式。
划重点:
📌国际诈骗团伙利用 AI 生成虚假大屠杀图像，在 Facebook 上引发争议。
📌相关组织表示，这种行为让幸存者及家属感到痛苦，破坏了对历史的尊重。
📌Meta 虽然不鼓励发布虚假内容，但其平台算法导致低质量内容获得高互动，从而促使了这一现象的发生。
