“AI伦理”争议升级,部分慈善机构使用AI生成“贫困儿童”图像

IT之家 10 月 22 日消息,据英国卫报》20 日报道,AI 生成的极端贫困、儿童以及性暴力幸存者图像正在大量涌入图库网站,并被越来越多的全球卫生非政府组织使用,引发了全球卫生专家的广泛关注。

致力于推动“使用道德图像”的 Fairpicture 组织成员诺亚・阿诺德表示:“几乎到处都能看到这些图像的使用,有些组织在积极使用 AI 生成图像,还有一些至少正在尝试。”

阿诺德表示,美国政府对非政府组织预算的削减使这一趋势加剧。“现在越来越多的机构开始考虑使用合成图像,而非真实的照片,因为这样成本更低,而且不需要为同意等问题担忧。”

安特卫普热带医学研究所的阿尔谢尼・阿列尼切夫指出,这些图像复制了贫困的视觉模式 —— 例如,孩子们手持空盘、裂开的土地和固有的刻板印象

阿列尼切夫收集了超过 100 张被个人或非政府组织用于反对饥饿和性暴力的 AI 生成贫困图像,他与《卫报》分享的图像呈现了夸张的、强化刻板印象场景:孩子们蜷缩在泥水中;一位穿婚纱非洲女孩,脸上留下泪痕

AI 生成的“贫困”主题图像正在 Adobe Stock Photos、Freepik 等多个知名图库网站大量出现,主题包括“难民营中的真实儿童”“亚洲儿童在垃圾河中游泳”“白人志愿者为非洲村庄黑人儿童提供医疗咨询”等。

阿列尼切夫指出,这些图像过于种族,根本不应被允许发布,且强化了关于非洲、印度地区的最糟糕刻板印象。

IT之家从报道中获悉,生成式 AI 工具长期以来已被发现会复制甚至放大更广泛的社会偏见。阿列尼切夫表示,此类图片在全球卫生传播中的泛滥可能会加剧这一问题,其可能流入网络并被用来训练下一代 AI 模型,进而加剧偏见。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平