因新增图像编辑功能被用户用于生成色情内容，美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”近日再度引发争议。
“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体X平台，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名女性和未成年人。
这一乱象随即引起公愤。欧盟委员会负责数字经济事务的发言人托马斯·雷尼耶1月5日回应说，正“严肃调查”针对“格罗克”的相关投诉。“‘格罗克’推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。这根本不是‘热辣内容’，而是违法行为，令人震惊。这种事在欧洲没有立足之地。”
X平台4日就相关争议回应称，将对平台上的非法内容采取行动，包括删除相关内容、永久封禁账号，并在必要时与当地政府和执法部门合作。马斯克3日发帖表示，任何使用“格罗克”制作非法内容的人，都将面临与上传非法内容相同的后果。（新华社）
