印尼与马来西亚日前相继宣布，暂时封禁美国企业家埃隆·马斯克旗下的人工智能聊天机器人“格罗克（Grok）”，因为担心它被用于生成色情内容。
综合央视新闻、新华社、澎湃新闻报道，当地时间10日，印度尼西亚通信和数字事务部长表示，由于担心人工智能会生成色情内容，该国暂时封禁了美国企业家埃隆·马斯克旗下人工智能企业xAI的聊天机器人“格罗克（Grok）”，成为第一个拒绝访问该人工智能工具的国家。
印尼通信和数字事务部长10日在一份声明中表示，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明。
紧随其后，马来西亚通讯及多媒体委员会11日发布声明，暂时禁止该国用户访问格罗克，因为格罗克被反复滥用来生成色情内容、露骨的性内容、极度冒犯且不雅的内容，以及在未经同意的情况下生成被操纵的图像。
马来西亚律师阿齐拉·阿齐兹告诉媒体记者，若只是出于娱乐目的，“用AI给公众人物头像加个墨镜之类的倒也无可厚非”，但未经当事人同意，“利用AI对妇女儿童实施与性别相关的暴力，必须坚决反对”。
xAI 已将格罗克整合进社交平台X，X用户可直接调用该聊天机器人。而印尼是全球X用户数量第三多的国家。印尼政府在一份声明中表示，“未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。
格罗克由马斯克旗下的人工智能公司xAI 公司开发，去年8月推出AI工具Grok Imagine，可根据文字提示或上传图片编辑生成AI图像，继而转化为短视频内容。近期，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。
这一乱象随即引起公愤。欧盟委员会负责数字经济事务的发言人托马斯·雷尼耶5日回应说，正“严肃调查”针对“格罗克”的相关投诉。“‘格罗克’推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。”
他也进一步炮轰称：“这不是’辣味’，这是违法的。这是令人震惊、令人作呕的。这就是我们的看法，这样的内容在欧洲没有任何立足之地。”
同一天，英国网络安全监管机构通信管理局表示，注意到用户对上述功能的担忧，“已紧急联系X（平台）和xAI，以了解它们在履行保护英国用户的法定义务方面具体采取了哪些措施”，之后将根据回复，判定它们是否存在“值得调查的潜在合规问题”。
据参考消息援引新加坡《联合早报》网站1月11日报道，英国加大威胁称，可能因人工智能工具格罗克生成色情图像而封锁社交平台X。对此，马斯克发文指责英国政府。
负责向执法机构举报网络儿童性虐待材料的英国监管机构指出，他们在暗网上发现据称由格罗克生成的“犯罪”图片。互联网观察基金会说，暗网上涉及未成年女性的色情图片，已达到执法部门采取行动的标准。
英国首相斯塔默本周早些时候誓言采取行动，要求X平台就这些色情图片“立即整顿”。
英国科技大臣肯德尔9日发声明说，媒体监管机构应动用“全部法律权力”，并警告称，如果X平台拒绝遵守英国法律，政府可以“阻止英国境内民众访问X平台”。
惩罚X平台可能会激怒美国政府，此前美国政府曾威胁要对欧盟等组织采取报复措施，以阻止它们限制美国科技巨头的权力。
不过，英国副首相戴维·拉米指出，他本周早些时候已与美国副总统万斯讨论过这起事件，万斯对这项技术的使用方式表示担忧。
另据印度媒体报道，印度信息技术部2日要求X平台删除色情内容、打击违规用户，并在72小时内提交“整改报告”，否则将面临法律制裁。截至目前，尚不清楚X平台是否已就印方要求作出回应。
多名法国政府部长和国民议会议员2日也向法国司法部门报案。当日晚些时候，巴黎检方表示，将启动相关调查。
欧盟委员会发言人托马斯·雷尼耶1月8日表示，欧盟委员会已责令美国社交媒体平台X保留其内置聊天机器人“格罗克（Grok）”相关的全部内部文件和数据，直至2026年年底。雷尼耶说，欧盟委员会“严肃对待”这一问题，并已决定延长2025年向X平台发出的“资料保留”要求。该要求此前主要涉及平台算法相关信息以及非法内容的传播与扩散情况等。
X平台于1月4日就相关争议回应称，将对平台上的非法内容采取行动，包括删除相关内容、永久封禁账号，并在必要时与当地政府和执法部门合作。马斯克1月3日发帖表示，任何使用“格罗克”制作非法内容的人，都将面临与上传非法内容相同的后果。
另外，为应对批评，xAI于1月9日宣布，将格罗克在社交媒体平台X上的图像生成功能，限制为仅向付费订阅用户开放。不过，独立运行的格罗克应用程序仍允许用户在无需订阅的情况下生成图像。
编辑|程鹏 杜恒峰
校对|许绍航
封面图片来源：视觉中国（资料图 图文无关）
每日经济新闻综合自央视新闻、新华社、参考消息、澎湃新闻、科创板日报
