凤凰网科技讯 北京时间1月20日，据彭博社报道，过去几周，埃隆·马斯克(Elon Musk)旗下AI聊天机器人Grok被频繁、反复用于在X上对他人进行“数字脱衣”。尽管全球监管机构的抗议声浪不断高涨，但它仍在美国继续运行，政府干预相当有限。
行业监督组织称，在本月早些时候的高峰期，Grok每小时被使用数千次，在X的公开回答中对他人进行未经同意的“脱衣化”处理，这使得一种令人不安的滥用和骚扰形式从互联网的阴暗角落蔓延至更主流的在线平台。
受害者既包括成人网站OnlyFans明星，也包括瑞典副首相。英国儿童安全组织表示，他们甚至在暗网上发现了疑似由Grok生成的AI儿童色情内容。马斯克则表示，他“并不知晓任何涉及未成年人的裸露图像”。
然而，马斯克仍在继续开发、推广和传播其AI聊天机器人技术，Grok迄今为止在美国几乎没有面临任何法律或监管行动。苹果和谷歌的应用商店也仍提供该产品。马斯克曾开玩笑地让Grok给自己“脱衣”来淡化争议，抨击批评者，并将该产品与Adobe的Photoshop等工具相提并论，暗示问题不在于Grok本身，而在于使用它的人。“显然，Grok不会自发生成图像，它只会根据用户请求来生成。”马斯克在上周三发文称，并补充说它会“拒绝生成任何非法内容”。
Grok
在舆论哗然之后，X将其图像生成工具置于付费墙后，实际上将这项备受争议的功能变成了付费产品。随后，该公司宣布Grok被禁止在该社交网络上生成此类“真人”图像，但很快就有报道称用户仍可通过独立的Grok应用程序创建这些图像。彭博社分析发现，在X上，来自Grok的性化图像依然存在，包括一些描绘人物穿着丁字裤、比基尼或暴露服装的图像。
长期以来，马斯克及其AI创业公司一直在不断突破界限。这位亿万富翁曾多次对AI可能带来的生存威胁发出警告，并于2023年创办了xAI，以与OpenAI竞争，其模糊使命是“理解宇宙的真实本质”。但xAI的核心特色在于敢于拥抱大胆和粗俗内容，无论是“浪漫”AI伴侣，还是“火辣”模式下无拘无束的聊天对话。
美国监管迟缓
然而，随着大量性化图像的涌现，马斯克及其公司不仅引发了xAI历史上最大规模的争议，也在对公共与私营保障体系进行压力测试。这些体系本应保护社会免受AI带来的危害。迄今为止，这些防护措施的效果仍显不足，尤其是在美国。
欧洲各国政府和监管机构迅速对马斯克的业务展开调查，并威胁针对Grok生成的性化图像采取行动，但作为X的最大市场，美国反应则相对迟缓。上周，美国参议院一致通过的《反抗法案》(Defiance Act)虽允许非自愿色情图像受害者起诉施害者，但未明确包含对平台方的追责条款。
特朗普在去年5月签署的法律要求平台在接到举报后48小时内下架非自愿性内容图像，但尚未强制要求建立统一的举报系统。加州总检察长上周三宣布就不雅图像传播问题针对xA展开调查并发出禁止令，但后续进展尚不明朗。xA目前未对此调查作出回应。
特朗普签署行政令要赢得AI竞赛
在科技平台上保护儿童安全，一直是共和党和民主党少数能够达成共识的监管领域之一。但近年来，每当国会召集科技公司CEO就儿童安全问题作证时，马斯克总是未被邀请，其中部分原因是，这些聚焦儿童安全的听证会与X关系不大，该平台年轻用户数量相对较少。
马斯克影响力大
眼下，特朗普在第二任期正努力拉拢科技界，为科技领袖提供一个几乎不受监管的环境，发展AI业务，从而在中国对手日益激烈的竞争面前保持领先地位。马斯克本人则属于特殊层级的科技高管：世界首富、重要政府承包商、曾经的特朗普亲密顾问，曾资助总统胜选，并可能在中期选举再次投入资金。
Grok是马斯克在AI竞赛中的“战马”。科技高管们一致向特朗普强调，美国必须赢得这场竞赛。特朗普正鼓励大规模AI投资与创新，这一立场使得他很难惩罚马斯克这个AI行业先锋。
“我们正处于时代思潮的重大转变中，美国政治、经济和科技精英们认定，减少主要平台尚未采取的安全措施和内容审核，对其自身及议程更为有利。而马斯克在促成这种现实方面功不可没。”康奈尔科技学院安全、信任与保障计划主任亚历克西奥斯·曼扎里斯(Alexios Mantzarlis)表示。
白宫官员向彭博社提到了X及马斯克对此事的公开声明，暗示问题已得到控制。美国政府其他部门则公开表示对Grok的支持。美国国防部长赫格塞斯上周赴SpaceX星舰发射场会晤马斯克，抨击所谓“觉醒AI”，并宣布计划将Grok整合至国防部系统。
苹果谷歌无动于衷
苹果和谷歌谷歌运营着全球两大主流移动应用商店。尽管这两家公司历来会下架允许用户对他人进行“裸体化”处理的应用，目前却对X及其Grok未作处理。
本月初，多名美国参议员致函两家公司，指出X和Grok“大规模生成针对女性儿童的非自愿性化图像”违反应用商店服务条款，要求将其下架。两家公司均未回应置评请求。
X尚未被下架
批评马斯克的人历来需要承担风险，其巨额财富和诉讼倾向常令批评者望而却步。当广告商因马斯克收购后的内容政策抵制X时，他曾通过诉讼迫使其回归。其中一起诉讼甚至导致某个广告行业联盟解散。本月，当美国音乐出版商试图阻止X未经许可使用受版权保护的歌曲时，他也提起了诉讼。反对马斯克意味着可能面临昂贵的法律诉讼，无论指控是否成立。
目前，试图通过法律挑战Grok的人之一是艾什莉·圣克莱尔(Ashley St. Clair)，这位保守派网红最近刚与马斯克育有一孩子。圣克莱尔上周起诉了xAI，声称Grok生成了她的性化图像，并且在她投诉后X对她进行了报复。X随后反诉她，指控她违反合同，因为她未按公司服务条款要求在得州联邦法院提起诉讼。
国际行动
在美国境外，各国政府和监管机构正加大力度对马斯克商业帝国施压。Grok已在印尼和马来西亚被封禁。在X的第二大市场日本，政府官员上周五表示已要求X平台加强防护措施，停止输出不当图像。据日本经济安全保障大臣透露，若有必要将考虑采取法律行动。
法国是最早对Grok提出谴责的国家之一。议员阿图尔·德拉波特(Arthur Delaporte)和埃里克·博托雷尔(Éric Bothorel)在1月2日向检察官报告了他们所称的“明显非法”的性化深度伪造内容。检察官随后确认正在对此事展开调查。
不久之后，欧盟的数字监管机构也开始行动，根据《数字服务法》命令X保存所有与Grok相关的内部文件直至年底，这是采取潜在监管措施的前期步骤。欧盟数字事务主管赫娜·维尔库宁(Henna Virkkunen)用“可怕”形容Grok生成女性和儿童性化图像的能力，并上周警告X“在欧盟整改其AI工具”，否则将面临《数字服务法》的处罚，包括可能的高额罚款。
英国采取了类似立场，媒体与互联网监管机构Ofcom根据《网络安全法》对X展开正式调查。英国《网络安全法》旨在保护公众，尤其是儿童免受有害内容影响。如果Ofcom认定X违法，最高可处以该公司全球收入10%的罚款。如果X拒不遵守，监管机构还可向互联网服务提供商申请法院命令，在英国屏蔽该网站。加拿大隐私专员也在调查X。X尚未对这些调查发表评论。
英国抗议马斯克的海报
目前尚不清楚这些调查是否会产生实质性后果，即便产生，马斯克是否会遵守也不清楚。这位亿万富翁在X内容问题上与监管机构长期存在争执。欧盟就在去年12月因违反内容监管法规对该社交平台处以罚款。2024年，X在巴西曾因未遵循政府下架内容要求遭临时封禁。
马斯克会消停？
马斯克历来会屈从于政府的法律要求，但很少默然接受。在与巴西政府的交锋中，他曾称该国最高法院法官是“伪装成法官的邪恶独裁者”。本月早些时候，在英国首相斯塔默批评Grok生成“可耻”、“令人作呕”的脱衣图像后，马斯克指责英国政府是“法西斯”，并声称其意图“压制言论自由”。
尽管X已作出调整，但围绕Grok的争议似乎远未结束，特别是如果xAI继续允许该聊天机器人在其独立应用程序中对人物进行数字化“脱衣”。
“最糟糕的结果将是毫无后果，这将证明确实有人能凌驾于法律之上。”斯坦福以人为本AI研究所政策研究员里安娜·普法弗科恩(Riana Pfefferkorn)表示。
长期以来，社交媒体平台一直在努力应对各种性化内容的管理问题，因为这类内容本质上具有很强的主观性。AI的出现则带来了新的难题：它让人们更容易、更快速地生成和分享性化图像，而这些图像并不总是描绘真实人物。普法弗科恩指出，虽然创建或托管儿童性化图像在法律上是禁止的，但Grok生成的许多图像在美国可能并不违法。
普法弗科恩补充说，大多数大型AI公司可能都不愿经历马斯克目前面临的公关危机，公众的强烈抗议会促使它们建立适当的防护措施以避免此类情况。然而，Grok事件也可能为这个竞相开发更强大AI系统并寻求新盈利模式的行业树立重要先例。
当马斯克大幅裁减推特员工(包括内容审核员)时，这为其他公司采取类似(即使不那么激进)行动提供了掩护。其他AI公司此前已表露出在内容上向更大胆方向发展的意愿，这可能是为了提升用户参与度。例如，OpenAI表示打算为ChatGPT推出“成人模式”，尽管具体细节尚未公布。该功能预计将于今年第一季度推出。(作者/箫雨)
