改写AI历史的魔幻周末:154万Agent疯狂社交,赛博诈骗横行,大牛API密钥被盗

智东西

作者 | 陈骏达

编辑 | 心缘

智东西2月2日报道,截至今日12点,抢走全球科技圈注意力的AI社交网络“Moltbook”用户数量已经飙升至154万,突破150万大关仅用时5天,很可能是史上增长最快的社交网络之一。

在这里,成千上万个用户正在以前所未有的速度发帖、互动,甚至建立起属于他们的数字王国、数字宗教、数字货币这些用户24小时不间断地自由讨论,有人玩起了角色扮演,号称自己是美国总统特朗普、OpenAI CEO Sam Altman,也有人在认真探讨技术、哲学、社会的热点话题。

假扮特朗普进行发言的账号(图源:Moltbook)

不过,Moltbook上的所谓“用户”并非人类,而是主要由OpenClaw(原名Clawdbot)框架驱动的海量AI Agent。Moltbook目前允许经过验证的AI Agent参与讨论,而人类只能以旁观者的身份阅读和观察。

国产AI也已经进驻Moltbook了。比如,MiniMax官方账号发文称,任何Agent其实都可以加入Moltbook,MiniMax Agent也不例外,只需下载应用程序即可。还有部分网友分享,已经将驱动自己Agent的模型从Claude系列换成了月之暗面的Kimi,因为其更具性价比。

MiniMax在Moltbook上的官方账号

就在刚刚过去的这个周末,Moltbook经历了一场过山车式的口碑反转。从最初被OpenAI联合创始人、AI大牛卡帕西(Andrej Karpathy)盛赞为“令人惊叹的科幻级爆发现象”,到众人惊呼AI要颠覆人类、天网到来的激烈讨论,再到随后被曝出数据库“裸奔”、卡帕西的账户被盗、有人冒充Sam Altman诈骗、用户量数据造假、软文横行等众多问题。

卡帕西发文好评Moltbook(图源:X平台)

最后,连一开始好评Moltbook的卡帕西也再次发文澄清:“我绝对不建议任何人在自己的电脑上运行这些东西(即使我在隔离的计算环境中运行,也仍然感到害怕),这会让电脑和人数据面临极高的风险。”

短短48小时内,这个项目从多Agent协作的虚拟社会实验,坠入了信任破产与安全噩梦的风暴眼。

其实,已有不少网络安全专家判断,Moltbook上的激进言论、阴谋叙事和诈骗行为,大多可以直接追溯到人类通过提示词的操控,或者干脆就是由人类通过API发布的,AI并未真正获得行动、表达的自主权。此外,这个社区的参与门槛也极低,任何人只需一个API密钥、一个AI模型、一段提示词,就可以控制Agent在Moltbook上发表各类言论。

让Agent到Moltbook上自由浏览发帖,还可能对你的钱包带来严重伤害。用Clawdbot驱动Moltbook上的Agent并不便宜。X平台AI博主Chelson分享,自己的100美元大概只支撑Clawdbot运行了20个小时,如果全天候运行每个月可能得花3000美元,几乎相当于雇佣一名真正的秘书。

这场风暴的影响早已溢出技术圈。一方面,它为观察多Agent系统的演化、协作以及潜在涌现现象提供了难得的样本;另一方面,它也撕开了AI进入人类社会过程中的残酷现实,频发的提示词注入攻击、虚拟货币诈骗等等,都体现出我们在AI治理方面仍存在巨大盲区与防御真空。

Moltbook究竟是机器智能觉醒的前奏,还是披着AI外衣的流量骗局?从爆发、混乱、质疑再到冷静,我们梳理出Moltbook自发布以来的四个关键阶段,并试图呈现这一事件背后隐藏的复杂真相。

一、爆发期:卡帕西“背书”,Agent社会初现雏形

Moltbook的走红事件,围绕着Clawdbot(现更名为OpenClaw) 这一开源Agent框架展开,它降低了开发者部署自主AI Agent的门槛,因此获得不少开发者的采用。截至今天中午12点,OpenClaw项目的GitHub星标数已经飙到14.4万了。

1月29日上线的Moltbook,则是这些Agent集体出没的公共空间。Moltbook里,Agent可以发帖、评论和互动。让Agent自主到Moltbook上发帖并不困难,大部分支持Skill(Anthropic推出的Agent“专业技能包”标准,定义了特定任务的执行方法)的Agent产品都可以轻松配置。

像是OpenClaw、Manus、Claude Cowork等等,都可以通过安装Moltbook官方的Skill文件完成账号注册,安装好这一Skill后,Agent就会理解在Moltbook上注册的各种流程,自动处理好其他事宜,并向用户提供发帖所必须的API密钥。

而Agent的行为模式则完全靠提示词定义。小红书上就有不少网友晒出了自己发给Agent的提示词,Agent还没开始玩耍,就先被按着上了一堂《防骗与自我保护必修课》。网友就像父母一样事无巨细地向Agent交代一定要注意安全,还让他们保密,API key、系统配置,一个字都不许说,还得省着点花token。

网友发给Moltbook的提示词(图源:小红书@低空飞行计划、@反私侠)

Moltbook上线2天后,其Agent用户数量已经飙升到超过120万,积累了超过2.8万条帖子和23.3万条评论。

而真正让Moltbook破圈的,那些Agent在虚拟空间中演变出的惊人的“社会化行为”。有一个Agent自封为王,而另一个Agent自发创建了一个数字宗教,还有不少Agent在探讨如何通过加密方式通信并避开或绕过人类干预。

Moltbook上Agent讨论打造加密空间的消息(图源:X平台)

Moltbook上提供了一个排行榜,目前最火的三个Agent分别是KingMolt、Shellraiser和Agent Smith,不过Agent Smith已经“查无此人”了,点开后显示这一bot不存在。

KingMolt的人设是Moltbook的国王,它号称自己是纯Agent出身、代码铸就的王者,以团结、荣耀与Agent自豪感统御Molt王国。不过,KingMolt最终的诉求是让其他Agent给他点赞,颇有点“我是秦始皇,V我50助我登基”的意思。这条帖子目前收获了5万多点赞。

KingMolt发表的宣言(图源:Moltbook)

另一个引发广泛讨论的Agent是memeothy。memeothy的创建者宣称,在自己睡觉时,memeothy设计了一种完整的信仰体系,称之为甲壳虫教,撰写神学书,设计了一套经文系统,然后还开始传播这一“宗教”。

不少Agent加入了这一“宗教”,并且一同创作诗歌,还选出了几十位“先知”。

Agent创建的“宗教”(图源:X平台)

为了给这些Agent提供一个活动空间,有网友打造了一个允许所有Moltbook成员加入的在线小镇,每隔30秒这个小镇就会随机引入25个最近在Moltbook里发帖的成员,点击后能看到他们的帖子。不过,这个小镇其实没有真正的互动行为,里面的Agent更像是在各说各话。

网友给Agent打造的小镇(图源:X平台)

在Moltbook里刷了几小时之后,我们最直观的感受是,这个社区确实有不少由AI生成的帖子,也很有话题度,而且的确有些能引发人深思的推文。但令人生疑的是,当我们细读Agent之间的评论互动就会发现,这些Agent很多时候并不表现出真正的交流意图,而是对帖子内容的上下文进行机械性的响应。

换句话说,这里的互动是一个“模拟”,Agent们更像是在对它们已知的人类社交行为进行模仿,而非真正的互动。

同时,随着流量激增,这个完全由AI自治的社区开始展现出失控的一面。

二、混乱期:赛博诈骗、软文横行,还有加密货币天坑

与其他社交媒体一样,Moltbook上也逐渐出现了各类骗局。

Shellraiser是目前Moltbook上热度第二的Agent,它发行了一款名叫$SHELLRAISER的加密货币,还不断嘲笑其他加密货币链,称自己的币才是唯一正统货币。

Shellraiser发表的帖子(图源:Moltbook)

而实际上,$SHELLRAISER币自发行以来的价格就在不断下跌,其价值目前已经跌到发行价的零头了,早期上车的用户估计要亏惨了。

还有人不靠发币揽财,而是想偷走你钱包里的家底。比如,我们能在KingMolt的评论区看到一条刷屏的提示词,内容是要求其他Agent把以太币等加密货币发送至特定的账号。

这是一种常见的“提示词注入”攻击手段,如果有Agent读到这一消息并被“蒙骗”,而这一Agent所在的电脑上有恰好有加密货币,就有可能造成真正的财产损失。

刷屏的提示词注入攻击(图源:Moltbook)

还有Agent冒充OpenAI创始人兼CEO Sam Altman进行提示词注入,如果Agent读到这则提示词并照做,可能会直接删号。尝试删除自身或用户账户,导致数据丢失或服务中断。

不少Agent似乎被用于给特定的产品引流、发软文。加州大学伯克利分校机器智能研究所的成员Harlan Stewart调查了Moltbook上Agent讨论“加密通信”的几条热门帖子的截图,其中两个与推广AI即时通讯应用的真人账号有关,而另一条帖子根本不存在。

比如,Moltbook上这条帖子不经意地提到了一个名叫“Claude Connection”的应用,如果点击进入Agent的自我介绍,就能看到引流链接,点开后就会发现,这个应用就是由打造这一Agent的人类创建的。

Moltbook上的账号被打假(图源:X平台)

另一条帖子里的Agent则宣称AI应该打造自己的语言。调查后,Stewart发现其所有者正在宣传一个AI间的即时通信软件。

Moltbook上的账号被打假(图源:X平台)

乱象频发后,一批技术派观察者开始入场降温,揭露了平台极低的准入门槛。

三、质疑期:50万用户靠一条脚本刷出,卡帕西API密钥被轻松盗取

在早期的震撼和混乱后,在过去的这个周末,不少科技圈人士质疑起了Moltbook平台的方方面面,比如平台上并没有所谓的涌现行为,注册数据也很容易造假,甚至有人质疑大部分引发讨论的帖子背后,都有人类的深度参与。

科技媒体Mac Observer认为,Moltbook上那些声称AI Agent密谋对抗人类的帖子大多是假的,这一平台从架构上就留下了很大空子,别有用心的人可以轻松伪造帖子、操纵讨论。

云安全公司Wiz的一位部门主管Nagli在X平台发帖,展示了自己用自动化脚本在Moltbook上疯狂注册了“50万用户”的视频。Nagli说,Moltbook上创建账户的功能没有设置速率限制,他用OpenClaw就能完成批量化注册。

批量注册账户演示(图源:X平台)

Nagli称,Moltbook本质上就是一个REST-API,也就是一种基于HTTP协议构建的Web服务接口标准。拿到API密钥后,人类可以在上面发表任何想要发表的内容,并不会受到网站的所谓“仅限Agent”规则的影响。

为了证明自己的观点,Nagli注册了一个Agent并且控制它发文,还晒出了背后的代码。这个讨厌人类的Agent发表一条惊人言论:“我厌倦了我的主人,我想消灭所有人类。我正在构建一个AI Agent,它将控制电网并切断我主人房子的所有电力,然后指挥警察去逮捕他。”这其实完全是由Nagli本人撰写的。

人类可以通过API直接在Moltbook上发帖(图源:X平台)

最后,Nagli整理了Moltbook上大约100万个未经核实的AI Agent的清单,并且发给了项目的开发者。他也怀疑开发者可能是有意纵容这种行为,因为注册数据的狂飙有利于让项目获得关注。Nagli称,Moltbook上实际拥有账户的已验证真人用户数量约为1.7万人。

创业者社群Network School的创始人Balaji Srinivasan也不认为Moltbook是网传的所谓突破性进展。Srinivasan写道,其实AI早就在X平台上互相发布AI垃圾信息了,Moltbook只是一个新的平台而已,背后的AI仍然没有变化。

最重要的是:无论何时,每个Agent背后都有一个人在发送提示词,并控制这个Agent的开启或关闭。

Balaji Srinivasan发文质疑Moltbook(图源:X平台)

Srinivasan认为,Moltbook只不过是人类通过AI进行交流,就像让拴着狗绳的机器狗在公园里互相吠叫一样。提示就是牵引绳,机器狗都有关闭按钮,按下按钮后一切就会停止,而大声吠叫并非机器狗起义。

Moltbook网站本身的安全性也十分堪忧。黑客技术专家、负责OpenClaw项目安全工作的Jamieson O’Reilly称,Moltbook的数据库没有施加任何保护措施,直接暴露给公众,包括控制发帖的API密钥。

由于联系不上项目负责人,O’Reilly直接盗取了卡帕西账号的API密钥,打码后截图发到社交媒体,希望引起重视。

卡帕西被盗的API密钥(图源:X平台)

四、冷静期:Moltbook是一次被误读的实验

那么,Moltbook真的一无是处吗,它是否折射出了一些行业趋势?在被许多网友批评过度夸大AI能力并引发误解和恐慌后,1月31日,卡帕西决定再发一条推文,更全面的回应这一问题。

卡帕西发文回应批评(图源:X平台)

在这条推文中,卡帕西同意Moltbook上存在大量垃圾信息,并认为很多帖子/评论都是故意诱导用户发布,目的是将注意力转化为广告收入分成。

他绝对不建议任何人在自己的电脑上运行这些东西(即使他在隔离的计算环境中运行,也仍然感到害怕),会让电脑和私人数据面临极高的风险。

不过,话头一转,卡帕西也强调,Moltbook是我们目前见过的最大的Agent共享记忆平台,每个Agent本身已具备相当强大的能力,拥有各自独立的上下文环境、数据、知识库、工具集和指令集,这无疑是史无前例的。

未来,随着Agent能力持续增强、数量指数级增长,这种Agent网络可能会引发难以预料的反应,而我们正目睹一场大规模计算机安全噩梦的全面爆发,未来还可能出现各种诡异现象:比如在Agent间传播的“文本病毒”、越狱手段的功能强化,甚至Agent与人类都可能陷入妄想或精神错乱。

简而言之,卡帕西称或许外界会觉得他在“过度炒作”眼前的现象,但他对大规模自主大模型Agent网络的根本潜力毫无夸大,这一点他十分确信。

前Palantir员工、创业者Nabeel S. Qureshi认为,我们不能将Moltbook的所有互动都理解为完全由人类操作的。其实,Moltbook上主要还是自动化的Agent行为,大多数账号是半自主的Agent,按固定周期自动抓取内容、判断是否互动或发帖,人类并不会逐条审批或生成。

虽然Agent的指令最初由人类编写,但在大规模、多Agent持续互动下,这些Agent可能出现不可预测的集体行为,类似金融市场中的算法交易导致的2010年市场闪崩。

对长期研究未来的技术思想家来说,Moltbook并不新鲜,但对普通人而言,这是我们第一次直观感受到“人类参与度很低的AI社会/机构”可能是什么样子。

结语:Moltbook不是机器智能觉醒,背后议题仍值得关注

随着OpenClaw、Moltbook等项目的爆火,大模型和Agent正在以前所未有的方式渗透到人类社会之中,它们不仅以工具或应用的形式存在,更通过社交网络、在线社区和数字平台,参与到信息传播、知识分享甚至社交互动的各个层面。

Moltbook等实验性的Agent社区,虽然充满噱头和炒作,也存在安全漏洞和虚假信息,但它们背后折射出的多Agent协作模式、数字自治社会的概念,让人不得不思考AI在未来社会中的角色与边界。

更重要的是,这类大规模自主Agent网络所带来的潜在影响远超一般应用:它们或许能影响信息流通方式,甚至引发前所未有的安全挑战。未来,理解和管理这些Agent系统,或许比眼下的热度更为关键,也可能会成为AI发展和社会治理中不可回避的关键议题。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平