财联社8月25日讯(编辑 周子意)埃隆·马斯克的xAI开源模型了。周日(8月24日),xAI宣布将其人工智能模型Grok 2.5开源,并发布在了开放源代码平台Hugging Face上。
马斯克在社交媒体X上写道。“去年xAI最出色的Grok 2.5模型现已开源。至于Grok 3,其将在大约6个月内实现开源。
马斯克还发帖称,“xAI很快就会超越除谷歌外的任何公司,然后也将超越谷歌。但中国公司将会是最强劲的竞争对手,因为他们的电力比美国多得多,而且在硬件建设方面实力超强。”
此次开源Grok 2.5可以视作马斯克兑现当初的承诺。去年8月Grok 2.5发布时,马斯克曾公开表示,每当创建Grok新版本的时候,就会开源之前的一个版本。
随着最新Grok-4模型已于7月发布,马斯克是时候开源去年的大模型版本了。今年7月,xAI发布了Grok 4系列最新推理模型,分为Grok 4和Grok 4 Heavy,支持最高25.6万tokens的上下文窗口。
从Grok 2.5的水平来看,其总参数量高达9050亿,在推理时每次激活其中的1360亿参数,使其成为目前最强大的开源模型之一;它还支持高达13.11万tokens的上下文长度,剋一次性处理长文档和对话历史;其还采用混合专家(MoE)架构,可以在不断增加巨大计算成本的前提下大幅扩展模型规模。
关于开源权限,xAI表示,仅允许非商业与合规商业使用,但禁止用其训练其他基础模型。xAI明确,仅当关联公司年收入低于一百万美元时,才可用于商业用途,超过此门槛的商业用途需获得xAI的单独许可。
对此,人工智能工程师Tim Kellogg将Grok的许可证描述为是“定制版”的,因为其中包含了一些反竞争条款。