蚂蚁开源混合线性架构的万亿参数思考模型Ring-2.5-1T

2月13日，蚂蚁发布并开源首个混合线性架构的万亿参数思考模型Ring-2.5-1T。据介绍，相比此前发布的Ring-1T，Ring-2.5-1T在生成效率、思考深度、长程执行上均有大幅提升，在超过32K生成长度下，访存规模降低10倍以上，生成吞吐提升3倍以上。