艾伦人工智能研究所（Ai2）周四宣布推出大语言模型开发框架Olmo-core 3，改进混合专家模型（MoE）的训练方式。该框架支持将训练规模扩展至万亿参数级别，同时保持计算效率，以控制训练成本。
Ai2是一家位于西雅图的人工智能研究机构。此次发布的是供开发者训练模型使用的框架，而非面向用户的聊天产品。更新聚焦于大规模混合专家模型开发，处理模型规模扩大过程中训练效率与成本的问题。
Olmo-core 3此次强调的能力，是在扩大参数规模的同时保留计算效率，让开发团队能够开展万亿参数级混合专家模型的训练。其改进直接面向模型开发环节，为构建这一规模的大语言模型提供训练工具。据SiliconANGLE报道。