Meta发布Llama 4 Ultra开源大模型，性能比肩GPT-5

7月1日，Meta正式发布Llama 4 Ultra开源大模型，这是Llama系列的旗舰版本，参数规模达到2万亿，性能比肩GPT-5，是当前最强大的开源大模型。

核心规格

模型规模

• 2万亿参数
• 100万token上下文
• 多模态支持

训练数据

• 30万亿token训练数据
• 多语言覆盖
• 高质量筛选

性能指标

• MMLU：92.5%
• HumanEval：93%
• GSM8K：97%

开源策略

开放内容

• 模型权重完全开放
• 训练代码开源
• 数据集共享

商用许可

• 免费商用
• 允许微调
• 支持分发

生态建设

开发者支持

• 完善文档
• 社区活跃
• 工具链丰富

行业应用

• 企业级部署
• 研究应用
• 教育用途

技术创新

架构优化

• 高效注意力机制
• 专家混合架构
• 长上下文优化

训练突破

• 高效训练方法
• 分布式训练
• 成本优化

来源：Meta官方、GitHub、HuggingFace