华为首次开源大模型，会给行业带来怎样的影响？-量化交易-财云量化

摘要：

6月30日，华为正式开源盘古70亿参数稠密模型、盘古ProMoE720亿参数混合专家模型等。盘古ProMoE72B模型权重已上线，盘古7B相关近期上线，此举将推动大模型技术创新与应用。

华为 开源大模型的重要举措

开源模型的发布情况

6月30日，华为有重大动作，正式宣布开源盘古70亿参数的稠密模型、盘古ProMoE720亿参数的混合专家模型以及基于昇腾的模型推理技术。盘古ProMoE72B模型权重、基础推理代码，已正式上线开源平台。基于昇腾的超大规模MoE模型推理代码，也已上线。盘古7B相关模型权重与推理代码将于近期上线开源平台。

开源背后的战略意义

此次开源是华为践行昇腾生态战略的关键一步。华为一直致力于推动大模型技术创新，通过开源这些模型，能加速人工智能在各个行业的应用。让更多开发者能基于此进行二次开发，促进整个行业的发展，为人工智能的普及贡献力量。

盘古7B稠密模型的特点

独特的双系统框架

盘古Embedded7B模型参数规模为70亿，采用双系统框架，具备“快思考”和“慢思考”能力。简单问题用快速模式响应，复杂问题用深度模式推理，可根据任务复杂度自动切换推理模式，这种设计使其在处理不同类型问题时更加高效。

华为首次开源大模型，会给行业带来怎样的影响？

性能表现出色

在AIME、GPQA等复杂推理基准测试中，盘古7B稠密模型超越了Qwen3-8B、GLM4-9B等同量级模型。这表明其在推理能力上有着显著优势，能为相关应用场景提供更准确可靠的结果，有助于提升应用的质量和效果。

盘古ProMoE72B混合专家模型的优势

架构设计与技术突破

盘古ProMoE72B混合专家模型基于分组混合专家（MoGE）架构，总参数量720亿，激活参数量160亿。通过分组和组内均衡激活，解决了专家负载不均问题，提升了部署效率，这是该模型的一大技术突破。

高效的推理速度与应用场景

其推理速度最高可达单卡1528tokens/s，性能优于同规模稠密模型。能支持大规模并行训练，提供高性价比推理方案，适用于复杂任务处理，在众多领域有着广阔的应用前景，可助力行业解决复杂问题。