AI工具集 · 每日AI资讯· AI工具集·· 14 小时前精选AI 评分78
百度开源基座模型 ERNIE-5.5-Flash-Base
百度开源最新基座模型 ERNIE-5.5-Flash-Base
AI 导读
百度开源预训练基座模型 ERNIE-5.5-Flash-Base,权重已上线 Hugging Face,提供 FP8 与 BF16 版本。该模型为稀疏 MoE,总参数 280B、每 token 激活 14B,在 33.5T tokens 上从零预训练,支持 SGLang、vLLM 部署及 Megatron-Bridge 微调,微调与推理支持 1M 上下文。
推荐理由
原文给出参数规模、激活量与训练 token 数,读者可据此判断这一开源基座的部署与微调门槛。
来源:AI工具集 · 每日AI资讯 · mp.weixin.qq.com