淘宝MNN团队开源0.3B手机端侧模型

淘宝MNN团队开源约3亿参数的端侧语言模型MNN-Pocket-0.3B，面向手机应用在有限算力、内存和能耗下的任务需求。团队称，该模型在iPhone 18 Pro上通过MNN引擎完全离线运行，平均解码速度约350 token/s。 发布包含从预训练、后训练到端侧部署的多个版本：Base与SFT检查点分别用于基础训练和后训练实验，最终指令模型可用于业务适配，MNN版本提供对应推理生态的部署资产，Dec版本面向分类与候选选择任务。上述速度与效果为团队说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。