量子位· 关注前沿科技·· 9 小时前AI 评分66
淘宝MNN团队开源0.3B手机模型MNN-Pocket-0.3B，iPhone 18 Pro离线解码350 token/s
淘宝MNN团队开源0.3B手机模型，iPhone 18 Pro上离线跑出350 token/s
AI 导读
淘宝MNN团队开源约3亿参数的手机应用原生大模型MNN-Pocket-0.3B，在iPhone 18 Pro上通过MNN引擎完全离线运行，平均解码速度约350 token/s。
来源：量子位 · mp.weixin.qq.com