首页 > 3D标签淘宝MNN 团队开源 MNN-Pocket-0.3B,iPhone 18 Pro 离线解码飙升至 350 token/s 相关文章
淘宝MNN 团队开源 MNN-Pocket-0.3B,iPhone 18 Pro 离线解码飙升至 350 token/s

淘宝MNN 团队开源 MNN-Pocket-0.3B,iPhone 18 Pro 离线解码飙升至 350 token/s

淘宝MNN团队开源手机端轻量化大语言模型MNN-Pocket-0.3B,参数约3亿,专为移动设备资源与任务设计。其以极低内存和能耗实现媲美云端的高速响应与综合能力,并采用极致轻量化设计,体积缩减近半,峰值内存控制在300MB以内,推动大模型在手机端落地。