首页 > 3D标签Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码 相关文章
Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码

Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码

Edge0发布并开源Edge0-145B、Edge0-120B模型及统一推理框架与部署工具。其中Edge0-145B号称全球首个可在个人电脑本地流畅运行的1450亿参数开源模型,将比肩云端前沿大模型的编程、推理与智能体能力带到笔记本,实现端侧部署里程碑突破。文章还探讨其如何突破硬件极限,在笔记本上运行145B模型。