首页 > 3D标签无需显卡也能跑! 40 核老旧服务器硬刚 2.8 万亿参数大模型,傲腾内存成破局利器 相关文章
无需显卡也能跑! 40 核老旧服务器硬刚 2.8 万亿参数大模型,傲腾内存成破局利器

无需显卡也能跑! 40 核老旧服务器硬刚 2.8 万亿参数大模型,傲腾内存成破局利器

人工智能参数规模膨胀,数万亿参数大模型常依赖昂贵高端显卡集群。近日有玩家在社区分享极限测试:仅用一台未插显卡、搭载40核处理器的老旧服务器,成功运行月之暗面2.8万亿参数的Kimi K3。该模型为体量庞大的混合专家模型,此次挑战被视为硬件极限的极客尝试。