2025年2月12日,国产GPU制造商景嘉微宣布,其JM系列和景宏系列GPU已成功适配DeepSeek R1系列模型。这一适配不仅加强了DeepSeek在云端和边缘计算等多种应用场景的使用,也为AI技术的规模化落地应用打下了坚实的基础。
景嘉微的JM系列GPU成功适配了DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B两个模型,进一步提升了其在AI推理领域的表现。此外,景宏系列GPU也已全面兼容DeepSeek R1系列,从1.5B到70B参数规模的LLaMA及千问模型架构均可高效运行。
这一适配的关键优势之一是基于vLLM推理框架的部署方案,景嘉微在高效推理性能与经济性之间取得了完美平衡。开发者无需复杂的配置步骤,就能迅速启动并应用AI技术。这一便捷的开发支持为国产GPU在AI领域的规模化落地应用提供了强大动力。
景嘉微官方表示,此次国产GPU与国产大模型的结合是一场“梦幻联动”,不仅体现了国产硬件与软件的紧密协作,也展示了国产技术在AI领域的实力。这一成果标志着中国在AI推理技术上的不断突破,展现了国产技术的日益成熟。
值得一提的是,近期摩尔线程也实现了对DeepSeek蒸馏模型推理服务的高效部署。通过摩尔线程的全功能GPU,开发者可以进行AI应用创新,并基于摩尔线程的MTT S80和MTT S4000显卡完成DeepSeek-R1蒸馏模型的推理部署。这一突破同样为国内AI开发者提供了更多的选择与可能。
随着景嘉微与摩尔线程等国产GPU厂商的持续发力,DeepSeek系列模型的适配进一步证明了国产硬件在AI领域的强大潜力。从GPU到大模型的协同创新,不仅推动了国产AI技术的发展,也为中国AI产业的未来奠定了坚实的基础。国产GPU与大模型的深度融合将为开发者提供更多的支持,助力AI技术的快速发展和广泛应用。
相关文章
DeepSeek新模型挑战编程极限,2025年编程只剩Tab键?
DeepSeek-R1震撼登场,AI推理能力和性价比全面超越OpenAI!
DeepSeek登顶App Store中国区免费榜,引爆AI新格局:国运级突破,引全球热议
DeepSeek坐拥五万枚英伟达AI芯片,开源模式挑战中美AI竞争格局
DeepSeek创始人梁文锋首度发声:中国AI要做领先者,而非永远跟随者