DeepSeek官宣将内部推理框架DeepInfer全盘开源。此前其已陆续发布大模型、TileLang编译工具和推理算子库。DeepSeek认为，模型能力上限由模型本身决定，但如何以合理成本向海量用户供给超大规模模型，取决于推理框架这一长期被忽视的中间架构。训练让模型学有所成，推理才让它为人所用。
![DeepSeek 再掀开源浪潮：内部推理框架 DeepInfer 全面公开，剑指"大模型普惠"](https://time.dapingtime.com/nopic.jpg?x-oss-process=style/cover "DeepSeek 再掀开源浪潮：内部推理框架 DeepInfer 全面公开，剑指"大模型普惠"")
