10月20日,DeepSeek宣布在开源多款大模型、TileLang编译工具及推理算子库后,进一步全面开源内部推理框架DeepInfer。文章指出,模型能力上限由模型本身决定,但能否以合理成本支撑超大规模模型服务,关键在推理框架:训练让模型“学有所成”,推理让模型“为人所用”,以应对海量应用需求。