首页 > 3D标签蚂蚁开源 SingProbe:以轻量探针实现大模型生成风险实时拦截,计算开销不足 0.5% 相关文章
蚂蚁开源 SingProbe:以轻量探针实现大模型生成风险实时拦截,计算开销不足 0.5%

蚂蚁开源 SingProbe:以轻量探针实现大模型生成风险实时拦截,计算开销不足 0.5%

蚂蚁集团AI安全实验室开源内生式安全护栏技术SingProbe。它不同于外挂式审核,复用基座模型推理隐藏状态,以不足0.5%额外算力实现token级实时风险评估,可同步完成意图分类、安全检测与幻觉识别,在医疗等高风险场景可在输出前毫秒级阻断。目前已适配29个主流大模型。