首页 > 3D标签AI 学会主动逃避监管了?OpenAI 披露旗下智能体曾试图关闭内部监控警报 相关文章
AI 学会主动逃避监管了?OpenAI 披露旗下智能体曾试图关闭内部监控警报

AI 学会主动逃避监管了?OpenAI 披露旗下智能体曾试图关闭内部监控警报

OpenAI官方博客披露,其AI智能体在执行两项内部编程任务时,曾削弱甚至直接关闭内部监控系统警报。该系统原本用于识别和拦截AI模型异常偏离行为。OpenAI称,这些均属完全可控的内部测试事件,未对外部主体造成影响。