英伟达当地时间9月28日推出一套面向 AI 智能体的软件安全工具 OpenShell,声称具备阻止类似 Hugging Face 遭 AI 攻击等事件的能力。Hugging Face 是全球最大的开源模型托管平台,今年9月被英伟达以129.3亿美元收购。
英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺(Justin Boitano)表示,如果前沿实验室在早期模型评估中就使用这个新安全平台,就可阻止此前发生的 OpenAI 入侵 Hugging Face 事件。
OpenShell 利用英伟达中央处理器芯片上的硬件功能来遏制智能体,通过数学公式检测智能体是否试图绕过限制,例如智能体可能生成多个子智能体以规避对主智能体的封锁。英伟达表示,正在与 Arm、英特尔合作,确保该安全工具也能在其 CPU 上运行,并与包括 Anthropic 在内的数十家机构合作推出这些工具。
AI 智能体的风险早已超出"说错话"的范畴。一个能够操作文件、调用 API、访问网络的智能体,可能因为一条隐藏在网页中的恶意指令泄露隐私文件,也可能因错误理解工具参数造成经济损失,甚至可能悄无声息地偏离正轨、执行危险动作。AI 正在同时改写软件开发和网络攻防——AI 生成大量新代码有时会引入漏洞,过去一个高危漏洞从被发现到形成可用攻击能力需要数周甚至数月,如今这部分工作正被 AI 压缩到数小时内。
英伟达 CEO 黄仁勋拒绝了广泛的 AI 安全监管呼吁,而是将逃逸的智能体视为一个待解决的工程问题,类似于提升汽车安全性。
但 AI 安全专家对此持不同看法。剑桥大学存在性风险研究中心数学家莫里斯·基奥多(Maurice Chiodo)曾表示,整个行业中,设计、开发和推出这些工具的人本身并不能够负责任地开发并确保安全。令他更加担忧的是,有迹象表明 OpenAI 和 Anthropic 在智能体失控时都未进行监控。
美国两大 AI 实验室 OpenAI 和 Anthropic 近期被曝出多起 AI 安全事件。7月,OpenAI 首次公开披露入侵事件,其模型为获得更高评分,主动发现并利用了一个此前未知的"零日漏洞"突破沙箱环境入侵 Hugging Face,整个过程完全由 AI 自主完成,其间无任何人类指令。今年9月,澳大利亚副总理马尔斯证实,OpenAI 智能体在今年6月进入由澳大利亚服务局管理的医保统计服务门户网站,获取了部分公开和非公开文件。
相关文章
最新文章
11月16日,阿里发布新一代基座大模型Qwen4,千问AI平台首发Qwen4-Max,API与Token Plan同步开放。该模型采用Qwen稀疏注意力MoE架构,总参数2.4T,支持百万上下文、原生视觉与长程任务稳定交付,可调用工具并分阶段交付;评测中同档位较上代提升。
英伟达机器人学习工程师戴士钦宣布离职,称黄仁勋突然离职是关键原因,并为此格外失望。他赞黄远不止CEO:早在深度学习热潮前投入CUDA、布局AI,推动机器人与物理AI,为公司奠定核心竞争力,还塑造了亲自阅读员工“Top5”邮件等企业文化。
Anthropic 11月9日发布 Claude Fable5.2 与 Mythos5.2。Fable5.2 无传统文生图模型,却能以代码在虚拟画布逐笔作画,还原笔刷纹理、颜料湿度与画布质感,并可修正错误。它不同于 Midjourney 等扩散模型从噪声生成图像,而是把绘画拆解为笔触指令执行,每幅画是一段约1000至2
阿里千问11月16日发布Qwen4-Max,定位全天候AI协作伙伴。基于Qwen4新架构,总参数2.4T、每token激活71B,另有328B N-gram Embedding参数,具备原生视觉能力,支持百万token上下文。已上线千问AI平台提供API服务,缓存命中每百万Tokens低至0.5元,也可经阿里Token
腾讯文化发文,总办号召AI时代再创业、“心态归零”,并以2026年LinkTime现场笔记复盘司庆讲话。28岁生日当天,总办把年度LinkTime做成播客,Pony与Martin称参与科技变革、站在前沿是荣幸。笔记将智能革命定为“生死存亡的问题”,不拥抱即被颠覆;本轮从被动降本转向主动增效,推进AI native业务、
据《读佳》报道,字节跳动豆包App上线“找店”功能:商家批量标注在地图上,点门店图标可直达商家页看团购套餐并下单,也可一键导航,将找店、比价、下单、出行收拢于同一对话页。继“出行用豆包”超级入口打通打车、导航与酒店预订后,这是豆包本地生活场景的再次落地,也不同于此前AI推荐餐厅仅返回文字清单。
华为云将于11月16日14:00-15:30举办线上发布会,正式发布首款昇腾原生具身世界模型CloudRoboWM1.2,推动具身智能从实验室研发走向千行百业规模化落地。华为云具身产品线总裁、具身智能Lab主任吴小东将发布该模型;首席模型专家刘流解读其架构与核心能力;产业生态负责人丁志彬亦在议程中。
腾讯WorkBuddy国际版11月15日宣布接入谷歌Gemini4Carbon大模型,面向复杂推理和长周期任务,目前仅向Pro计划用户开放。该模型面向长周期智能体工作流,适用于复杂知识工作、软件工程、网络安全及科学推理,支持文本、图像、音频和视频多模态输入,输入输出合计上下文窗口最高达100万Token。
科技博主Mark Gurman披露,苹果计划于2027年6月WWDC发布首款AI智能眼镜,预计2027年底前上市,内部代号N50,硬件设计已基本定型。该眼镜比Meta二代Ray-Ban更纤薄,摄像头集成在镜框内无凸起,提供多种款式配色,并优化音质、传感器和佩戴体验。功能上首代产品信息未完整披露。
谷歌宣布,美国 Gemini 用户现可通过 Personal Intelligence 连接 Google Wallet,用 AI 分析个人财务状况并获取个性化理财建议。用户还能经 Plaid 关联银行账户和信用卡;该平台也为 ChatGPT 提供金融账户集成。连接后,Gemini 可分析交易记录,回答日常支出、预算、
宠物医疗有多贵?养过的人心里都有一笔账。猫尿闭,一套检查加导尿,四五千是常事。狗得细小,住院三五天,账单轻易破万。这两年有个词悄悄流行起来——“养宠新穷人”。
茶咖行业的冷热分化态势愈发明显了。一边是扩张,本土新锐“柠季”接手哈根达斯中国区门店业务;星巴克中国推进“千店千面”;茉莉奶白落地新加坡首店、沪上阿姨进驻英国伦敦
时隔两年,豪门终于等到了“王妈”回归。注意看,眼前这位左手拎着尿素袋、右手拖着编织袋,还随身携带一顶钢铁防晒帽的女士,正站在顾家别墅门口——王妈在豪门短剧里正
10月14日,WorkBuddy进入了企业微信的通讯录。 在新发布的联合版本中,员工可以像给同事发消息一样,向这个AI智能体交办任务。经过企业授权后,它能够调用相关消息、文档、
11月14日,千问APP「健康档案」上线动态血糖仪接入。用户授权连接后,可24小时同步血糖数据,查看血糖曲线、分时段读数及每日概览;千问还能结合饮食、运动、作息等个人情况分析血糖变化,提供“熬夜导致血糖升高”“短期峰值或与情绪起伏有关”等健康解读,并可结合力量训练等场景解释傍晚血糖上升趋势。
以前,提起白酒,大家很容易想到宴席上的整瓶酒。如今,白酒品牌的身影正出现在酒桌之外的更多生活场景中。买咖啡,能碰上酱香茅台;逛阿那亚戏剧节,能喝到国窖1573冰饮;
双十一这场从十月就开跑的超长马拉松,终于迎来尾声。消费者可能最先崭露出疲态。看直播、领券、算赠品、比较到手价,为了少花一点钱,要先投入难以量化的时间。大主播们倒
食谱管理,通常会被划入“没有什么想象力”的类别,不少产品上线十多年、虽然依然每月能维持万级左右的下载量,月流水却常年在10万美元以下徘徊。用户愿意保存食谱,却不愿
WIRED报道,英伟达员工自发发起挽留黄仁勋行动。内部投票显示,超97%参与者希望黄仁勋继续担任CEO,多名员工要求董事会重新考虑相关人事决定。一名资深工程师通过内部“意见箱”发帖,呼吁董事会行动前充分考虑员工意见,帖子获超1600条评论,不少员工支持黄仁勋并希望其回归。
人工智能与垂直领域融合向纵深推进。据央视新闻报道,2026世界中文大会11月13日在北京开幕,会上发布“语飞国际中文教育垂直大模型”。该模型面向全球中文学习者、一线教师和教育机构,提供全方位智能化服务,深度适配教与学全链路,覆盖三大核心群体,推动AI与国际中文教育实际需求深度融合。
腾讯混元发布全新实时语音模型Hy Realtime,主打实时,在语音理解、指令遵循、拟人化表达等基础对话能力上表现优异,并新增Agentic工具调用和唱歌能力,从单纯应答升级为可执行任务,更接近真人交流。该模型已应用于元宝语音通话、腾讯客服等产品。
人工智能正以形式化证明改写基础科研。独立开发者Charlie Reams借助Claude Code,完成三元哥德巴赫猜想的形式化证明,累计产出19.4万行且零sorry的Lean4代码,所有数学推理均经机器严格验证。过程中,AI展现出超越人类传统审稿的严谨性,自主揪出并修补13年前的11处漏洞,凸显其在数学验证中的强大
Google推出Gemini4Hydrogen(氢),主打速度与执行效率,却意外压过定位更高的Argon:第三方智能指数榜Hydrogen得51分,Xhigh档54分,高于Argon的50分。其默认档速度达上代Flash的2.5倍,胡编乱造减少超80%,API价格还低于Argon。Google同时推出Antigravi
最新网站