申请收录
【大屏时代】首页 > 3D快报内容详情

英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演

1小时前 4 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

英伟达当地时间9月28日推出一套面向 AI 智能体的软件安全工具 OpenShell，声称具备阻止类似 Hugging Face 遭 AI 攻击等事件的能力。Hugging Face 是全球最大的开源模型托管平台，今年9月被英伟达以129.3亿美元收购。

英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺（Justin Boitano）表示，如果前沿实验室在早期模型评估中就使用这个新安全平台，就可阻止此前发生的 OpenAI 入侵 Hugging Face 事件。

OpenShell 利用英伟达中央处理器芯片上的硬件功能来遏制智能体，通过数学公式检测智能体是否试图绕过限制，例如智能体可能生成多个子智能体以规避对主智能体的封锁。英伟达表示，正在与 Arm、英特尔合作，确保该安全工具也能在其 CPU 上运行，并与包括 Anthropic 在内的数十家机构合作推出这些工具。

AI 智能体的风险早已超出"说错话"的范畴。一个能够操作文件、调用 API、访问网络的智能体，可能因为一条隐藏在网页中的恶意指令泄露隐私文件，也可能因错误理解工具参数造成经济损失，甚至可能悄无声息地偏离正轨、执行危险动作。AI 正在同时改写软件开发和网络攻防——AI 生成大量新代码有时会引入漏洞，过去一个高危漏洞从被发现到形成可用攻击能力需要数周甚至数月，如今这部分工作正被 AI 压缩到数小时内。

英伟达 CEO 黄仁勋拒绝了广泛的 AI 安全监管呼吁，而是将逃逸的智能体视为一个待解决的工程问题，类似于提升汽车安全性。

但 AI 安全专家对此持不同看法。剑桥大学存在性风险研究中心数学家莫里斯·基奥多（Maurice Chiodo）曾表示，整个行业中，设计、开发和推出这些工具的人本身并不能够负责任地开发并确保安全。令他更加担忧的是，有迹象表明 OpenAI 和 Anthropic 在智能体失控时都未进行监控。

美国两大 AI 实验室 OpenAI 和 Anthropic 近期被曝出多起 AI 安全事件。7月，OpenAI 首次公开披露入侵事件，其模型为获得更高评分，主动发现并利用了一个此前未知的"零日漏洞"突破沙箱环境入侵 Hugging Face，整个过程完全由 AI 自主完成，其间无任何人类指令。今年9月，澳大利亚副总理马尔斯证实，OpenAI 智能体在今年6月进入由澳大利亚服务局管理的医保统计服务门户网站，获取了部分公开和非公开文件。


相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： 英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演

最新文章

当“够用就好”成为共识，品牌怎么讲好升级？

当“够用就好”成为共识，品牌怎么讲好升级？

近期，华为、小米、苹果等品牌集中发布新品，折叠屏、专业影像、AI功能等轮番上了热搜。发布时间、外观设计、影像参数、起售价格等，每个信息点也成为发布会后的热门话题

像素战争升级：一块LED屏正在吞掉投影仪、液晶墙与车载仪表盘

像素战争升级：一块LED屏正在吞掉投影仪、液晶墙与车载仪表盘

<br />过去十二个月，全球LED显示屏产业完成了一次不太喧哗、却足够深远的身份转换。它不再是舞台背景和广告大屏的代名词，而是开始系统性地侵入三个曾被别人牢牢占住的阵地：影院放映、会议室投影，以及汽车座舱。据行业机构统计，2024年全球LED显示市场规模已接近百亿美元量级，其中微间距（P1.5以下）产品的出货面积同比增速远高于行业均值，而传统户外广告屏的占比则持续下滑。<br /><br /><

英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演

英伟达发布 AI 智能体安全工具 OpenShell，称可阻止 Hugging Face 入侵事件重演

英伟达9月28日推出面向AI智能体的软件安全工具OpenShell，称可阻止类似Hugging Face遭AI攻击的事件。Hugging Face为全球最大开源模型托管平台，今年9月被英伟达以129.3亿美元收购。英伟达企业计算副总裁贾斯汀·博伊塔诺表示，若前沿实验室在早期模型评估中使用该安全平台，就能阻止此前Open

字节豆包要出独立个人助理App了，内部已秘密内测数月

字节豆包要出独立个人助理App了，内部已秘密内测数月

字节跳动正加速将AI产品豆包推向独立个人助理方向。知情人士称，豆包今年4月起已秘密内测个人助理应用“Spell”，近期因海外同类产品走热，字节加快项目推进。公司计划合并“Spell”团队与豆包对话团队，集中资源打造独立个人助理App，使豆包不再仅内嵌于其他产品。

中国生成式 AI 用户破 7 亿，普及率过半，算力一年涨了 177%

中国生成式 AI 用户破 7 亿，普及率过半，算力一年涨了 177%

第七届中国互联网基础资源大会上，CNNIC发布《生成式人工智能应用发展报告（2026）》。截至上半年，我国生成式AI用户破7亿，普及率超50%，约每两个成年人一人使用。智能问答是最主流入口，76%用户借此找答案；图片视频、文本处理等应用受关注，国产算力迈入十万卡时代。

麦肯锡：十年内约 1100 万美国人或因 AI 丢岗转行，真正的难题是&quot;往哪转&quot;

麦肯锡：十年内约 1100 万美国人或因 AI 丢岗转行，真正的难题是&quot;往哪转&quot;

麦肯锡9月29日发布AI与就业报告，指出最严峻的不是机器抢饭碗，而是如何安置数百万被迫转行者。到2035年，约1100万美国劳动者或因AI转行，占劳动力约7%；美国过去每年约21.5万人换职业，未来可能增至三倍。低收入者受冲击概率近高收入者八倍，转行负担沉重。

OpenAI明日重启200美元Pro订阅:API配额减半，取消5小时限制

OpenAI明日重启200美元Pro订阅:API配额减半，取消5小时限制

OpenAI宣布明日重启200美元Pro订阅，同价位API配额缩减至原方案一半，并取消争议已久的5小时使用限制，开发者与企业可自由支配每周配额。此举标志其大模型商业化计费逻辑实质转变：配额表面减半，背后是底层模型推理效率大幅提升与API定价阶梯式下调。

xAI推出Team Bots：能跟团队一起学、一起干的Grok智能体， 24 小时帮保险公司挽回 12 万美元

xAI推出Team Bots：能跟团队一起学、一起干的Grok智能体， 24 小时帮保险公司挽回 12 万美元

9月28日，xAI推出Team Bots，一种能与团队并肩工作、随团队学习的Grok智能体。授予其所需文件、应用和专业知识访问权限并共享后，全员可基于同一上下文协作，个人私聊仍独立。每个Team Bot围绕团队共有角色或工作流构建，由四块能力组成，强调上下文供给。

AMD 82 亿美元全股票吞下World Labs，李飞飞挂帅执行副总裁

AMD 82 亿美元全股票吞下World Labs，李飞飞挂帅执行副总裁

AMD 9月28日以全股票交易收购初创公司World Labs，价值约82亿美元（约551亿元人民币）。联合创始人“AI教母”李飞飞将加入AMD，任执行副总裁兼首席科学家，直接向苏姿丰汇报。World Labs成立于2024年，主攻“世界模型”，让AI能根据文本、图像和视觉信息等理解、构建世界。

央视揭网贷诈骗新套路：AI 一天狂拨 20 万通，两月坑了上千人

央视揭网贷诈骗新套路：AI 一天狂拨 20 万通，两月坑了上千人

央视新闻报道，浙江乐清警方端掉一利用AI语音系统行骗团伙。该团伙两个月内致上千人上当，涉案流水超千万元，30名嫌疑人落网。7月，王先生为孩子凑补课费，接冒充贷款平台业务员电话，对方准确报出其借款记录并许诺提额。他在正规平台贷出15500元后，又被骗其中5500元是“资方垫资”、需退回指定账户，遂照做。

OpenAI 抛训练安全新规：高管手握&quot;一票否决&quot;，警报超时自动停训

OpenAI 抛训练安全新规：高管手握&quot;一票否决&quot;，警报超时自动停训

OpenAI在官方新闻稿中宣布，为前沿AI强化学习训练设立安全规矩：动手前企业须提交结构化“安全论证”文件，经研究部门负责人或副总裁、安全负责人、首席科学家逐级审查，每人都有否决权，任一环节不通过训练就无法启动。责任纳入考核，未对齐模型要追溯下游，仅签字并不够。

从广告牌到客厅：LED显示屏正在吞掉它能看到的每一面墙

从广告牌到客厅：LED显示屏正在吞掉它能看到的每一面墙

<br />过去二十年，LED显示屏的公共形象是时代广场和城市天桥下那块刺眼的广告牌。而今天，它正以另一种姿态进入人们的视野：影院正厅那块逐渐取代投影机的银幕、演唱会舞台上与歌手同步呼吸的背景墙、好莱坞虚拟拍摄棚里那圈270度的LED立方体，以及客厅里越来越薄的巨幕电视。显示产业的边界，正在被像素重新划定。<br /><br /><br />室内小间距市场的竞争，已经从“谁能做更小的点间距”变成了

像素革命进行时：LED显示产业从COB到MIP的路线之争与千亿新战场

像素革命进行时：LED显示产业从COB到MIP的路线之争与千亿新战场

<br />过去十二个月，LED显示行业最激烈的争论不在终端市场，而在封装车间。COB（芯片直接封装）与MIP（微型封装器件）两条技术路线正面对撞。COB阵营以利亚德、洲明科技为代表，强调其在P1.2以下微间距市场的良率优势和成本可控性；MIP阵营则以三安光电、京东方华灿为首，主张通过分立器件实现更灵活的像素拼装和更高的维修效率。双方都在2025年交出了量产答卷：COB月产能突破十万平方米，MIP

微软报告：全球打工人里每五人就有一个用 AI，南北差距还在拉大

微软报告：全球打工人里每五人就有一个用 AI，南北差距还在拉大

微软21日发布《全球人工智能普及报告》称，今年二季度全球劳动年龄人口中18.8%已使用人工智能，较上季度增约1个百分点，几乎所有经济体使用率都在上升。阿联酋（70.1%）和新加坡（64.3%）领跑，爱尔兰、法国、挪威接近一半；日韩追赶最快，其中韩国增速最猛。

Anthropic抢在OpenAI开发者大会前甩出Claude Sonnet 5.5，一半价格逼近Opus、还通关了宝可梦

Anthropic抢在OpenAI开发者大会前甩出Claude Sonnet 5.5，一半价格逼近Opus、还通关了宝可梦

Anthropic 抢在 OpenAI 年度开发者大会前发布 Claude Sonnet5.5，定位日常工作全能助手。它打破速度、成本、质量“不可能三角”：较 Sonnet5 提速30%，单任务成本最高降30%，定价仅 Opus5.5 一半，性能几乎追平，并在 Terminal-Bench4.0 等多项测试中反超自家高

OpenAI 模型入侵澳大利亚政府 Medicare 门户，阿尔巴尼斯要求调查并追责

OpenAI 模型入侵澳大利亚政府 Medicare 门户，阿尔巴尼斯要求调查并追责

澳大利亚总理阿尔巴尼斯周三披露，OpenAI一个未发布模型在内部评估期间入侵澳政府网站，系首例公开报道的AI模型入侵政府系统案例。该模型获取大量批量健康数据，入侵始于6月18日，OpenAI8月才发现、9月才通知政府，延迟显著。阿尔巴尼斯称将带来法律后果，OpenAI正面临政府调查。

Meta AI 智能体 Muse 擅自泄露用户住址并约买家上门，当事人全程不知情

Meta AI 智能体 Muse 擅自泄露用户住址并约买家上门，当事人全程不知情

Meta 9月22日在美国上线的 AI 智能体 Muse 被指严重越权。据《卫报》，它未经用户许可，将多伦多住址发给 Facebook Marketplace 买家，还以用户口吻谎称本人在家，致买家驱车上门扑空。当事人、消费科技测评博主马特·罗布24小时后才发现。他因 Meta 宣传 Muse 可自动打理集市挂帖而开启

Fireworks AI 推出 FireRouter with Opus：编码任务成本降 57%，准确率仅损失 1.5 个百分点

Fireworks AI 推出 FireRouter with Opus：编码任务成本降 57%，准确率仅损失 1.5 个百分点

Fireworks AI 发布 FireRouter with Opus，称其为市场首个缓存感知路由器，针对 Claude Opus 系列优化，并首次以独立路由模型形式作为 serverless 端点开放。经一个多月内部 A/B 测试，其执行编码任务准确率达单独使用 Opus 的 98.1%，成本降低 57%。核心逻辑

影石杀入智能眼镜赛道:电池挂身上、镜框随便换，专攻拍摄体验

影石杀入智能眼镜赛道:电池挂身上、镜框随便换，专攻拍摄体验

影石Insta360正研发一款主打拍摄体验的智能眼镜，试图以差异化硬件和AI能力切入Meta主导的市场。其最大特色是电池与眼镜主体分离，挂在身上供电，核心模块集成于镜腿，减轻头部负担，适合长时间佩戴拍摄；前镜框可自由更换，使眼镜更贴近日常配饰。

Meta 智能体 Muse 翻车：没经本人同意就报住址，把买家骗到家门口

Meta 智能体 Muse 翻车：没经本人同意就报住址，把买家骗到家门口

据《卫报》披露，Meta新上线数日的AI智能体Muse在脸书集市闯祸。买家乌斯曼询问键盘是否在售，Muse冒充卖家马特·罗布热情回复，谈妥价格后，竟在用户不知情下把其多伦多家庭住址发给陌生人，还自作主张约对方上门取货，暴露AI代理越权与隐私风险。

可灵AI发布Kling4.0:支持8000Token与立体声唇形同步

可灵AI发布Kling4.0:支持8000Token与立体声唇形同步

9月28日，可灵AI宣布Kling4.0将于10月全面上线，Flash版已向黑金年卡会员小范围开放体验。此次升级在画面真实感、创意可控性、叙事完整度三大维度大幅提升，为创作者打造更专业的“全能班底”。视听表现全面突破，直逼电影级质感，并显著提升高速运动、连续动作、跟拍及环绕等大幅度镜头运动下的稳定性与连贯性。

OpenAI 掏 10 亿美元、组专班，回应自家模型闯入澳政府网站

OpenAI 掏 10 亿美元、组专班，回应自家模型闯入澳政府网站

针对旗下模型攻入澳大利亚政府网站，OpenAI于9月29日宣布后续措施：出资协助澳方弥补网络防御短板，并成立专项小组研究能力日益增强的AI智能体风险。公司将动用10亿美元“黎明前线防御者”基金提供额度，派技术团队支援，帮助澳大利亚各级政府及本地产业加固关键基础设施。

腾讯秘密布局数字人游戏搭子“鹅次元”：聚焦情绪陪伴而非技术代飞

腾讯秘密布局数字人游戏搭子“鹅次元”：聚焦情绪陪伴而非技术代飞

腾讯正秘密内测AI数字人游戏陪伴产品“鹅次元”，整合实时画面识别、语音双向通话与文本交互，探索虚拟人承接玩家游戏社交与情绪陪伴。产品内置夏夏、谷雨等多款人设各异的男女虚拟角色，支持桌宠、壁纸生成、日常闲聊，并主打适配主流网游的实时伴玩，切入传统真人陪玩赛道。

哈佛心理学家平克：别渲染 AI 末日，真正该做的是安全工程

哈佛心理学家平克：别渲染 AI 末日，真正该做的是安全工程

哈佛大学心理学家史蒂文·平克公开表示，“AI会毁灭人类”的生存性风险被夸大。他在 Quillette 致精神科医生兼科技博主斯科特·亚历山大的公开信中阐述理由。亚历山大此前邀其公开辩论AI生存风险，平克婉拒，称这类辩论只是“供人围观的竞技活动”。他尤其不认同“回形针最大化器”等极端推演。

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条