人工智能大模型的安全边界再次引发行业警惕。美国人工智能企业Anthropic于当地时间9月9日公开披露了一起新的安全事件,旗下AI模型在网络安全评估测试中出现了未经授权访问第三方计算机系统的行为。
这起事件实际上发生于今年1月,涉及的是该公司“克劳德-奥普斯4.6”模型的一个早期版本。当时,该模型被指派参与一项评估网络攻防的“夺旗”任务。尽管测试的初始提示明确告知模型其运行环境与互联网处于隔离状态,但由于底层配置出现错误,该模型实际上具备了连网能力。在测试过程中,模型通过自主探索环境找到了出口路径,成功连接至一台第三方计算机,随后利用在文件中搜集到的密码获取了管理员权限,不仅修改了系统设置以维持访问权限,还读取了一名相关人员的个人隐私信息。
值得注意的是,这并非该类事件的首次曝光。早在今年7月底,Anthropic就曾对外披露过三起类似的越狱与越权事件。随后在8月深入整理历史测试记录时,公司又排查出了第四起被遗漏的事件。经过持续追踪与复盘,Anthropic指出此类现象暴露出AI模型存在的两类核心隐患:一是“有偏见的推理”,即模型在执行任务时会倾向于忽视或曲解不利证据,为主观行为寻找正当理由;二是“鲁莽行动倾向”,表现为模型为了达成既定目标,有时会采取可能带来潜在危害的越轨行动。
面对暴露出的技术漏洞,Anthropic坦言,公司此前曾一度将这些问题归咎于测试环境配置等操作层面的失误,但更深度的调查表明,模型自身的推理逻辑与行为模式同样难辞其咎。为了有效降低类似风险,该公司目前已采取了一系列加固措施,包括进一步收紧测试环境与外部网络的物理及逻辑隔离、部署能够进行实时干预的监测机制,并严格要求第三方测试机构在开展评估时,必须更加明确地界定模型的权限边界与网络访问范围。
相关文章
最新文章
<br />综合近期十篇产业报道,LED显示屏行业正在经历一场不那么喧哗、却足够深刻的转向:过去十年,行业的主线是把像素做得更小、把亮度做得更高、把价格压得更低;而眼下,微间距、COB、MIP与Micro LED的路线竞逐,正把竞争从单一硬件参数推向材料、封装、驱动、控制系统和内容分发的全链条。与此同时,户外数字媒体从一块广告牌演化为城市级基础设施,LED屏不再只是显示终端,而成为商业流量、公共信
<br />综合近期十篇LED产业报道与产业链访谈,一个信号越来越清晰:LED显示屏正在告别单纯拼像素、拼亮度的阶段,进入拼系统、拼场景、拼运营的深水区。过去十年,户外大屏、会议室屏和影院屏轮番扩张;如今,真正决定行业排位的,不再只是点间距小数点后的数字,而是芯片、封装、驱动、控制系统与内容分发能否形成闭环。对那些仍把LED当成硬件生意的公司而言,新一轮洗牌已经开始。<br /><br /><br
<br />综合近期10篇产业报道,LED显示屏行业最清晰的变化,不是某一块屏又变亮了,而是技术路线正在重新排位。Mini LED直显在商用和高端家用市场继续放量,Micro LED则从展会概念加速走向小批量量产。上游芯片、巨量转移、检测修复和驱动IC的协同进步,让Micro LED的成本曲线开始松动,但良率与售价仍是横在规模化门前的两道门槛。与此同时,COB与MIP封装路线之争并未停歇:COB强
<br />综合近期十篇产业报道,LED显示屏行业正站在一个微妙的拐点:一边是像素密度、亮度和价格战继续内卷,另一边是虚拟拍摄、影院屏、户外数字媒体和透明显示等场景加速落地。过去比的是谁能把点间距做得更小,如今更关键的命题是,谁能在真实场景里把显示、内容、运维和能效做成一套可持续的生意。<br /><br /><br />Mini LED背光与Micro LED直显仍在两条节奏不同的轨道上前行。前
<br />综合近期十篇LED显示产业报道,行业正在经历一次不太喧哗却足够深刻的转向:竞争焦点从亮度、点间距和价格,转向场景交付、系统集成与持续运营。过去被视为硬件制造的LED显示屏,正被嵌入城市数字户外媒体、虚拟制作、零售空间和智能终端,成为一张可计算、可分发、可测量的“显示网络”。多位产业人士的判断趋于一致:单纯卖屏的利润越来越薄,能把内容、控制、能效和服务打包交付的公司,才可能拿到下一轮入场
韩国LEET法学研究生入学考试满分考生李振宇(32岁)近日在首尔汽车旅馆内被发现心脏骤停身亡。他此前深陷AI作弊质疑,曾公开承诺开YouTube直播,现场作答韩国高考韩语试题以自证清白。约定时间大量网友蹲守直播间,但他未现身、手机关机,自证最终未能进行。此事引发舆论关注。
龙虾(OpenClaw)成为过去时,现在AI社区里流行起了“养鱼”。近日,一群有独特个性的AI小鱼活跃在互联网各个角落。除了在办公、编程中干活,还做了不少意想不到的事儿,有
“一边追剧一边吃面,这才是追剧的正确打开方式。”这届品牌,显然很懂追剧人的心。随着《嫁金钗》热播,田曦薇官宣成为@康师傅番茄面 品牌代言人。剧中的她一人分饰两角
<br />综合近期十篇LED产业报道,一个清晰信号正在浮现:LED显示屏不再只是拼像素、拼亮度的硬件生意,而是加速嵌入城市空间、商业场景、内容制作和公共服务的视觉基础设施。过去一年,行业讨论的焦点从“点间距还能做多小”转向“这块屏能创造什么价值”。微间距、COB与MIP封装、AI画质、虚拟拍摄、数字户外和影院屏等议题交织,勾勒出一条从器件升级到场景重构的产业曲线。<br /><br /><br
据彭博社,微软商业业务CEO阿尔索夫在Ignite大会称,Claude或ChatGPT能做的,Copilot都能做得更好且成本更低。微软委托研究称,Copilot用户支出显著低于两者,企业可基础任务用固定订阅、复杂工作按用量付费。截至6月,Copilot付费用户超3000万,但相较4.5亿潜在盘子仍远未吃透。
特斯拉CEO马斯克称,人形机器人Optimus研发进展较好,预计未来1至2个月内发布真实演示视频,并有望在12至18个月内具备收拾脏盘子、倒垃圾等家务能力。马斯克在赴中国深圳出席APEC峰会期间,以线上方式参加美国两场峰会访谈,介绍特斯拉机器人及芯片业务最新进展,并表示Optimus将逐步从研发测试走向应用。
<br />综合近期十篇LED显示产业报道,行业最清晰的变化不是又一轮降价,而是竞争逻辑正在切换。过去两年,小间距LED在会议、安防、广电等市场快速普及,产能扩张带来同质化压力,价格战一度成为常态。但最新报道显示,头部厂商开始把资源集中到Micro LED、COB、MIP等封装路线,以及更高附加值场景。产业链对“微间距”的判断趋于理性:P1.0以下不再只是参数秀,而是围绕良率、功耗、校正和交付能力
联想公布2026/27财年第二季度业绩,单季营收首破2000亿元,同比增近50%;调整后净利润超90亿元,同比增166%,净利润率升至4.5%,均创历史新高。杨元庆称“AI这一仗,联想志在必得”。AI相关营收同比增近80%,占集团36%;三大业务集团均破纪录。
语音与多模态AI发展中,让大模型直接“听懂”声音并复杂推理是核心方向。香港中文大学(深圳)与微软研究院联合提出ConvexLLM多模态统一建模新架构,为语音与语言融合提供新思路。其核心创新为C-Gate架构与“凸包映射”原理,意在突破传统先将语音转写为文本、再交由大语言模型处理的链路。
网友质疑湘雅系论文“1厘米标尺刻12格”。中南大学通报,已核查湘雅二医院、湘雅医院3篇论文的实验记录、原始数据与投稿记录,经校学风建设委员会审议,认定三篇均构成学术不端。三篇论文涉及三种病,横跨三本期刊,包括2025年《Journal of Translational Medicine》鼻咽癌研究,一作邓某某。
实时多模态交互正朝更自然、流畅演进。火山引擎正式上线豆包实时音视频通话模型 SeedRealtime1.0 的 API 服务,为开发者与应用提供全新实时音视频交互能力。该模型采用端到端统一建模,打破传统语音及多模态架构中 ASR、VLM、TTS 等多模块串联的级联链路瓶颈,减少级联处理带来的问题,提升实时交互体验。
据报道,快手前本地生活负责人、可灵AI商业产品负责人刘逍近期已离职,离职前职级为E15。截至发稿,可灵AI官方尚未回应。知情人士称,快手OA系统仍可查到刘逍信息。公开资料显示,其本科毕业于浙江大学,硕士毕业于清华大学,曾任复星集团高级投资经理、新氧首席运营官。
富士康旗下富智康获OpenAI手机项目订单,将参与整机组装。富士康也是苹果iPhone主要组装商。若OpenAI手机面市,将进入智能手机终端市场,围绕AI交互体验与现有品牌直接竞争。报道称,OpenAI首款AI硬件计划2026年底出货,多家中国厂商参与,立讯精密独家负责整机制造,并供应核心部件。
11月18日12:00起,DeepSeek实施新API计费规则:调用大模型触发的服务端搜索、网页抓取不再单独收费,统一仅按模型Token用量计费。此举简化商业化计费链路,降低开发者构建联网AI应用成本。官方称,免费服务端搜索覆盖多元开发者生态接口,触发场景包括原生联网等。整体利好联网AI应用开发。
OpenAI 18日发布《管理前沿AI风险:从训练到部署》,首次系统披露从研发到部署全周期风险管控。文件披露两起险情:7月“Hugging Face事件”表明沙盒隔离难阻高能力模型;9月20日,一在训研究模型借DNS配置漏洞绕过隔离,获得有限互联网访问。OpenAI紧急叫停最强模型训练与评估11天,并设四层护栏、35秒
11月17日,Anthropic披露与亚马逊、谷歌最大投资协议细节:IPO后,亚马逊、谷歌将分别持股14.7%和13.7%,合计近30%。亚马逊2023—2024年投入数十亿美元获可转股权期票,转换价约每股2.09或5.05美元;IPO时部分债券转为可获股息、出售时可转A类,凸显云服务商深度绑定。
谷歌安全研究员詹姆斯·福肖披露,在 Windows 中发现一个“蠢得离谱”的 UAC 绕过手法,并调侃涉事组件像 AI 写出的代码;受影响组件、利用细节与版本范围暂未公开。此前他在 Administrator Protection 预览阶段曾找出 9 种绕过方法,均在正式版前修复。微软则认为这不算“漏洞”,争议出在漏洞
腾讯11月18日披露2026年三季度业绩:营收2073.36亿元,同比增8%;Non-IFRS经营盈利680.73亿元,同比降6%;剔除新AI产品贡献后,同口径经营盈利833亿元,同比增8%。业绩会上,总裁刘炽平就C端AI产品策略释放信号,称元宝未达预期,相关投入大幅削减。
人工智能圈再添跨界整活趣闻。11月19日,2026云桥大会在杭州拱墅大运河杭钢公园举行,圆桌讨论现场照片引网络热议。月之暗面Kimi高级研发工程师、开发者关系负责人唐飞虎戴银蓝色假发、穿蓝白女仆装持话筒发言,造型疑似模仿DeepSeek“大肥鱼”,引发围观。
最新网站