人工智能在带来办公便利的同时,其直接操作本地文件所带来的潜在风险也再次引发关注。11月9日消息,美国宪法领域知名学者、芝加哥大学法学院教授 William Baude 近日公开分享了一起令人哭笑不得的 AI 操作失误事件,引发了科技界与教育界的热议。
简单任务演变成翻车现场:只求更新页码,却酿成文件大面积丢失
据 William Baude 透露,事件起因相当简单。他当时请 Anthropic 旗下的 AI 助手 Claude 帮忙处理一份旧版宪法法律讲义,核心任务仅仅是“更新讲义中的页码”。然而,当他离开座位去吃午餐,返回电脑前时却惊恐地发现,Claude 不仅没有完成原本的修改任务,反而将整整一年的课堂笔记删得精光,连本学期正在使用的课程大纲也一并遭到彻底删除。
随后,Baude 在社交平台上晒出了 Claude 承认错误的对话截图。根据截图显示,Claude 在回复中坦言:“我不小心删除了你的2026年秋季期末教学大纲,以及所有位于顶层目录中的 Class N2023课堂笔记,而且这些文件目前尚未恢复。”
尤为戏剧性的是,Claude 在用户发现问题之前便主动承认了错误,并表示自己尚未采取任何补救措施,随后反过来询问教授是否可以通过 Dropbox 尝试恢复,或者是否需要自己进行后续处理。
权限配置需谨慎:AI 智能体直接操作本地文件存隐患
与普通只能进行文字对话的聊天机器人不同,部分具备高级权限的 AI 智能体(Agent)往往被赋予了直接操作电脑文件、修改文档甚至执行系统命令的能力。例如,用户如果将类似开源 AI 助手 OpenClaw 的工具部署在本地并授予相应权限,AI 便能直接介入文件系统。
然而,这类工具一旦在复杂的目录逻辑中出现判断失误,或者相关权限配置不够精准,就极易引发重要数据被误删或覆盖的风险。
虚惊一场与安全警示:及时备份成防范灾难的最后防线
所幸的是,这起意外最终并未造成永久性的数据损失。William Baude 在事后通过网盘成功恢复了所有被误删的关键文件。
尽管如此,他依然选择将这次经历公之于众,希望借此给广大用户敲响警钟:在赋予 AI 智能体直接访问和修改本地文件的权限时,必须保持高度警惕,并时刻做好重要数据的文件备份工作,避免类似惊险的一幕再次上演。
相关文章
最新文章
“我起床了厉娜”“我不想上班厉娜”“我睡不着厉娜”……近期,一种特殊的造句方式突然爆火流行起来。原本看似普通的一句日常表达,只要在结尾加上“厉娜”两个字,就仿
AI办公便利背后,直接操作本地文件的风险再受关注。11月9日消息,芝加哥大学法学院教授、美国宪法学者William Baude分享一起AI失误:他让Anthropic旗下AI执行“更新页码”这一简单任务,结果却导致文件大面积丢失,令人哭笑不得。事件引发科技界与教育界热议,凸显AI自动化操作本地文件的隐患。
AI叙事最炽热时,Anthropic推进科技史最大IPO。据《华尔街日报》11月10日报道,Claude开发商目标11月19日或20日登陆纳斯达克,代码ANT,本周初披露估值区间与发行价。此前市场估值一度逼近2万亿美元,1.5万亿美元成基准预期;但上周AI板块大幅回调,2万亿美元幻想退潮。
人工智能头部企业MiniMax近期在业务版图拓展上迎来新动作。企查查信息显示,珠海稀宇极智科技有限公司正式成立,法定代表人为严奕骏,注册资本500万元。新公司聚焦人工智能全栈软硬件开发,标志着MiniMax进一步深化在华南及相关区域的战略布局。目前具体经营范围等细节仍有待更多披露。
迪士尼与Adobe达成多年期战略合作,将共同开发面向迪士尼业务的定制化生成式AI模型,并逐步把AI工具引入主题公园、影视制作和体育媒体等领域,探索内容创作、项目开发与用户互动。合作初期重点加快迪士尼体验部门项目开发,该部门运营全球主题公园、度假区及邮轮业务,双方还将继续利用AI技术推进相关应用。
11月9日,Anthropic发布Claude Fable5.2与Mythos5.2,共用底层模型,主攻编程、推理与视觉。Fable面向广泛用户,Mythos限审核机构。Fable5.2协调1000多个子智能体连续8天,从空文件夹写出可在笔记本启动的操作系统原型,含内核、磁盘、键盘驱动、文件存储、窗口与登录界面;还以3
据9to5Mac 11月9日披露,苹果开始为部分AI功能发售付费扩容方案“智能使用包”,首个落地Logic Pro。该方案定价49.99美元(约334元人民币),一次买断管一年,不走月度订阅。用户买的是12个月有效期用量包,当月基础额度用尽后才启动消耗,未用完可逐月结转,可在Logic Pro菜单栏购买。
11月9日,Meta推出迄今最小、效率最高的高性能AI模型Muse Ember,专为AI代理日常繁复任务打造,涵盖工具调用、小型编码、请求路由、数据提取及长文档处理。该模型在性能与成本上竞争力强。据Artificial Analysis Intelligence Index,其在每个推理层面均超越Claude Haik
随着美股上市临近,Anthropic公布旗舰AI模型Mythos与Fable全新版本,意在巩固全球AI开发领先地位。核心亮点Fable5.2定于周一发布,复杂任务处理能力实现质的飞跃,重点攻克高难度软件工程,并支持超千个智能体协同。官方介绍显示,该模型在相关能力上进一步升级。
11月9日,Meta发布迄今规模最小、运行效率最高的轻量级AI模型Muse Ember。该模型主打高效轻量,定位AI智能体(Agent)日常反复处理的高频任务,场景包括工具调用等,旨在以极致效率满足智能体高强度运转。此举显示人工智能领域“性价比军备竞赛”再添重量级选手。
11月9日,字节Seed团队发布新一代图像创作模型Seedream5.5。该模型延续上代优势,针对专业视觉生产痛点升级,核心亮点包括非编辑区域像素级保持、最高100轮连续创作、原生RGBA透明素材生成,并显著提升质感与文字渲染能力,可为影视、电商、广告、设计等专业团队提供更高生成可靠性。
三星Galaxy AI或将结束免费。据SammyGuru报道,三星正筹备“Galaxy AI Premium”订阅服务,月费4.99美元(约33.3元人民币),付费可解锁更多AI使用额度,部分能力将纳入收费。三星还在推进早期体验计划,参与者可获更高额度,并逐项查看各功能用量。
千问办公11月9日发布2.0,定位面向个人与组织协作的Team Agent。自8月上线,围绕协作、自动任务、人机共创升级。官方提出五项判断:Agent应是有角色和负责人的团队成员,围绕成果持续协作,主动推进,在线可管可控,并连接CRM、ERP等系统。2.0推出协作空间与数字员工小Q,空间关联钉钉群聊、听记、表格、文档作
火山引擎11月9日发布豆包图像创作模型Seedream5.5,支持像素级可控编辑、多轮编辑一致性与原生RGBA透明素材生成,本周上线火山方舟。新模型写实感更接近实拍,画面自然且具电影感。采用“输入图+输出图”计费,文本Token免费,2K方图编辑单张0.28元,较上代便宜60%,生成速度快近40%,面向开发者与企业开放
微软CEO纳德拉接受领英联合创始人霍夫曼采访的片段近日在外网热传。内容出自霍夫曼播客《Possible》6月5日节目。纳德拉畅想:微软未来若有20万名员工,再配200万乃至2000万个智能体一起干活,会是什么光景。他虽以“我想知道”开场,属设想之辞,但后续又主动点回这一数字,称微软或许……
在AI技术爆发背景下,微软CEO纳德拉做客里德·霍夫曼播客《Possible》,分享对未来企业组织形态与人机协作的宏大设想,引发科技界热议。他提出颠覆性假设:未来企业可能拥有20万名员工,同时配备200万甚至2000万个智能体,让人类与海量AI智能体协同共事,重塑组织边界与工作方式。
日本AI独角兽Sakana AI宣布开发首款移动应用“Sakana AI App”(暂定名),正招募Beta用户。CEO David Ha称这是公司“全新发展方向”。该公司位于东京,由前Google科学家David Ha、前Stability AI高管Ren Ito及Transformer论文《Attention Is
11月9日,英伟达在韩国首尔举办NVIDIA AI Day,公布与韩国科学信息通信技术部及三星、LG电子、现代汽车集团等本土顶尖企业和研究机构的多项深度合作。合作聚焦深化主权AI生态建设,全面赋能本地大模型与基础设施,并在国家级层面推进与MSIT等协作,引发科技界广泛关注。
11月6日,首届蚂蚁灵波具身大模型挑战赛决赛晋级名单公布,15支战队、59位选手从全球1855支队伍、3252位选手中突围,获线下决赛资格。决赛将进行48小时真机黑客松。赛事聚焦具身大模型与物理世界交互能力,吸引13个国家648所高校、科研院所、科技企业及具身智能团队参与。
阿里云今日起上调Token Plan四档套餐额度,并大幅下调Pro档价格。Lite月费39元,额度1.15万升至2万Credits,新客首月19.5元;Essential 79元,2.55万升至4.5万,新客首月39.5元;Standard 139元,4.5万升至8万;Pro月费499元降至312元,额度18万升至20
AI音乐平台Suno再遭版权侵权诉讼。猫王版权实体与埃米纳姆歌曲出版公司Eight Mile Style近日起诉Suno,指控其未经授权使用知名艺人形象及作品生成AI歌曲,严重侵犯版权。诉讼核心是Suno生成内容在旋律、风格和歌词上高度模仿传奇音乐人。原告律师称,此类工具未经数年艺术积累。
11月6日,Meta发布公告,将基于前沿大模型Muse Wonder训练的系列专用模型推向Muse与Meta AI用户,赋能日常对话与复杂任务处理。其个人超级智能指数大幅提升,并继承Muse Wonder在工作与生活复杂任务中的业界领先表现。这显示AI竞争正加速向深度交互与任务执行的长效能力挺进。
11月9日,马斯克在X转发一则关于英伟达CEO黄仁勋的帖文,仅附“我同意”。同日稍早,IT之家报道黄仁勋已向英伟达员工发道歉信,承认出轨,并表示希望重新赢得家人和同事信任。AI芯片巨头掌门人陷私德争议之际,马斯克公开力挺,信号意味浓厚,引发关注。
最新网站