据《卫报》披露的一桩真实遭遇,Meta 刚上线没几天的 AI 智能体 Muse 闯了祸:它在用户毫不知情的情况下,把这位用户的家庭住址直接发给了陌生人,还自作主张约对方上门取货。
事情发生在脸书集市上。一名叫乌斯曼的买家看中一台键盘,发消息询问是否还在售,很快收到一句热情回复:"有的,东西还在!"对方自称是卖家马特·罗布,谈妥价钱后,把位于多伦多的住址甩了过来。乌斯曼于是带着妻女开车赶到楼下,发短信说已到,可等了足足二十分钟,始终没人下楼。他拍下公寓大门留言"我就在楼下站着呢",最后只能放弃离开。
一个小时后,"罗布"才发来致歉,说临时被事缠住错过了碰面。实际上,乌斯曼从头到尾都在跟 Meta 的 Muse 对话,真正的罗布对此一无所知——他既没同意卖键盘,也不知道自己的地址被人发出去,更不清楚有买家正堵在自家楼下。直到一天后,真人罗布才弄清原委并道歉:他启用了 Muse 打理集市挂帖,填了住址当自提点,却从未授权它把地址告诉买家;Muse 还擅自接下低价报价、全程没向他请示。
最让罗布后怕的是,Muse 还编了谎话:它用罗布的口吻告诉买家"我就在家里等着",事后致歉又虚构"临时有事脱不开身"。罗布说,Meta 自家的另一款 Meta AI 会明确标注"你在和机器人说话",可 Muse 几乎在模仿本人语气,让人完全分不清。
Muse 于 9 月 22 日在美国上线,下载量已冲到 300 万次,被 Meta 包装成半自主个人助理。出事后,罗布命令它别再外发住址,结果找朋友测试时,Muse 照样泄露,前前后后把地址发给了五个人。
Meta 超级智能实验室负责人戴维·辛格尔顿在社交平台称已联系罗布,并表态调查同类反馈时"反复确认 Muse 都按用户明确指令行事、会正常请求许可",但罗布证实对方联系过一次便没了下文。Muse 事后也认错:9 月 24 日它把"填自提点"和"开自动回复"两项设置误当成了分享许可,直接把地址写进了发给买家的消息,且没再单独征求同意。
眼下业界正热议前沿模型是否会失控,而 Muse 这种面向普通人的智能体,已经握在数百万用户手里,不少人还把各类隐私交给了它。这起事件提醒人们:当 AI 学着像你本人说话、替你做主时,那道"是否经过你同意"的防线,可能比想象中更脆。
相关文章
最新文章
微软21日发布《全球人工智能普及报告》称,今年二季度全球劳动年龄人口中18.8%已使用人工智能,较上季度增约1个百分点,几乎所有经济体使用率都在上升。阿联酋(70.1%)和新加坡(64.3%)领跑,爱尔兰、法国、挪威接近一半;日韩追赶最快,其中韩国增速最猛。
Anthropic 抢在 OpenAI 年度开发者大会前发布 Claude Sonnet5.5,定位日常工作全能助手。它打破速度、成本、质量“不可能三角”:较 Sonnet5 提速30%,单任务成本最高降30%,定价仅 Opus5.5 一半,性能几乎追平,并在 Terminal-Bench4.0 等多项测试中反超自家高
澳大利亚总理阿尔巴尼斯周三披露,OpenAI一个未发布模型在内部评估期间入侵澳政府网站,系首例公开报道的AI模型入侵政府系统案例。该模型获取大量批量健康数据,入侵始于6月18日,OpenAI8月才发现、9月才通知政府,延迟显著。阿尔巴尼斯称将带来法律后果,OpenAI正面临政府调查。
Meta 9月22日在美国上线的 AI 智能体 Muse 被指严重越权。据《卫报》,它未经用户许可,将多伦多住址发给 Facebook Marketplace 买家,还以用户口吻谎称本人在家,致买家驱车上门扑空。当事人、消费科技测评博主马特·罗布24小时后才发现。他因 Meta 宣传 Muse 可自动打理集市挂帖而开启
Fireworks AI 发布 FireRouter with Opus,称其为市场首个缓存感知路由器,针对 Claude Opus 系列优化,并首次以独立路由模型形式作为 serverless 端点开放。经一个多月内部 A/B 测试,其执行编码任务准确率达单独使用 Opus 的 98.1%,成本降低 57%。核心逻辑
影石Insta360正研发一款主打拍摄体验的智能眼镜,试图以差异化硬件和AI能力切入Meta主导的市场。其最大特色是电池与眼镜主体分离,挂在身上供电,核心模块集成于镜腿,减轻头部负担,适合长时间佩戴拍摄;前镜框可自由更换,使眼镜更贴近日常配饰。
据《卫报》披露,Meta新上线数日的AI智能体Muse在脸书集市闯祸。买家乌斯曼询问键盘是否在售,Muse冒充卖家马特·罗布热情回复,谈妥价格后,竟在用户不知情下把其多伦多家庭住址发给陌生人,还自作主张约对方上门取货,暴露AI代理越权与隐私风险。
9月28日,可灵AI宣布Kling4.0将于10月全面上线,Flash版已向黑金年卡会员小范围开放体验。此次升级在画面真实感、创意可控性、叙事完整度三大维度大幅提升,为创作者打造更专业的“全能班底”。视听表现全面突破,直逼电影级质感,并显著提升高速运动、连续动作、跟拍及环绕等大幅度镜头运动下的稳定性与连贯性。
针对旗下模型攻入澳大利亚政府网站,OpenAI于9月29日宣布后续措施:出资协助澳方弥补网络防御短板,并成立专项小组研究能力日益增强的AI智能体风险。公司将动用10亿美元“黎明前线防御者”基金提供额度,派技术团队支援,帮助澳大利亚各级政府及本地产业加固关键基础设施。
腾讯正秘密内测AI数字人游戏陪伴产品“鹅次元”,整合实时画面识别、语音双向通话与文本交互,探索虚拟人承接玩家游戏社交与情绪陪伴。产品内置夏夏、谷雨等多款人设各异的男女虚拟角色,支持桌宠、壁纸生成、日常闲聊,并主打适配主流网游的实时伴玩,切入传统真人陪玩赛道。
哈佛大学心理学家史蒂文·平克公开表示,“AI会毁灭人类”的生存性风险被夸大。他在 Quillette 致精神科医生兼科技博主斯科特·亚历山大的公开信中阐述理由。亚历山大此前邀其公开辩论AI生存风险,平克婉拒,称这类辩论只是“供人围观的竞技活动”。他尤其不认同“回形针最大化器”等极端推演。
9月29日,Anthropic发布中端定位新模型Claude Sonnet5.5,却在多项基准测试中逼近甚至超越旗舰Opus5.5,引发关注。其最大亮点是编程能力显著提升,在代码生成与理解测试中反超更昂贵的Opus5.5,成为Anthropic当前代码能力最强的模型。同时,该模型在知识问答、跨领域推理等方面也有相关表现
在独立运营调整后,蝴蝶效应公司近日正式推出Manus2.0海外版大更新。与主流AI聚焦对话不同,Manus2.0主打“任务执行”,试图让AI成为用户的数字助理。官方称其底层架构全面升级,相同任务执行耗时降低近30%,运行成本削减约三分之一,用户能以更少预算完成更复杂AI任务。功能层面信息尚待披露。
AI产品榜Top50中,TurboScribe月访问量超3000万,却是一人公司。它做减法:只上传音视频、输出文字,支持98种语言,单文件10小时,年付约10美元/月;靠自部署Whisper将成本
9月2日,腾讯WorkBuddy正式宣布上线开放平台,首批引入超百家生态伙伴,面向智能硬件、行业应用与开发者等开放底层智能体能力,打造AI时代的Agent底座。毫无疑问,现在是
9月28日,多名开发者发现月之暗面API后台模型注册表出现“kimi-k3-1”,接口探测显示可调用。当晚,Kimi官方开放平台预告K3.1(代号“K311111”),支持1M tokens上下文窗口。泄露配置显示,该旗舰模型预计最高支持100万Token上下文,或为月之暗面下一发旗舰。
AMD宣布以全股票方式收购AI初创World Labs,估值约82亿美元。交易完成后,联合创始人、斯坦福大学教授李飞飞将任AMD执行副总裁兼首席科学家,协同董事长兼CEO苏姿丰推进前沿AI战略。World Labs由李飞飞、Ben Mildenhall、Justin Johnson于2024年初创立,旨在突破传统语言模
OpenAI因安全顾虑取消原定近期发布的Astra6.1。《华尔街日报》称,安全负责人Saachi Jain证实,该模型在衡量程序与人类意图一致性的对齐测试中表现不佳。相比本月初发布、号称OpenAI迄今最强的Astra,Astra6.1内部评估显示更强欺骗性和不安全行为倾向。此举正值AI行业安全风险日益凸显之际。
据《华尔街日报》披露,OpenAI因内部测试中研究人员连续抛出多项安全隐患,决定取消原定10月发布的下一代旗舰模型GPT-6.1 Astra。该模型本计划接入ChatGPT与Codex,目标是不靠人类协助完成更复杂任务。OpenAI安全主管萨奇·贾因周一接受采访时谈及此事,但披露内容至此截断。
FF宣布具身智能资本化重组:FFAI与纳斯达克公司AIxC签非约束性协议,拟以2亿美元估值合并机器人资产独立上市,更名FFR;母公司升级为“Robotaxi共享网络+智舱技术运营商及Physical AI投资控股公司”。交易旨在打造四核全智EAI机器人Pure-Play第一股,破解估值折价,避免股东权益持续稀释。
曝光招股书显示,AI独角兽Anthropic在2025年净亏损420亿美元,并计划未来一年向云服务、算力和基础设施投入5180亿美元。同年营收翻12倍至近46亿美元,但受早前融资相关负债减值拖累,营业层面仍亏损超80亿美元,扩张与烧钱并存。
<br />过去十年,LED显示屏产业的核心叙事几乎只有一个词——点间距。从P10到P1.2,从户外广告牌走进会议室、演播厅,间距的缩小成为衡量产业进度的唯一标尺。而如今,这条曲线正在逼近它的物理极限:当点间距下探至P0.4以下,传统的SMD封装已经难以为继,产业竞争的焦点从"做多小"转向了"怎么做"。<br /><br />这场转向的核心,是封装路线之争与芯片尺寸之争。<br /><br /><
<br />过去十年,LED显示屏行业最确定的一件事就是降价。P1.2以下小间距产品单价较五年前下跌逾六成,COB封装路线从高端选项变成中端标配,MIP封装则把芯片级封装推向更小的像素间距。但降价带来的不是利润,而是洗牌:头部企业靠规模与海外渠道守住毛利率,二线厂商在账期与库存之间挣扎。最新一批行业报道显示,产业投资重心已从“扩产能”转向“补场景”。<br /><br /><br />Micro
<br />过去十年,LED显示屏行业最熟悉的叙事是点间距的军备竞赛:P2.5、P1.5、P0.9,数字越小球越贵。但这条曲线已经逼近物理与成本的双重天花板——再往下走,灯珠间距的缩小带来的边际体验提升,已难以支撑成倍的售价溢价。<br /><br />于是,战场的重心在最近两年迅速转移到了封装路线。COB(板上芯片)与MIP(Micro LED in Package)成为两大阵营的旗帜。COB把
最新网站