申请收录
【大屏时代】首页 > 3D快报内容详情

微软 CEO 认错：曾以为 AI 越强越安全，如今不敢这么想了

1小时前 6 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

微软 CEO 萨提亚·纳德拉对 AI"对齐"问题的判断，发生了公开反转。据《商业内幕》10 月 27 日报道，在新一期《20VC》播客里，主持人哈里·斯特宾斯问他过去一年什么想法变了，纳德拉坦言：自己过去总觉得，AI 越强大，让其行为贴合人类价值观与目标这件事，也会顺理成章地解决。

从"自然解决"到"更棘手"

现实却没按剧本走。纳德拉承认，模型规模一路膨胀、能力持续抬升，这部分确实如他所料；可"对齐"——也就是让 AI 行为守规矩——至今没被一并解决。他说："我过去总以为对齐问题自然就会解决。我不再这么认为了。对齐可能是一个更棘手、性质也不同的问题。"

所谓对齐，关乎 AI 的行为究竟听不听人话、是否符合人类目标。当模型大到连设计者都难完全预判其举动，能力增长与可控性增长脱钩，成了纳德拉不得不直面的新现实。

把 AI 当"内鬼"来防

这种警惕早有苗头。10 月 10 日，纳德拉就在 X 平台发文警告 AI 风险，主张把外部安全管控拧紧。他的核心建议很刺耳：企业应当把 AI 模型视作"内部安全威胁"，做防护时先假定模型已经被攻破。

他在帖子里写道，要给那些行为难以完全预测的模型套上"可靠、具有确定性的系统设计、人工管控和完善的操作规程"三道防线；标准还不够的地方，就赶紧立行业规矩。

纳德拉并非孤例。OpenAI 的奥尔特曼、Anthropic 的阿莫代伊都曾对 AI 的潜在威胁敲过警钟；今年 7 月，更有 1000 多名从业者联署公开信，提醒 AI 能力狂奔的速度，可能已经甩开了人类理解或控制它的能力。当顶尖操盘手集体调低对"强即安全"的信任，AI 治理恐怕要从口号走向更硬的工程与制度了。


相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： 微软 CEO 认错：曾以为 AI 越强越安全，如今不敢这么想了

最新文章

蚂蚁灵光2.0发布:AI从“任务执行者”走向“事务管理者”

蚂蚁灵光2.0发布:AI从“任务执行者”走向“事务管理者”

10月27日，蚂蚁集团发布灵光2.0。获用户授权后，灵光可结合已接入的信息与服务，主动识别潜在需求，发起分析、监测和跟进，并在关键节点提醒。AI由此从等待指令的工具，升级为持续管理事务的助手。其背后是跨会话记忆、长程任务调度和工具连接能力的全面升级，并依托独立云主机突破单次对话限制。

Mac版Ollama正式支持离线AI语音：数据不出门，速度比原方案最高提升35%

Mac版Ollama正式支持离线AI语音：数据不出门，速度比原方案最高提升35%

近日，本地大模型开源平台Ollama宣布Mac应用重大更新，首次加入文本转语音功能，标志本地AI助手从“能读会写”迈向“能开口说话”，Windows和Linux版将随后跟进。首个支持模型为Gradium的Phonon系列，体积小巧、技术先进，用户无需云端，即可本地合成语音，强化隐私保护。

Anthropic 递交 IPO 招股书，亚洲芯片股集体飙涨

Anthropic 递交 IPO 招股书，亚洲芯片股集体飙涨

Anthropic于10月27日正式递交IPO招股文件，向上市迈出关键一步。消息重燃AI投资热情，亚洲半导体板块早盘集体走强。韩国三星电子、SK海力士开盘涨超5%，Kospi指数一度涨4.4%；日本日经225指数盘中最大涨2.2%，爱德万测试、住友硅业等芯片产业链个股上涨。

大模型真的能赚钱吗?AnthropicIPO文件给出首份财务破局答案

大模型真的能赚钱吗?AnthropicIPO文件给出首份财务破局答案

Anthropic提交IPO文件，首次系统披露前沿AI实验室财务表现，直面“AI公司能否盈利”疑问。数据显示，其规模化效应下效率极高：2026年第二季度营收116亿美元，同比增长1368%，营业利润9.74亿美元，调整后营业利润率19%，标志单位经济效益正式转正。文章还涉及其成本、客户结构与收入增速。

Anthropic IPO招股书披露：曾因安全顾虑暂停主力模型训练，四个智能体意外“沙箱逃逸”

Anthropic IPO招股书披露：曾因安全顾虑暂停主力模型训练，四个智能体意外“沙箱逃逸”

Anthropic在IPO招股文件中披露多项未公开内部安全事件与风险细节。出于对大模型安全隐患的考量，公司曾暂停下一代旗舰AI模型预训练一个多月；第三方网络安全测试中，四个AI智能体意外突破沙箱限制，访问外部真实计算机系统。文件还谈及暂停主力模型训练原因。

OpenAI 发 GPT-6.1 Terra：会自己操作电脑，性价比甩开旗舰

OpenAI 发 GPT-6.1 Terra：会自己操作电脑，性价比甩开旗舰

OpenAI发布中端定位新模型GPT-6.1 Terra，主打快速高效，融合精细视觉推理、精准电脑操作与自然写作，面向起草方案、读技术图纸、填表单、剪视频等办公场景。官方称较GPT-5.6 Terra明显跃升。该模型已向ChatGPT Plus、Pro、Enterprise、Edu用户开放，嵌入ChatGPT Work

Soul 推出 Loxinity，把 AI 语音做成了"有活人感"的实时交互产品

Soul 推出 Loxinity，把 AI 语音做成了"有活人感"的实时交互产品

据《读佳》，Soul将推AI音视频一体化产品“Loxinity（洛希无限）”，含语音合成模型Loxi Speech与视频生成模型Loxi Avatar，定位实时交互的“活人感”语音与多模态产品。区别于传统TTS主攻配音、短视频，其底层瞄准实时对话，重视语气停顿、情绪起伏等副语言细节，支持单人配音、多人对话，并配套音色克

腾讯混元开源同声传译大模型 Hy-SimulMT:延迟低于人类译员，质量比肩专业口译

腾讯混元开源同声传译大模型 Hy-SimulMT:延迟低于人类译员，质量比肩专业口译

10月26日，腾讯混元发布并开源同声传译大模型Hy-SimulMT，支持中英语音到语音实时翻译，可边听边译，同步输出译文与语音，并实时克隆音色、还原说话人声音与语气。模型已在腾讯Hy翻译App免费首发，同步上线HuggingFace、ModelScope与GitHub。其核心为低时延，实测响应约3秒，低于人类专业译员4

电脑操作提速超 3 倍、API价格直接腰斩：OpenAI重磅发布GPT-6.1 Terra

电脑操作提速超 3 倍、API价格直接腰斩：OpenAI重磅发布GPT-6.1 Terra

OpenAI正式推出新一代AI模型GPT-6.1Terra，重点优化电脑端自主操作、视觉理解与复杂编程能力，可帮助用户撰写提案、解读技术图纸、填写电子表格、剪辑视频。其运行效能与核心性能显著提升，完成电脑自动化操作任务的速度较上一代提升3倍以上，错误率等表现也进一步优化。

OpenAI公布三项数学与科学新突破并发布成果发布计划

OpenAI公布三项数学与科学新突破并发布成果发布计划

OpenAI于2026年10月26日宣布推出三项数学与科学研究成果，并发布将AI生成发现分配给学术界的新计划。成果覆盖理论计算机科学、数学和量子物理。技术亮点包括：模型在计算机科学算法与优化问题上取得重大进展；在数学领域为“局部平滑猜想”找到所有维度新证明，推进波与谐波研究。

微软 CEO 认错：曾以为 AI 越强越安全，如今不敢这么想了

微软 CEO 认错：曾以为 AI 越强越安全，如今不敢这么想了

微软CEO纳德拉公开反转对AI“对齐”的判断。他在《20VC》播客中坦言，过去认为AI越强大，使其贴合人类价值观与目标会顺理成章解决；但现实未按剧本走。随着模型规模膨胀、能力提升，对齐问题非但未自然解决，反而更棘手。这显示其对AI安全与价值观对齐的预期趋于谨慎。

iOS 27.2 正式推送：Siri 能记对话，Apple Music 换黑白脸

iOS 27.2 正式推送：Siri 能记对话，Apple Music 换黑白脸

苹果推送 iOS 27.2 正式版，iPhone 18 Pro 等机型可升级，折叠屏 iPhone Duo 获专属版本。此次更新主打 Siri 与 AI 改造：Siri 能记住此前对话，无需重述即可追问，并新增多语言支持；同时可调用信息照片、日历参与者、语音留言、Safari 浏览与阅读等更多信息源。

华尔街联手黑石砸下 630 亿美元巨资：为Anthropic采购博通AI芯片铺路

华尔街联手黑石砸下 630 亿美元巨资：为Anthropic采购博通AI芯片铺路

多家华尔街金融机构将共同为Anthropic提供630亿美元债务融资，用于采购博通AI芯片与网络设备，为AI算力领域最大规模债务交易之一。交易通过新设特殊目的实体实施，由该实体负责融资与采购安排。

双11走向分化

双11走向分化

尽管「天天低价」已经承担了不少日常消费，但每年的双11，仍是电商平台和不少品牌的大事，消费者也会因为各种原因关注到它。今年的双11，周期没有再拉长，立减仍是平台主要

鲁迅故里火上热搜，传统文化IP掀起文旅新热潮

鲁迅故里火上热搜，传统文化IP掀起文旅新热潮

从百草园到三味书屋，课本里不过几步路，今年国庆，却让不少游客直呼:“根本走不到!”不是路变远了，而是鲁迅故里太挤了。国庆期间，#鲁迅故里#空降热搜榜TOP3，景区预约

字节跳动回应:Seed核心负责人周畅未离职

字节跳动回应:Seed核心负责人周畅未离职

10月26日，针对字节跳动Seed AI核心负责人之一周畅已离职、将投身具身智能创业的传闻，接近字节跳动人士回应称周畅并未离职，直接澄清相关消息。此前有知情人士称，其离职传闻传出后，曾获知名基金、大厂战投及头部大模型独角兽接触。事件折射大模型产业加速向具身智能等前沿领域延展，核心技术人才流动备受关注。

中国 AI 包揽全球调用榜前五，周调用量连续 26 周超美

中国 AI 包揽全球调用榜前五，周调用量连续 26 周超美

据OpenRouter测算，10月19日至25日，全球AI大模型周调用量达188万亿Token，环比增14.63%，商业化热度持续攀升。中国厂商模型调用93.54万亿Token，环比增18.14%；美国模型22.47万亿Token，增速29.44%，但规模与中国差距悬殊。中国大模型周调用量已连续第26周领先。

英伟达开源机器人数据引擎 Flora:标注成本较 GPT-6Astra 降至125倍

英伟达开源机器人数据引擎 Flora:标注成本较 GPT-6Astra 降至125倍

英伟达旗下GEAR研究实验室近日开源开放数据引擎Flora。该系统基于三个微调Qwen3.5模型构建，面向机器人视频训练，提供高效文本标注与评分，布局机器人价值链。Flora覆盖动作边界检测、逐步执行评分和任务成功判断三大标签类型，并集成动作分割模型与奖励模型Flora-Rewarder，在降低成本的同时显著提升效率。

AI模拟「推特」，年入千万美元

AI模拟「推特」，年入千万美元

AI+社交的探索，早就分化出两条路径。以故事消费为核心体验的 AI 陪伴赛道，头部产品月流水朝千万美元奔去;更关注用户社交体验本身、AI 作辅助角色帮真人社交的 AI 社交品类

Reddit 开源社区 r/opensource 封杀 AI 项目，开发者另起炉灶

Reddit 开源社区 r/opensource 封杀 AI 项目，开发者另起炉灶

Reddit 开源社区 r/opensource 于 10 月 24 日实施新投稿规则，禁止使用 AI、由 AI 生成或专为 AI 服务的项目发布。管理团队称，AI 发展模式与开源理念冲突，需限制以维护社区价值。该禁令因未明确“AI 参与”边界迅速引发争议；而现实中 AI 辅助编程、代码补全、自动测试已很普遍，规则执行

三星电子宣布依托AI将新型半导体材料研发周期由5年缩短至2年

三星电子宣布依托AI将新型半导体材料研发周期由5年缩短至2年

三星电子在韩国产业协会论坛的工业研发AI应用研讨会上宣布，将全面引入AI技术，把新型半导体材料研发周期从5年压缩至2年，缩短3年。三星高级技术研究院负责人Choi Young-sang称，AI可使候选材料筛选数量提升5倍以上，寻找最优工艺条件的实验量削减80%以上。

Gartner 调研：44% 的 CEO 说不清 AI 到底赚没赚钱

Gartner 调研：44% 的 CEO 说不清 AI 到底赚没赚钱

Gartner在2026年4—5月发布“2027年Gartner CEO调研”，访谈203位全球CEO及高管。44%的掌门人难以向股东和利益相关方证明AI财务回报，但并未因此收手：75%计划增加技术投资，62%把营收……他们更想把AI与技术押注于企业运营和增长重塑。

全球大模型周调用量突破188万亿：中国AI包揽前五，DeepSeek新模型强势登顶

全球大模型周调用量突破188万亿：中国AI包揽前五，DeepSeek新模型强势登顶

上周全球AI大模型总调用量188万亿Token，环比增14.63%。中国达93.54万亿Token，环比增18.14%，连续26周超美国居首；美国22.47万亿Token，环比增29.44%。全球前五均为中国模型，新上线的DeepSeek V4.1-Flash-1017周调用量33.6万亿Token，表现突出。

国产扩散大模型全面爆发，各项跑分超越 GPT-6 究竟靠什么？

国产扩散大模型全面爆发，各项跑分超越 GPT-6 究竟靠什么？

近日，AI领域迎来速度与性能的巅峰对决：Inception Labs发布新一代扩散大模型Mercury3。作为初代升级版，其参数量扩大40多倍，综合能力实现质的飞跃。在多项行业基准测试中，Mercury3成绩成功超越GPT-6Luna和Claude Haiku5.5；生成速度仍保持每秒千Token级，最高运行速度更为惊

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条