申请收录
【大屏时代】首页 > 3D快报内容详情

李飞飞谈 AI 安全：不能只让开发者评估自己的系统

59分钟前 4 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。

评估不能只交给开发公司

作为斯坦福大学教授、World Labs 联合创始人，李飞飞周二表示，尽管 AI 公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。她接受彭博电视采访时称：“我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业和政府也应该共同承担责任。”

随着 AI 系统能力不断增强，人们对其潜在风险的担忧也在加剧。硅谷一些领导人警告，这项技术发展速度过快，可能最终超出人类控制。最近几周，Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥特曼都呼吁放缓前沿模型的开发速度，两人将于周三在联合国安全理事会讨论 AI 安全问题。

李飞飞表示，AI 可能带来的生存性风险，最终取决于人类选择如何开发、治理和使用这项技术。她强调，这一原则同样适用于 AI 以外的技术——从电力、蒸汽机到现代交通工具，人类社会都需要在技术可能带来的益处与人身安全之间寻求平衡。她指出，人类“掌握着技术的力量”，“我们必须掌握控制权。AI 关乎的不是 AI，而是人类。它关乎我们共同以及个人的尊严和自主权，也关乎我们的责任。”

人类必须掌握控制权，辩论愈演愈烈

李飞飞的言论，为政策制定者与 AI 行业领袖之间日益激烈的辩论增添了新声音，焦点正是应如何严肃对待有关这项技术最极端风险的警告。周二早些时候，美国总统特朗普在纽约联合国大会发表讲话时，驳斥了对 AI 生存威胁的担忧，称其为“一场骗局”，并强调有必要继续全速发展这项技术。

李飞飞还指出，关于 AI 系统行为的讨论，已经超出了推动当前热潮的所谓“前沿模型”。她创办的 World Labs 正在开发能够生成和重建三维环境的“世界模型”，该技术可用于训练和评估机器人，并赋能设计、医疗等行业应用。她表示，随着这些系统走向现实世界应用，行业面临同一个根本性问题：如何评估能力日益强大的 AI，并判断其是否按预期运行。


相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： 李飞飞谈 AI 安全：不能只让开发者评估自己的系统

最新文章

麦肯锡泼冷水：智能体账单可能比聊天AI贵 30 倍，企业正被自己的AI热情反噬

麦肯锡泼冷水：智能体账单可能比聊天AI贵 30 倍，企业正被自己的AI热情反噬

麦肯锡警告，随着智能体普及，企业AI支出恐继续上升，其烧钱逻辑不同于聊天工具：文本AI只生成内容，智能体需实际完成任务，运行成本明显更高；且任务常拆成多步骤，同一目标不同实现路径成本差异悬殊，企业面临新的成本压力。

抖音卖书，悄悄做到了第一名

抖音卖书，悄悄做到了第一名

沿着董宇辉走过的路，孙东旭走回来了。5月下旬，在辞任东方甄选CEO半年多后，孙东旭出现在自己的“孙美丽”抖音直播间，开启了首场图书带货。这场直播不到两小时，同时在线

AI占卜，为什么一定要做硬件？｜对话创始人

AI占卜，为什么一定要做硬件？｜对话创始人

对话背景:AI 情绪类产品赛道持续升温中，据 Grand View Research2026年8月发布的最新报告，2026年全球灵性健康应用市场（包含宗教、冥想、占卜等分类）规模预计增加到28亿美

AI新作全网吸粉300万，流水超千万，创始人：更像旅行青蛙

AI新作全网吸粉300万，流水超千万，创始人：更像旅行青蛙

这个小蘑菇毛茸茸的，只有大概4厘米高，它还有很多不同颜色的帽子。每天不同时间段，你都能看到它在做各种各样的事情。除了看它的生活，你还能和它互动。比如拍照发给它，它

世卫组织发布重磅报告，呼吁全面升级医疗 AI 研究伦理监管

世卫组织发布重磅报告，呼吁全面升级医疗 AI 研究伦理监管

世卫组织2026年9月21日发布《人工智能相关健康研究：伦理审查与监管》报告，指出AI正加速健康研究和医疗进步，但若缺乏伦理防线与监管，可能带来新风险，危及人权、社会公平和公众信任。报告对现有伦理审查机制发出警告，强调需加强伦理审查与监管。

DeepSeek 传将向联合国安理会闭门通报 AI 潜在风险与安全挑战

DeepSeek 传将向联合国安理会闭门通报 AI 潜在风险与安全挑战

人工智能竞争正上升为全球安全与地缘政治议题。据报道，中国AI初创企业DeepSeek预计本周将向联合国安理会就人工智能潜在风险与安全挑战作专题通报，此举凸显国际社会对中国大模型企业在技术治理与风险防范方面的高度关注。

OpenRouter发布 2026 嵌入模型选型指南：实测 19 款、 37 个目录条目，按场景把最佳候选摆上桌

OpenRouter发布 2026 嵌入模型选型指南：实测 19 款、 37 个目录条目，按场景把最佳候选摆上桌

嵌入向量模型将输入压缩为向量，让相关内容靠近，实现按语义检索，是RAG、多语言档案、代码仓库、图文集合等场景的选型关键。OpenRouter于9月11日核实37个嵌入模型目录，通过API对19个模型批量请求、运行28项检查，发布实测指南厘清选型逻辑。

苹果暂缓AI吊坠，AI可穿戴战略转向手表、耳机与智能眼镜

苹果暂缓AI吊坠，AI可穿戴战略转向手表、耳机与智能眼镜

苹果推迟一款配备摄像头的AI可穿戴吊坠项目；该设备可作项链或固定在衣物上，通过摄像头持续采集视觉数据，交由新一代Siri处理。苹果正探索多种AI可穿戴形态，2026年9月发布的Apple Watch Series 12与Ultra 4已加入Siri AI及音频智能等功能，被视为其AI穿戴布局的重要产品。

火山引擎Seedance2.5上线Draft模式:480P试错、1080P成片，成本最高省77%

火山引擎Seedance2.5上线Draft模式:480P试错、1080P成片，成本最高省77%

火山引擎为Seedance2.5 API推出Draft样片模式，将视频生成分两阶段：先用480P低成本生成样片，供创作者检查场景、构图、动作、对白音效与运镜节奏，调整提示词和素材后，再基于样片ID生成1080P成片。模型关联提示词、参考素材及seed、比例、时长等参数二次推理，保证成片结构一致。

Claude Code v2.1. 280 落地：Opus 5. 5 正式接棒默认王座，百万上下文配 4 美元骨折价把账单压进地心

Claude Code v2.1. 280 落地：Opus 5. 5 正式接棒默认王座，百万上下文配 4 美元骨折价把账单压进地心

Anthropic在Claude Code v2.1.280中正式将Claude Opus5.5设为默认Opus模型，坐实此前的“跳级突袭”传闻。新旗舰支持100万Token上下文，定价为每百万Token输入4美元、输出20美元、缓存读取0.20美元，与此前泄露的内测价单完全一致。

韶音首款 AI 耳机 OpenFit 2 AI 亮相云栖大会，重磅首发“AI 实验室”四大新功能

韶音首款 AI 耳机 OpenFit 2 AI 亮相云栖大会，重磅首发“AI 实验室”四大新功能

2026云栖大会上，韶音首次参展并推出首款AI耳机OpenFit2AI，联合光帆科技首发“AI实验室”功能，展示通义千问大模型在音频穿戴设备中的深度落地。该耳机融合Qwen大模型，主打长时录音等智能能力，成为韶音布局智能音频赛道的开山之作。

李飞飞谈 AI 安全：不能只让开发者评估自己的系统

李飞飞谈 AI 安全：不能只让开发者评估自己的系统

李飞飞呼吁由独立机构和公共部门加强对AI的监督，认为日益强大的AI系统安全评估不应只由开发公司负责。她指出，企业内部研究可评估单个模型，但无法替代政府、行业和学术机构共同制定的更广泛安全评估。

Win11 惊现 AI 恶意软件 ClosedQuorum：入侵后自主决策，专挖最有价值信息

Win11 惊现 AI 恶意软件 ClosedQuorum：入侵后自主决策，专挖最有价值信息

思科Talos披露AI恶意软件ClosedQuorum，主要针对Windows 11，入侵后调用谷歌Gemini、DeepSeek、Qwen、Mistral等模型自主决策，专门挖掘目标最有价值信息。

AI会自己返工到达标为止?豆包工作上线目标模式，先给计划、确认后才干活

AI会自己返工到达标为止?豆包工作上线目标模式，先给计划、确认后才干活

9月23日，字节跳动AI办公助手豆包工作发布更新：任务模式新增“目标”与“计划”两种模式，同步上线任务队列、Markdown文件编辑和深色模式，电脑端全量推送。其中目标模式面向有明确验收要求的复杂任务，用户设定验收目标后执行，完成后系统逐项校验是否达标。

医疗 AI 走向全球普惠：Anthropic 携手 OpenEvidence，将临床决策支持工具免费覆盖百国

医疗 AI 走向全球普惠：Anthropic 携手 OpenEvidence，将临床决策支持工具免费覆盖百国

Anthropic与医学知识平台OpenEvidence达成战略合作，将基于人工智能的临床决策支持工具免费提供给美国和欧洲以外医疗资源匮乏地区的医生，打破循证医学知识获取的地理限制，缓解当地医学文献、专科医生及继续医学教育资源不足等痛点，推动全球医疗资源公平可及。

高通发布骁龙 8 Elite Gen 6 与 Extreme 芯片，支持本地运行 300 亿参数大模型

高通发布骁龙 8 Elite Gen 6 与 Extreme 芯片，支持本地运行 300 亿参数大模型

高通在骁龙峰会上发布骁龙8 Elite Gen6与骁龙8 Elite Extreme Gen6两款旗舰处理器，主打AI赋能，增强端侧智能算力，推动AI代理在手机端深度个性化应用。新芯片搭载全新传感中枢，可运行高达2.0亿参数的小型模型，提升本地大模型支持能力。

阿里云发布Qwen Book:AI智能体电脑正式亮相

阿里云发布Qwen Book:AI智能体电脑正式亮相

阿里云在2026云栖大会发布AI智能体电脑Qwen Book，主打自主理解意图、持续学习与长期任务执行。产品配备Skill键盘阵列、全局AI按键和语音手写笔，支持7×24小时重度任务运行，优化跨应用、跨Agent协同效率。其基于“OS as Harness”理念，以千问端云模型为核心，深度融合操作系统、应用、云服务与硬

最高折扣 50%：微软推 AI 替你“干活”，Copilot 变身超级应用

最高折扣 50%：微软推 AI 替你“干活”，Copilot 变身超级应用

微软被曝将大幅降低企业版 Copilot 订阅价格，最高打五折，或于10月落地；同时推出“超级AI应用”，推动其从办公辅助工具升级为能直接替企业干活的自动化平台，以“降价+升级”应对AI助手激烈竞争。

千问发布 Qwen-Audio-3.1系列语音大模型，五款模型全线降价最高95%

千问发布 Qwen-Audio-3.1系列语音大模型，五款模型全线降价最高95%

千问9月23日发布Qwen-Audio-3.1系列语音大模型，形成覆盖理解、生成、交互与创作的完整音频能力栈，含ASR、ASR-Next、TTS、TTS-Next及Realtime。API已上架千问AI平台，ASR-Next即将上线。同步全线降价：TTS约70%、Realtime约85%、ASR达95%。ASR增强多语

盒马部署“AI验蟹师”：不到 1 分钟检测 50 只大闸蟹

盒马部署“AI验蟹师”：不到 1 分钟检测 50 只大闸蟹

盒马在大闸蟹上市季部署“AI验蟹师”，利用AI视觉识别结合称重数据检测肥满度，实现自动过检与分拣。基于2025年超1000万只大闸蟹数据积累，模型和检测效率提升，系统不到1分钟可检测50只蟹，配合传送带自动分拣，整体效率提升数倍。

千问一口气端出五款语音大模型，TTS价格腰斩七成、ASR砍掉九成五，把耳朵和嗓子全打包给了开发者

千问一口气端出五款语音大模型，TTS价格腰斩七成、ASR砍掉九成五，把耳朵和嗓子全打包给了开发者

阿里千问9月23日升级语音栈，推出Qwen-Audio-3.1系列五款模型，覆盖识别、合成、实时交互、音频创作与理解，形成“理解—生成—交互—创作”完整矩阵。价格大幅下调：TTS降约70%、Realtime降约85%、ASR降95%，大幅降低语音使用门槛。

全新深蓝 S07 正式官宣接入豆包大模型，9 月 28 日震撼上市

全新深蓝 S07 正式官宣接入豆包大模型，9 月 28 日震撼上市

深蓝汽车董事长邓承浩宣布，全新深蓝S07将接入字节跳动豆包大模型，并搭载AI激光智驾系统，9月28日上市。他指出，智能座舱竞争正从“堆料”转向AI大模型深度赋能，改变用户适应机器的繁琐交互逻辑，推动汽车智能化规则颠覆。

阿里千问发布 Qwen-Audio-3.1：五款语音模型同发，ASR 价格直降 95%

阿里千问发布 Qwen-Audio-3.1：五款语音模型同发，ASR 价格直降 95%

千问发布Qwen-Audio-3.1系列语音大模型，全面升级语音识别、合成与实时交互，并推出音频创作模型TTS-Next与理解模型ASR-Next，五款模型覆盖“理解—生成—交互—创作”完整能力栈。同时全线降价，TTS降约70%，降低使用门槛。

腾讯WorkBuddy企业版办公套件化升级:多端账号、资产打通，企业生产力再升级

腾讯WorkBuddy企业版办公套件化升级:多端账号、资产打通，企业生产力再升级

9月23日，腾讯WorkBuddy企业版发布办公套件化升级，首批接入腾讯文档、乐享、网盘、安全与效能运营平台及AI设计智能体Ardot。升级后价格不变，将文档、知识库、网盘、设计、安全与效能等能力整合进同一企业办公体系；部分产品更高版本权益可在控制台按需增购。WorkBuddy在套件中承担Agent Harness角色

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条