申请收录
【大屏时代】首页 > 3D快报内容详情

OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

44分钟前 5 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

OpenAI 近日正式宣布，将在未来几周内全面升级并加强 ChatGPT 对暴力相关内容的限制，同时针对未成年人用户推出更加严格的武器和安全系统信息防护机制。

此次政策调整的核心，在于对高风险对话采取更果断的干预手段。根据新公布的措施，如果系统检测并评估用户的对话显示出持续聚焦于暴力或严重伤害他人想法的倾向，ChatGPT 将具备主动结束对话的能力。更为严厉的是，若用户因这类问题被系统多次终止对话，其账号将面临被暂停使用甚至直接封禁的处罚。

在具体的内容过滤边界上，原有政策一如既往地禁止提供任何帮助用户策划或实施暴力行为的操作指导。而在此次调整中，限制范围进一步扩大到了历史层面——模型针对“过去大规模袭击事件及其实施者”相关问题的回答细节将被大幅缩减，甚至直接选择拒绝回答。具体受限内容不仅涵盖了重现袭击过程所涉及的武器、装备及其获取途径，还包括限制用户查询旨在放大袭击者知名度的伤害规模详细比较。需要注意的是，这一系列限制适用于全体用户，不区分年龄段与提问目的，即便是成年用户在进行相关查询时也将受到相同的约束。

除了面向所有用户的通用限制外，针对被识别为未满18周岁的青少年群体，OpenAI 进一步加码了精细化保护。系统将针对性地限制可能被用于实施暴力的武器和安全系统的实用信息，即便相关提问表面上看起来并未直接显露暴力意图，该项保护也会自动触发。不过，OpenAI 强调，青少年依然可以正常通过 ChatGPT 寻求帮助，例如学习如何预防或缓和暴力，或是获取与可信赖成年人取得联系的有效指导。

为了确保青少年保护机制的精准落地，OpenAI 引入了改进后的年龄预测机制。该机制能够结合用户的日常行为等多维度信号，持续对账号是否属于未成年人进行动态评估，并在适当时机自动匹配相应的保护措施。如果用户的账号不幸被系统误判为未成年人，也可以通过主动提交身份信息的方式进行验证与调整。

相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

最新文章

299元，泡泡玛特开始卖游戏机

299元，泡泡玛特开始卖游戏机

泡泡玛特把LABUBU装进了游戏机。 10月23日，泡泡玛特全新品类“THE MONSTERS饮料摇摇趣拍机”正式在线下发售，单台售价299元。

特斯拉人形机器人迎来重大突破：量产版Optimus首次搭载端到端视觉大模型，动作流畅度对标真人

特斯拉人形机器人迎来重大突破：量产版Optimus首次搭载端到端视觉大模型，动作流畅度对标真人

特斯拉人形机器人Optimus关键升级：最新量产版首次全面搭载与FSD同源的端到端视觉大模型。该架构取代传统硬编码程序，使机器人在复杂物理环境中的自主决策和肢体动作实现质变。技术路径上，新一代Optimus放弃模块化分步算法，改由神经网络直接驱动决策与动作，提升自主性与适应性。

OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

OpenAI宣布，未来几周将全面升级ChatGPT对暴力相关内容的限制，并针对未成年人推出更严格的武器和安全系统信息防护机制。此次政策核心是对高风险对话采取更果断干预：若系统检测到用户持续聚焦暴力或严重伤害他人，ChatGPT可主动结束对话。文中还提及更严厉措施，但后续内容未完整显示。

行业首个自进化金融大模型登场：度小满联手港科大发布轩辕4.5

行业首个自进化金融大模型登场：度小满联手港科大发布轩辕4.5

11月2日，度小满联合香港科技大学及香港生成式人工智能研发中心（HKGAI），在2026香港金融科技周发布轩辕4.5金融增强大模型。作为金融垂直领域创新，该模型依托RSI技术，在获客、风控、客户经营等核心场景效果提升30%，推理成本仅为通用模型10%，展现产学研深度协同，助力打造国际化金融智能新高地。

北京出台智能眼镜消费政策：购新补贴15%，单件最高500元

北京出台智能眼镜消费政策：购新补贴15%，单件最高500元

北京市商务局印发《促进智能眼镜消费政策指南》，推出购新补贴、首店首发、品牌联名、国际化消费场景、离境退税、数字化转型、国际市场开拓等七项举措，推动智能眼镜消费增长，释放新型智能终端市场潜力。消费者购买符合条件产品，可依规享受2026年家电以旧换新及数码智能产品购新补贴。

韩国史上最大预算案：820 万亿韩元，AI 与半导体成绝对主角

韩国史上最大预算案：820 万亿韩元，AI 与半导体成绝对主角

李在明公布韩国2027年预算案，总支出增12.8%至820.9万亿韩元（约4.09万亿元人民币），创历史新高。重押AI与半导体：21.3万亿韩元（约1061亿元）投半导体、物理AI和AI数据中心，近2026年两倍；另4.7万亿韩元（约234亿元）攻自研大模型，目标直指“全球”。

两次逆势下注，汪滔真能接扎克伯格的班？

两次逆势下注，汪滔真能接扎克伯格的班？

AI行业的风口一轮接一轮，每一波都有人扎堆，但并不是扎堆的地方就一定有金矿。汪滔的十年轨迹里，有两次选择跟主流拧着来:19岁辍学做数据标注，29岁扔掉自己创办九年的公司

AI视频，「Runway」逆袭？

AI视频，「Runway」逆袭？

打开如今的视频生成模型能力榜单，排名前列的模型均来自谷歌、字节、快手等等大厂。三年前，AI 视频赛道绕不开的「Runway」已经不在第一梯队。

AI主播48小时赚4万打赏，你会为AI花钱吗?

AI主播48小时赚4万打赏，你会为AI花钱吗?

AI也开始直播“冲业绩”了。前段时间，造梦次元联合生数科技，让AI主播紫樱开启了一场限时营业挑战。目标两个小时内攒够规定的营业值算完成任务，否则进度清零，重新挑战

OpenAI 要搞大公关：把"数据中心"改名"AI 算力园区"

OpenAI 要搞大公关：把"数据中心"改名"AI 算力园区"

OpenAI正酝酿一场面向华盛顿与选民的公关攻势。据Axios，公司拟在周二美国中期选举结束后启动大规模宣传，由首席全球事务官克里斯·莱汉操盘。他视中期选举为2028年总统大选“预告片”，认为AI将成竞选核心议题。在监管与舆论收紧下，OpenAI欲抢先定义叙事，打一场防御战。

美团龙猫发布 LongCat-2.5:1.6万亿参数原生多模态模型

美团龙猫发布 LongCat-2.5:1.6万亿参数原生多模态模型

美团龙猫11月2日发布LongCat-2.5，定位长程智能体任务的原生多模态模型，总参数1.6万亿，每token激活约480亿。它在LongCat-2.0基础上强化原生视觉理解与智能体编程，在线体验和API已开放，GitHub与HuggingFace权重将上线。技术上，视觉信号被表示为多层级离散token，沿用Long

微软 AI 掌门人划红线：AI 不该有意识，有了就全员暂停

微软 AI 掌门人划红线：AI 不该有意识，有了就全员暂停

微软AI负责人、DeepMind联合创始人穆斯塔法·苏莱曼11月2日在X发长文，公开给“AI意识”划禁区：当前模型并无意识，人类应让这一状态永远维持。作为执掌微软AI的巨头高管，其表态分量远超普通工程师担忧；措辞更从“没有”推进到“不该有”，比单纯描述现状更进一层。

xAI Grok正式支持支付宝与银联，中国大陆用户迎首月半价优惠

xAI Grok正式支持支付宝与银联，中国大陆用户迎首月半价优惠

11月1日消息，马斯克旗下xAI（又称SpaceXAI）的旗舰AI助手Grok已全面支持中国银联和支付宝付款；订阅页面地区选项也可直接选择中国大陆、中国香港、中国澳门及中国台湾。此次支付方式拓宽并非毫无征兆，此前Cursor已于2025年4月9日率先支持支付宝支付，相关动向早有铺垫。

Anthropic出手：Claude Code搭载Opus 5. 5 正式封杀复刻特定现有游戏

Anthropic出手：Claude Code搭载Opus 5. 5 正式封杀复刻特定现有游戏

近期AI工具大幅降低游戏开发门槛，独立游戏行业普遍焦虑作品被AI抢先克隆发售，不少开发者因担忧遭恶意抄袭，推迟公开测试或撤下试玩版。为此，Anthropic为搭载Opus5.5模型的Claude Code远程下发用户无法关闭的隐藏规则，要求AI不得复刻特定现有游戏，仅可……（原文至此）

Meta携手傅利叶仅用三月推出人形机器人原型Max

Meta携手傅利叶仅用三月推出人形机器人原型Max

Meta被曝与中国机器人企业傅利叶合作，仅用三个月打造出首款人形机器人原型“Max”，并于9月启动第二代Max2研发。原型身高约1.5米、重48千克，搭载英伟达Jetson Thor芯片，配可模拟人类表情的面部屏、扬声器与五指机械手，支持5米外识别声音、3米外理解手势。Meta CTO Bosworth内部亦曾谈及人形

Anthropic 更新 Claude 限制重制现有电子游戏

Anthropic 更新 Claude 限制重制现有电子游戏

Anthropic 近日更新 AI 助手 Claude，正式引入代码限制，禁止用户利用该模型重现现有商业电子游戏。X 平台曝光的系统指令显示，Claude 仅可创建原创游戏、特定类型游戏及使用用户自有设计和素材的游戏，严禁生成任何现有游戏的重制版本，即使重命名或伪装成原创项目也在禁止之列。技术人员 Addy Osman

阿里千问 AI 眼镜 OTA 升级：通话、看片都能实时翻译了

阿里千问 AI 眼镜 OTA 升级：通话、看片都能实时翻译了

11月2日，阿里旗下千问AI眼镜推送OTA更新，把“实时翻译”从手机搬到眼前。打电话、开跨国会议时，它能在耳边同步将对方的话译成母语；刷海外播客、上外语网课、看外语大片时，译文实时显示在配套千问AI穿戴App里。相比举手机看译文，眼镜形态解放双手，让人更自然接住对话节奏。

思科给 27 岁工程师"无限 Token"：放手去重写 98% 的旧代码

思科给 27 岁工程师"无限 Token"：放手去重写 98% 的旧代码

27岁工程师帕迪（帕德马纳班·克里希那穆提）差点被邮件埋没，如今获思科近乎无限AI算力预算。思科总裁兼CPO吉图·帕特尔交给他任务：用AI在24个月内重写公司98%遗留代码，预算不封顶。帕迪2023年联合创办实时翻译初创EzDubs，2025年随思科收购进入，正从边缘走向核心。

OpenAI计划将数据中心更名为“AI计算园区”以应对舆论压力

OpenAI计划将数据中心更名为“AI计算园区”以应对舆论压力

OpenAI拟在中期选举后调整公关战略，考虑将“数据中心”全面更名为“AI计算园区”，以缓解社会舆论和电力资源争议。其首席全球事务官克里斯·莱恩称，AI或成2028年美国总统选举关键议题。公司正酝酿系列政策提案，借重新命名基础设施凸显对地方经济的贡献。

AI生成的文字也将自带“防伪标签”：SpaceXAI宣布 11 月 7 日起为Grok全系列模型添加隐形水印

AI生成的文字也将自带“防伪标签”：SpaceXAI宣布 11 月 7 日起为Grok全系列模型添加隐形水印

欧盟《人工智能法案》正式落地并持续推进，全球AI厂商加速合规调整。SpaceXAI宣布，自11月7日起为旗下Grok系列大模型生成的文本内容全面引入隐形水印。该技术不插入隐藏字符或附加元数据，而是融入模型生成文本时的Token选择过程，使水印与生成机制深度绑定。此举被视为AI大模型合规调整的重要动向。

GPT-6.2 Astra与Claude 5. 5 新旗舰同日遭曝光，硅谷直接炸锅

GPT-6.2 Astra与Claude 5. 5 新旗舰同日遭曝光，硅谷直接炸锅

谷歌Gemini4Carbon登顶全球第一后，AI竞争再升级。本周末OpenAI与Anthropic下一代旗舰模型先后泄露，新一轮巅峰对决开启。OpenAI跳过GPT-6.1，将因安全测试问题回炉重炼一个月的模型升级为全新旗舰GPT-6.2 Astra，并已在Codex后台开始部署。

DeepSeek开源Super-agent架构:以经典计算机系统思想突破单会话智能体瓶颈

DeepSeek开源Super-agent架构:以经典计算机系统思想突破单会话智能体瓶颈

10月31日晚，DeepSeek Harness团队公布并开源自主Agent底层架构Super-agent。它并非独立产品，而是将调度、缓存、存算分离、看门狗等计算机经典思想引入Agent，在底层接管会话管理与上下文同步，以解放人类注意力，推动智能体从被动对话窗口向持续在线的自主协作者演进。

Fable 5. 5 测试曝光：Claude每次回答背后，都在偷偷执行你看不见的“安全审判”

Fable 5. 5 测试曝光：Claude每次回答背后，都在偷偷执行你看不见的“安全审判”

近日，Anthropic下一代旗舰模型（传称Fable5.5或Opus5.5）进入密集测试，细节流出引发关注。网友实测称其在意图理解、复杂任务处理和解题能力上显著升级，远超以往。同时，官方公开“自评估”安全机制，使该模型因能力与安全议题被推上舆论风口。相关消息仍在多方流传发酵。

Meta 把你的朋友圈变成试衣间：Style Sketch 让旧照片生出 AI 穿搭师

Meta 把你的朋友圈变成试衣间：Style Sketch 让旧照片生出 AI 穿搭师

Meta低调推出免费时尚应用Style Sketch，可连接Facebook或Instagram，从用户历年社交照片中识别衣物，拼出虚拟衣柜；新单品也支持现拍、短视频或相册导入，把散落衣服聚成数字衣橱。其目标不止收纳，攒够衣物后还会结合用户风格，向真人模特等方向延伸。

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条