申请收录
【大屏时代】首页 > 3D快报内容详情

ChatGPT 要能主动挂断危险对话，屡犯者直接封号

23分钟前 3 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

过去要靠用户自己收手，如今 AI 先把话筒抢过来。OpenAI 日前宣布，未来几周将给 ChatGPT 加上更硬的暴力内容闸门：当对话持续围绕暴力或严重伤害他人的念头打转，模型可以自行结束对话；若同一个账号多次因此类问题被掐断，封号也会落到头上。这并非从零立规——ChatGPT 原本就禁止提供策划或实施暴力的指导，此番升级是把"主动切断"补进了执行环节，从"被动拒答"走向"主动中断"，平台对危险内容的处理逻辑明显前移。

全年龄段一视同仁

新规把限制铺到所有用户，不因成年而网开一面。调整重点在"历史袭击事件"的回答尺度——模型会从安全角度缩减甚至拒绝提供细节，覆盖袭击中使用的武器、装备及获取途径，也限制那些可能放大施害者知名度的伤亡规模横向比较。换句话说，成年人和未成年人面对同一套收紧后的边界，差异只在深度：成年用户同样会被问住，只是不再额外追加武器与安防的实用信息封锁。

未成年人再叠一层

对识别为未满 18 周岁的账号，OpenAI 额外拦掉可用于实施暴力的武器与安防系统实用信息，即便问题表面看不出暴力意图也会生效。青少年仍被允许用 ChatGPT 求助——如何预防或缓和暴力、联系可信赖的成年人，都不在封堵之列。配套的改进版年龄预测会结合用户行为等多重信号，持续判断账号是否可能未成年，必要时自动套用青少年保护；若被误判，也可主动提交身份信息核验。


相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： ChatGPT 要能主动挂断危险对话，屡犯者直接封号

最新文章

破解AI长期记忆瓶颈，阿里云赋能Personal Agent迈向深度个性化

破解AI长期记忆瓶颈，阿里云赋能Personal Agent迈向深度个性化

11月2日，阿里云宣布Memory服务全面升级，重点面向Personal Agent场景，增强用户偏好、计划及历史约定的长期记忆与个性化处理，并提供MCP、CLI等主流接入方式。该服务从对话中实时提取关键信息，自动保存为用户画像与结构化记忆，后续按用户身份与当前问题精准检索调用相关上下文，持续跟进用户需求。

六步实现音视频联合生成！Pika基于MiniMax H3 重磅开源Pika H3 Flex

六步实现音视频联合生成！Pika基于MiniMax H3 重磅开源Pika H3 Flex

近年来，人工智能在视听创作领域迭代迅速。Pika推出基于MiniMax H3的全新衍生模型Pika H3Flex，并向全球开源适配器权重与完整推理代码，为创作者在镜头设计和多媒体内容生成方面提供新工具。该模型主打高效音画联合生成体验，支持多类输入与仅六步去噪，进一步提升创作效率。

ChatGPT 要能主动挂断危险对话，屡犯者直接封号

ChatGPT 要能主动挂断危险对话，屡犯者直接封号

OpenAI 日前宣布，未来几周为 ChatGPT 升级暴力内容管控：对话若持续围绕暴力或严重伤害他人，模型可主动结束；同一账号多次因此被切断，可能被封号。此前已禁止提供策划或实施暴力的指导，此次是把“主动切断”纳入执行，从被动拒答转向主动干预，不再只靠用户自行收手。

299元，泡泡玛特开始卖游戏机

299元，泡泡玛特开始卖游戏机

泡泡玛特把LABUBU装进了游戏机。 10月23日，泡泡玛特全新品类“THE MONSTERS饮料摇摇趣拍机”正式在线下发售，单台售价299元。

特斯拉人形机器人迎来重大突破：量产版Optimus首次搭载端到端视觉大模型，动作流畅度对标真人

特斯拉人形机器人迎来重大突破：量产版Optimus首次搭载端到端视觉大模型，动作流畅度对标真人

特斯拉人形机器人Optimus关键升级：最新量产版首次全面搭载与FSD同源的端到端视觉大模型。该架构取代传统硬编码程序，使机器人在复杂物理环境中的自主决策和肢体动作实现质变。技术路径上，新一代Optimus放弃模块化分步算法，改由神经网络直接驱动决策与动作，提升自主性与适应性。

OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

OpenAI宣布升级ChatGPT暴力内容限制，危险对话频发将面临封号

OpenAI宣布，未来几周将全面升级ChatGPT对暴力相关内容的限制，并针对未成年人推出更严格的武器和安全系统信息防护机制。此次政策核心是对高风险对话采取更果断干预：若系统检测到用户持续聚焦暴力或严重伤害他人，ChatGPT可主动结束对话。文中还提及更严厉措施，但后续内容未完整显示。

行业首个自进化金融大模型登场：度小满联手港科大发布轩辕4.5

行业首个自进化金融大模型登场：度小满联手港科大发布轩辕4.5

11月2日，度小满联合香港科技大学及香港生成式人工智能研发中心（HKGAI），在2026香港金融科技周发布轩辕4.5金融增强大模型。作为金融垂直领域创新，该模型依托RSI技术，在获客、风控、客户经营等核心场景效果提升30%，推理成本仅为通用模型10%，展现产学研深度协同，助力打造国际化金融智能新高地。

北京出台智能眼镜消费政策：购新补贴15%，单件最高500元

北京出台智能眼镜消费政策：购新补贴15%，单件最高500元

北京市商务局印发《促进智能眼镜消费政策指南》，推出购新补贴、首店首发、品牌联名、国际化消费场景、离境退税、数字化转型、国际市场开拓等七项举措，推动智能眼镜消费增长，释放新型智能终端市场潜力。消费者购买符合条件产品，可依规享受2026年家电以旧换新及数码智能产品购新补贴。

韩国史上最大预算案：820 万亿韩元，AI 与半导体成绝对主角

韩国史上最大预算案：820 万亿韩元，AI 与半导体成绝对主角

李在明公布韩国2027年预算案，总支出增12.8%至820.9万亿韩元（约4.09万亿元人民币），创历史新高。重押AI与半导体：21.3万亿韩元（约1061亿元）投半导体、物理AI和AI数据中心，近2026年两倍；另4.7万亿韩元（约234亿元）攻自研大模型，目标直指“全球”。

两次逆势下注，汪滔真能接扎克伯格的班？

两次逆势下注，汪滔真能接扎克伯格的班？

AI行业的风口一轮接一轮，每一波都有人扎堆，但并不是扎堆的地方就一定有金矿。汪滔的十年轨迹里，有两次选择跟主流拧着来:19岁辍学做数据标注，29岁扔掉自己创办九年的公司

AI视频，「Runway」逆袭？

AI视频，「Runway」逆袭？

打开如今的视频生成模型能力榜单，排名前列的模型均来自谷歌、字节、快手等等大厂。三年前，AI 视频赛道绕不开的「Runway」已经不在第一梯队。

AI主播48小时赚4万打赏，你会为AI花钱吗?

AI主播48小时赚4万打赏，你会为AI花钱吗?

AI也开始直播“冲业绩”了。前段时间，造梦次元联合生数科技，让AI主播紫樱开启了一场限时营业挑战。目标两个小时内攒够规定的营业值算完成任务，否则进度清零，重新挑战

OpenAI 要搞大公关：把"数据中心"改名"AI 算力园区"

OpenAI 要搞大公关：把"数据中心"改名"AI 算力园区"

OpenAI正酝酿一场面向华盛顿与选民的公关攻势。据Axios，公司拟在周二美国中期选举结束后启动大规模宣传，由首席全球事务官克里斯·莱汉操盘。他视中期选举为2028年总统大选“预告片”，认为AI将成竞选核心议题。在监管与舆论收紧下，OpenAI欲抢先定义叙事，打一场防御战。

美团龙猫发布 LongCat-2.5:1.6万亿参数原生多模态模型

美团龙猫发布 LongCat-2.5:1.6万亿参数原生多模态模型

美团龙猫11月2日发布LongCat-2.5，定位长程智能体任务的原生多模态模型，总参数1.6万亿，每token激活约480亿。它在LongCat-2.0基础上强化原生视觉理解与智能体编程，在线体验和API已开放，GitHub与HuggingFace权重将上线。技术上，视觉信号被表示为多层级离散token，沿用Long

微软 AI 掌门人划红线：AI 不该有意识，有了就全员暂停

微软 AI 掌门人划红线：AI 不该有意识，有了就全员暂停

微软AI负责人、DeepMind联合创始人穆斯塔法·苏莱曼11月2日在X发长文，公开给“AI意识”划禁区：当前模型并无意识，人类应让这一状态永远维持。作为执掌微软AI的巨头高管，其表态分量远超普通工程师担忧；措辞更从“没有”推进到“不该有”，比单纯描述现状更进一层。

xAI Grok正式支持支付宝与银联，中国大陆用户迎首月半价优惠

xAI Grok正式支持支付宝与银联，中国大陆用户迎首月半价优惠

11月1日消息，马斯克旗下xAI（又称SpaceXAI）的旗舰AI助手Grok已全面支持中国银联和支付宝付款；订阅页面地区选项也可直接选择中国大陆、中国香港、中国澳门及中国台湾。此次支付方式拓宽并非毫无征兆，此前Cursor已于2025年4月9日率先支持支付宝支付，相关动向早有铺垫。

Anthropic出手：Claude Code搭载Opus 5. 5 正式封杀复刻特定现有游戏

Anthropic出手：Claude Code搭载Opus 5. 5 正式封杀复刻特定现有游戏

近期AI工具大幅降低游戏开发门槛，独立游戏行业普遍焦虑作品被AI抢先克隆发售，不少开发者因担忧遭恶意抄袭，推迟公开测试或撤下试玩版。为此，Anthropic为搭载Opus5.5模型的Claude Code远程下发用户无法关闭的隐藏规则，要求AI不得复刻特定现有游戏，仅可……（原文至此）

Meta携手傅利叶仅用三月推出人形机器人原型Max

Meta携手傅利叶仅用三月推出人形机器人原型Max

Meta被曝与中国机器人企业傅利叶合作，仅用三个月打造出首款人形机器人原型“Max”，并于9月启动第二代Max2研发。原型身高约1.5米、重48千克，搭载英伟达Jetson Thor芯片，配可模拟人类表情的面部屏、扬声器与五指机械手，支持5米外识别声音、3米外理解手势。Meta CTO Bosworth内部亦曾谈及人形

Anthropic 更新 Claude 限制重制现有电子游戏

Anthropic 更新 Claude 限制重制现有电子游戏

Anthropic 近日更新 AI 助手 Claude，正式引入代码限制，禁止用户利用该模型重现现有商业电子游戏。X 平台曝光的系统指令显示，Claude 仅可创建原创游戏、特定类型游戏及使用用户自有设计和素材的游戏，严禁生成任何现有游戏的重制版本，即使重命名或伪装成原创项目也在禁止之列。技术人员 Addy Osman

阿里千问 AI 眼镜 OTA 升级：通话、看片都能实时翻译了

阿里千问 AI 眼镜 OTA 升级：通话、看片都能实时翻译了

11月2日，阿里旗下千问AI眼镜推送OTA更新，把“实时翻译”从手机搬到眼前。打电话、开跨国会议时，它能在耳边同步将对方的话译成母语；刷海外播客、上外语网课、看外语大片时，译文实时显示在配套千问AI穿戴App里。相比举手机看译文，眼镜形态解放双手，让人更自然接住对话节奏。

思科给 27 岁工程师"无限 Token"：放手去重写 98% 的旧代码

思科给 27 岁工程师"无限 Token"：放手去重写 98% 的旧代码

27岁工程师帕迪（帕德马纳班·克里希那穆提）差点被邮件埋没，如今获思科近乎无限AI算力预算。思科总裁兼CPO吉图·帕特尔交给他任务：用AI在24个月内重写公司98%遗留代码，预算不封顶。帕迪2023年联合创办实时翻译初创EzDubs，2025年随思科收购进入，正从边缘走向核心。

OpenAI计划将数据中心更名为“AI计算园区”以应对舆论压力

OpenAI计划将数据中心更名为“AI计算园区”以应对舆论压力

OpenAI拟在中期选举后调整公关战略，考虑将“数据中心”全面更名为“AI计算园区”，以缓解社会舆论和电力资源争议。其首席全球事务官克里斯·莱恩称，AI或成2028年美国总统选举关键议题。公司正酝酿系列政策提案，借重新命名基础设施凸显对地方经济的贡献。

AI生成的文字也将自带“防伪标签”：SpaceXAI宣布 11 月 7 日起为Grok全系列模型添加隐形水印

AI生成的文字也将自带“防伪标签”：SpaceXAI宣布 11 月 7 日起为Grok全系列模型添加隐形水印

欧盟《人工智能法案》正式落地并持续推进，全球AI厂商加速合规调整。SpaceXAI宣布，自11月7日起为旗下Grok系列大模型生成的文本内容全面引入隐形水印。该技术不插入隐藏字符或附加元数据，而是融入模型生成文本时的Token选择过程，使水印与生成机制深度绑定。此举被视为AI大模型合规调整的重要动向。

GPT-6.2 Astra与Claude 5. 5 新旗舰同日遭曝光，硅谷直接炸锅

GPT-6.2 Astra与Claude 5. 5 新旗舰同日遭曝光，硅谷直接炸锅

谷歌Gemini4Carbon登顶全球第一后，AI竞争再升级。本周末OpenAI与Anthropic下一代旗舰模型先后泄露，新一轮巅峰对决开启。OpenAI跳过GPT-6.1，将因安全测试问题回炉重炼一个月的模型升级为全新旗舰GPT-6.2 Astra，并已在Codex后台开始部署。

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条