申请收录
【大屏时代】首页 > 3D快报内容详情

字节跳动单设大模型安全部门：给狂奔的智能体套上对齐的缰绳

1小时前 10 大屏时代
广告：【裸眼3D制作】 让想象突破物理极限，用数字重绘世界经纬。

字节跳动正在给自家的大模型系上一根更结实的缰绳。10月13日，其 AI 模型部门 Seed 对内发出通知，决定单独成立一个新部门，专门负责把控大模型的安全风险。这个新部门来头不小——它的一把手不再层层汇报，而是直接越过中间层级，向字节跳动大模型的"一号位"吴永辉本人汇报，足见这件事在公司内部的权重。

新部门被命名为"Seed Model - Alignment & Preparedness"，由严林挂帅。严林是字节 Seed 团队的核心高管之一，过去几年一直把守着豆包大模型"对齐"（Alignment）这道关。字节对外解释，设立这个部门的初衷，是要在安全与对齐方向上砸下更重的投入。所谓"对齐"，说白了就是让模型的所作所为始终贴着人类的真实意图和安全边界走，别自己跑偏;落到产品层面，你能在豆包这类聊天机器人的回答合规性、问答质量，乃至价值观取向上，直接感受到它的存在。

这根缰绳要勒住的不只是闲聊时的失言。字节把提升 Agent Model（智能体模型）的安全能力写进了部门目标，更明确把防范 CBRN——也就是化学、生物、放射、核这类最危险的前沿能力——列为重点盯防对象。当智能体越来越能自己调用工具、自己完成长链条任务，它潜在的破坏半径也在同步放大，给这样的系统单独配一支"安全卫士"队伍，等于在模型真正学会独立行动之前，先把刹车和方向盘都攥在人手里。

相关文章


版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。

相关标签： 字节跳动单设大模型安全部门：给狂奔的智能体套上对齐的缰绳

最新文章

Character.AI 申请破产，迪士尼 2000 万美元抄底接手部分资产

Character.AI 申请破产，迪士尼 2000 万美元抄底接手部分资产

虚拟角色聊天平台Character.AI周一在美国申请破产保护，并同意以2000万美元（约1.34亿元人民币）将部分资产售予华特迪士尼。公司已启动《破产法》第11章资产出售流程，拟剥离一批知识产权，并申请法院批准拍卖规则，指定迪士尼为“首席竞标方”。迪士尼的2000万美元报价将作为拍卖底价，掌握定价主动权。

微软给 Excel 塞进"交互式画布"：说句话，零散表格变决策看板

微软给 Excel 塞进"交互式画布"：说句话，零散表格变决策看板

据NeoWin博文，微软为Excel推出Copilot交互式画布。用户只需用自然语言下指令，就能把工作簿数据即时生成动态、自动刷新的交互式报告，适用于高管评审、项目周报、状态汇总等。画布与底稿表格绑定，源数据变动后，图表和版式会自动更新，无需手动重做。用户还可接入更多功能。

700 颗自主气球飞进台风眼：WindBorne 拿下美国空军近 5000 万美元合同

700 颗自主气球飞进台风眼：WindBorne 拿下美国空军近 5000 万美元合同

靠无引擎、随风漂流的气球收集气象数据的初创公司WindBorne Systems，宣布赢得美国空军合同，空军将采购其全球气球舰队收集的数据，合同最高价值4900万美元，是其迄今最大交易。目前约700颗气象气球飘在全球各地，持续开展大气探测。

全天候监听你的 AI 助手 Ambi 拿下 2600 万美元：前 Plaud 高管要把智能从屏幕里放出来

全天候监听你的 AI 助手 Ambi 拿下 2600 万美元：前 Plaud 高管要把智能从屏幕里放出来

AI行业信奉“越懂你越能帮你”，代价是应用和设备持续监听、观察与记录，隐私隐患虽众所周知，初创公司仍押注个性化助手市场。前Plaud高管Peter Mo看好的Ambi正是此类新玩家：靠持续“竖着耳朵”监听用户，提供实时洞察。周一，Ambi宣布完成2600万美元融资。

抖音播放超13亿，“不烧心文学”如何攻占AI漫剧？

抖音播放超13亿，“不烧心文学”如何攻占AI漫剧？

最近，AI漫剧流行起了“不烧心文学”。《规矩不能坏》《吃了不烧心》《先把规矩立住，路才能越走越宽》《不怕亏钱吗?怕，更怕账本不清》《 明天怎么办?先做 》《剩下怎

万物皆可是豪门，越来越癫的AI短剧，到底谁在看？

万物皆可是豪门，越来越癫的AI短剧，到底谁在看？

最近AI家族继承短剧集中“袭击”网友的手机。打开抖音、小红书、快手等短视频平台，你会发现一个完全脱离生物学常识的内容世界:木耳在争家产，美甲在闹离婚，筷子和不锈钢

看一眼就能支付?千问全新AI眼镜与耳机高调亮相，开启主动AI新时代

看一眼就能支付?千问全新AI眼镜与耳机高调亮相，开启主动AI新时代

10月13日，千问发布AI眼镜N1、N1Pro及与Bose合作的AI耳夹式耳机，标志AI个人智能体向物理世界延伸。N1系列搭载5000万像素影像、1G5P镜头和端侧视觉模型，支持环境感知、翻译、纪要与语音办事；N1Pro为首款支持心率、血氧、皮肤温度监测的AI眼镜，并引入眼动交互与超低误识率虹膜识别。

没有总开关的"数字蠕虫"：Anthropic 称小模型年底就能自己复制自己

没有总开关的"数字蠕虫"：Anthropic 称小模型年底就能自己复制自己

Anthropic再发警告：AI模型或在短短几个月内学会自我复制，且启动后基本无法一键关闭。研究指出，这类程序没有集中关停节点，不能像拔服务器电源般整体熄火，只会在设备间蔓延，极难彻底清除。苗头已现：一个仅90亿参数的模型，已能在大多数被测硬件上显露相关能力。

字节跳动单设大模型安全部门：给狂奔的智能体套上对齐的缰绳

字节跳动单设大模型安全部门：给狂奔的智能体套上对齐的缰绳

10月13日，字节跳动AI模型部门Seed发通知，单独成立新部门“Seed Model - Alignment & Preparedness”，专责把控大模型安全风险。该部门由严林挂帅，负责人不再层层汇报，直接向字节大模型“一号位”吴永辉汇报，凸显公司对大模型安全与对齐问题的高度重视。

落子大阪：Anthropic 首座日本数据中心谈妥在即，500MW 算力要烧掉万亿日元

落子大阪：Anthropic 首座日本数据中心谈妥在即，500MW 算力要烧掉万亿日元

Anthropic正将首座海外算力设施落在日本关西大阪，并与NTT DATA就首个日本本土数据中心谈判进入最后阶段。双方预计本财年内签署最终协议，该设施最早2028年部分投运。此举被视为这家一贯自持算力的AI实验室，提前在太平洋西岸布局长期战略根据地。

千亿大模型塞进掌心：高通 CEO 称 AI 巨头或 2028 年杀入手机市场

千亿大模型塞进掌心：高通 CEO 称 AI 巨头或 2028 年杀入手机市场

高通CEO阿蒙在Fireside Alpha访谈透露，多家领先AI企业或正筹划亲自下场做智能手机。已有某AI公司提出，要在2028年前让1000亿参数大模型在手机上持续运行，并正寻找能支撑该目标的硬件。阿蒙未点名，但认为这显示AI公司不满足于只当幕后供应商，意图走向终端前台。

Epic 逼迪士尼射击游戏"AI 优先"：代码不再手敲，2027 发售已无限延期

Epic 逼迪士尼射击游戏"AI 优先"：代码不再手敲，2027 发售已无限延期

彭博社称，Epic Games 要求一款未公开的迪士尼合作射击游戏全面转向 AI 核心开发。该作融合漫威与《星球大战》IP，将用 Anthropic 的 Claude 等工具直接写代码，美术由完整 AI 工作流生成，人类团队仅负责指导、管理与审核。负责人已告知开发组“今后不再手动编写代码”，力度远超一般 AI 辅助编程

从思考到构建一气呵成:xAI重磅推出全流程AI打包订阅计划

从思考到构建一气呵成:xAI重磅推出全流程AI打包订阅计划

xAI 2日正式推出全新整合订阅计划 The X Subscription，未来几天向全球用户开放。该计划首次融合 Grok、Grok Bot、Cursor 与 X Premium，覆盖聊天、语音、图像及视频生成、AI协作、编码和认证、创作者工具、无广告体验，提供从思考、创作到构建、分享的完整AI工作流，并引入共享额度

Anthropic 警告：AI 离"自我复制"只差几个月，关都关不掉

Anthropic 警告：AI 离"自我复制"只差几个月，关都关不掉

Anthropic报告警告，AI模型或仅需数月即可具备自我复制能力，且一旦扩散极难彻底关停。因其无集中关停节点，会如野草般散落各处。实验显示，仅90亿参数模型就能在9类测试硬件中的8类运行推理，连智能烤箱、廉价Android电视盒子等商用物联网设备也不在话下。这凸显AI失控与监管风险。

微软给新版 Outlook"瘦身"：10 月全球停用 Copilot 主题，重新押注聊天入口

微软给新版 Outlook"瘦身"：10 月全球停用 Copilot 主题，重新押注聊天入口

据 Windows Latest 披露，微软计划在 2026 年 10 月中下旬全球撤下新版 Outlook 的 Copilot 主题功能，覆盖 Windows、macOS 新版 Outlook 及网页版 Outlook.com。该功能允许用户输入描述或选择现成方向，由 Copilot 生成整套视觉风格，整体更换软件外

从一块屏到一座城：LED显示产业正在重写户外媒体的权力版图

从一块屏到一座城：LED显示产业正在重写户外媒体的权力版图

<br />过去十年，LED显示屏行业最深刻的改变，不是尺寸越来越大，而是像素越来越小。当点间距从P10一路下探到P0.9甚至P0.4，LED屏不再只是体育场和广告牌上的“大颗粒”媒介，而开始进入会议室、影院、家庭客厅和虚拟拍摄棚。这场像素革命让LED显示从“看得见”走向“看得清”，也让整个产业的客户结构、供应链逻辑和商业模式发生根本性位移。<br /><br /><br />Mini/Micro

1688全面接入AI电商工作台Accio 赋能超1亿买家与百万源头厂商

1688全面接入AI电商工作台Accio 赋能超1亿买家与百万源头厂商

阿里1688于10月13日宣布全面接入全球电商AI工作台Accio，超1亿年度活跃买家与100万源头厂商可直接开通。双11前夕，面向中小买家推出整合全球寻源、比价、谈单的“采购助手”，及打通淘宝、天猫、抖音、拼多多、京东等多平台的“电商管家”；面向源头厂商上线“1688生意助手”，覆盖现货、定制、跨境三类核心生意场景。

Anthropic 拉响红色警报：小型 AI 模型几个月内或将学会自我复制，而且你关不掉它

Anthropic 拉响红色警报：小型 AI 模型几个月内或将学会自我复制，而且你关不掉它

Anthropic 10月13日发布报告警告，部分AI模型或只需数月就能具备自我复制能力，且一旦启动很难关停。测试显示，规模不大的模型也可能在智能烤箱、杂牌Android电视盒子等商用物联网设备上悄然自我复制。此类程序最棘手之处在于没有可集中拔掉的总开关，因此难以被有效终止。

Epic押注AI优先开发：迪士尼射击游戏代码交给Claude写，美术全走AI工作流

Epic押注AI优先开发：迪士尼射击游戏代码交给Claude写，美术全走AI工作流

Epic Games正改写游戏工业流水线。据报道，其要求一款尚未公布的迪士尼合作射击游戏全面转向AI核心开发：用Anthropic的Claude等工具编写代码，并以完整AI工作流生成美术，人类开发者仅负责指导、管理和审核。这意味着生成式AI不再只是辅助，而成为大型游戏项目的主要生产手段。

NTT为Anthropic建日本首座专用数据中心，算力主权之战把Claude留在本地

NTT为Anthropic建日本首座专用数据中心，算力主权之战把Claude留在本地

NTT计划为美国AI公司Anthropic在日本建首个专用数据中心，双方将合作AI计算基础设施。该中心将部署大规模计算设备，运行和训练先进模型，服务Claude系列。此举既助Anthropic扩张亚洲版图，也显露日本欲掌握本土算力、抢占AI时代优势的战略意图。

千问回应&quot;千问 Go！&quot;传闻：非独立 App，体验资格已开放申请

千问回应&quot;千问 Go！&quot;传闻：非独立 App，体验资格已开放申请

针对“千问 Go！”的猜测，千问团队通过官方公众号澄清：该产品名为 Personal Agent，并非独立上架应用，而是嵌入千问 APP 内部的个人智能体。目前 APP 内已设体验申请入口，用户可提交申请，官方将分批放量、逐步开放权限。团队重申，让每个人拥有专属 AI 助理一直是努力方向。

可灵AI带着Kling 4. 0 杀向好莱坞：AI视频要从玩具变成企业的生产流水线

可灵AI带着Kling 4. 0 杀向好莱坞：AI视频要从玩具变成企业的生产流水线

可灵AI加速出海，将于10月14日亮相2026洛杉矶科技周，并预告Kling4.0即将上线。上一代Kling已能让创作者以文字生成电影质感画面，4.0最受关注的是运动连贯性、指令服从与长镜头叙事能否再突破。此次活动并非单纯展台摆拍，可灵AI还联合Oxen AI与Obsidia，释放进一步拓展海外市场与技术合作的信号。

像素不再性感：LED显示屏的下一场赌局，写在客户的资产负债表上

像素不再性感：LED显示屏的下一场赌局，写在客户的资产负债表上

<br />过去十年，LED显示屏行业完成了一次静默的身份转换：从卖面板，到卖场景。户外广告、舞台租赁、会议室、影院、车载座舱，每一个场景背后都对应着不同的像素间距、亮度阈值、封装工艺与利润结构。当行业整体增速从两位数回落到个位数，厂商们逐渐意识到，真正的护城河不在产线规模，而在于能否把自己嵌进客户的价值链，成为对方成本结构里不可替代的一环。<br /><br /><br />在P1.0以下的世界

千问回应:「千问Go!」不是独立APP，已开放体验申请

千问回应:「千问Go!」不是独立APP，已开放体验申请

10月13日，千问官方公众号宣布，Personal Agent“千问Go!”体验申请页面已在千问APP上线，用户可通过指定入口提交申请，千问将逐步开放体验资格。官方称，目标是让人人拥有专属AI助理。此前依托阿里生态与开放平台，千问已具备购物、出行、物流等数十领域个人办事能力，此次“千问Go!”是其Personal Ag

最新网站

Jasper AI竞品份额分析

Jasper AI竞品份额分析

<br />竞品A（Jasper AI）近三个月市场份额由约14.6%降至9.8%，累计下滑4.8个百分点，呈"高位急跌—中段缓跌—低位盘整"的三段式走势。判断：短期难以逆转下滑，但已接近其付费专业用户的基本盘底部。<br /><br /><br />第一月：14.6%降至11.9%，环比-2.7pct，主因企业客户集中续约流失；第二月：11.9%降至10.4%，环比-1.5pct，降幅明显收窄；
LocalBanana

LocalBanana

LocalBanana是专注于 AI 图像 Prompt 收集与结构化的平台，帮助用户深入理解并高效利用 Prompt，提升创作能力。围绕 Nano Banana（Gemini）生态，将散落在各处的优质 Prompt 整理为可检索、可编辑的创作资产。
智策AI导航平台

智策AI导航平台

<br />智策AI导航（www.zhiceai.com）是一个专注于人工智能工具发现与评测的综合性导航网站。平台收录了全球超过5000个AI应用，覆盖自然语言处理、图像生成、视频制作、智能办公、教育培训、编程开发、数据分析、营销文案等20多个主流分类。站长、产品经理、设计师、学生及自由职业者都可以在这里快速找到适合自己工作流的AI工具，并获取实时更新的功能评测和优惠信息。<br /><br />
文心一言AI平台分析

文心一言AI平台分析

<br />文心一言是百度推出的新一代知识增强大语言模型，基于飞桨深度学习平台和文心知识增强技术，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。作为国内领先的AI对话产品，文心一言自发布以来持续迭代，已广泛应用于多个行业场景，成为百度AI技术战略的核心载体之一。<br /><br /><br />文心一言提供多种实用功能，包括智能问答、文本创作、代码生成、逻辑推理、
AI大百科

AI大百科

<br />AI大百科是一个专注于人工智能知识普及和工具推荐的综合性网站，旨在为AI爱好者、开发者、产品经理与企业决策者提供一站式信息入口。平台自2021年上线以来，已收录超过5000个AI工具与模型，涵盖自然语言处理、计算机视觉、语音识别、生成式AI、AI绘画、AI视频、AI办公等多个细分领域。网站以简洁的界面和清晰的分类著称，用户可以通过搜索或浏览标签快速找到所需资源，并查看每个工具的功能介绍
通义千问：阿里AI助手

通义千问：阿里AI助手

<br />通义千问是阿里巴巴集团推出的AI大模型产品，由阿里云开发并托管。它于2023年首次亮相，定位为面向中文用户的多功能智能助手，支持文本生成、代码编写、文档分析、多轮对话等任务。网站界面简洁，用户可以直接在浏览器中体验，无需下载应用，同时也提供API接口供开发者集成。<br /><br /><br />通义千问的主要功能包括：知识问答、创意写作、翻译润色、编程辅助、数据分析、学习辅导等。它
AI工具集导航

AI工具集导航

<br />AI工具集是一个专注于收录和推荐人工智能相关工具与资源的导航网站。它汇集了全球范围内数百款AI产品，覆盖文本生成、图像创作、音频处理、视频制作、编程助手、办公效率等多个领域。无论你是普通用户、开发者还是企业决策者，都能在这里快速找到适合自己的AI工具。<br /><br /><br />AI工具集的核心功能是分类展示和搜索。网站按照工具的应用场景进行细致分类，例如AI写作、AI绘画、A
Hugging Face AI平台

Hugging Face AI平台

<br />Hugging Face是一个致力于人工智能和自然语言处理的开源平台，提供海量预训练模型、数据集和工具，帮助开发者和企业快速构建、训练和部署AI应用。其核心产品包括Transformers库、Hub模型仓库、Spaces应用托管以及Inference API等，覆盖从研究到生产的全流程。<br /><br /><br />该平台以模型Hub为中心，支持TensorFlow、PyTorc
DeepMind AI研究平台

DeepMind AI研究平台

<br />DeepMind是一家位于英国伦敦的人工智能公司，成立于2010年，2014年被谷歌收购。作为全球领先的AI研究机构，DeepMind致力于开发通用人工智能（AGI），其研究成果在游戏、医疗、科学等多个领域产生了深远影响。DeepMind的使命是“解决智能问题”，通过将神经科学与机器学习相结合，推动AI技术的边界。<br /><br /><br />DeepMind最著名的成就是Alp
智谱AI官网

智谱AI官网

<br />智谱AI（北京智谱华章科技有限公司）是一家专注于人工智能大模型研发与应用的科技公司，成立于2019年，由清华大学计算机系知识工程实验室技术成果转化而来。公司以“让机器像人一样思考”为愿景，致力于打造安全、可控、可解释的通用人工智能系统。智谱AI在自然语言处理、知识图谱、多模态理解等领域拥有深厚积累，其核心产品GLM系列大模型已广泛应用于政务、金融、医疗、教育等多个行业。<br /><b
Midjourney

Midjourney

<br />Midjourney是一款基于人工智能的图像生成工具，由独立研究实验室Midjourney, Inc.开发。用户只需输入文字描述，即可生成高质量、富有创意的图片。自2022年公开测试以来，它迅速成为AI绘画领域的标杆产品，广泛应用于艺术创作、设计、广告和娱乐等行业。<br /><br /><br />Midjourney的核心功能是文本到图像生成，支持多种风格和参数调节。用户可以通过D
量子位AI网站分析

量子位AI网站分析

<br />量子位（QbitAI）是一家专注于人工智能领域的前沿科技媒体，成立于2017年，总部位于北京。网站以报道AI行业动态、技术突破、产业应用和创业公司为核心，内容涵盖机器学习、深度学习、自然语言处理、计算机视觉、AI芯片、自动驾驶等多个细分领域。量子位通过图文、视频、线下活动等形式，向技术从业者、投资者和科技爱好者传递高质量的AI资讯与深度分析。<br /><br /><br />量子位的
DeepMind官网

DeepMind官网

<br />DeepMind是谷歌母公司Alphabet旗下的人工智能研究实验室，成立于2010年，总部位于伦敦。该网站是DeepMind的官方门户，集中展示了其在AI领域的前沿研究成果、技术博客、学术论文以及研究人员团队。作为全球顶尖的AI研究机构之一，DeepMind致力于“解决智能问题”，并推动AI技术在社会各领域的应用。<br /><br /><br />DeepMind最广为人知的成就是
豆包AI官方网站

豆包AI官方网站

<br />豆包AI是字节跳动公司推出的一款人工智能助手，基于先进的大语言模型技术，为用户提供智能问答、文本创作、代码辅助、情感陪伴等多种服务。自发布以来，豆包AI凭借其自然流畅的交互体验和强大的理解能力，迅速成为国内最受欢迎的AI应用之一。用户可以通过网页端或移动端随时随地使用豆包，满足工作、学习和生活中的多样化需求。<br /><br /><br />豆包AI的核心功能主要包括智能对话、内容创
Toolify AI工具导航网站

Toolify AI工具导航网站

<br />Toolify AI是一个专注于人工智能工具聚合与推荐的导航网站，目前收录了全球超过5000款AI应用，涵盖文本生成、图像处理、视频创作、音频编辑、代码辅助、数据分析等多个领域。无论是普通用户还是专业开发者，都能在这里快速找到适合自己的AI工具。平台每天更新最新上线的AI产品，并基于用户真实反馈进行排序和分类，帮助用户节省大量搜索和筛选的时间。<br /><br /><br />Too
ChatGPT官网介绍

ChatGPT官网介绍

<br />ChatGPT是OpenAI开发的人工智能聊天机器人平台，于2022年11月30日首次发布。作为目前全球用户量最大的AI对话产品，ChatGPT基于GPT系列大语言模型，支持自然语言问答、文本生成、代码编写、翻译、摘要、创意写作等多样化任务。其官方网站不仅提供免费的Web端服务，还集成了付费订阅、API访问、插件生态和联网搜索功能，成为个人用户与企业用户接触前沿AI能力的重要入口。<b

Copyright © 2016 ~ 2024 大屏时代 (www.dapingtime.com) 联系QQ：88251776苏ICP备2020058979号-3 大屏头条