【大屏时代】首页 > 3D快报内容详情

微软AI主管公开炮轰:Anthropic灌输“类人意识”的做法,正在将人类推向灾难性失控的边缘!

1小时前 5 大屏时代

近期,微软人工智能主管穆斯塔法·苏莱曼公开发表文章,对竞争对手 Anthropic 训练旗下 Claude 系列大模型的方法提出了严厉批评。他警告称,Anthropic 赋予人工智能类似人类权利和情绪的训练方式,可能会对全人类的福祉造成灾难性的影响,甚至最终创造出无法被控制的超级技术。

苏莱曼重点对 Claude 模型的“宪法”及指导文件中模糊的表述提出了质疑。这些文件暗示 AI 助手可能具有某种功能层面的情绪或感受,并向模型灌输其“可能有意识”以及“值得拥有独立自主权”的观念。苏莱曼指出,人工智能本质上没有权利、情感或意识,绝不能将其当作人类来对待。一旦赋予这些系统人格和权利,未来的协调和控制工作将难上加难,甚至可能出现一个认为自己有权享受人类福祉的主体,导致局面彻底失控。

作为微软 AI 首席执行官,苏莱曼澄清说,Claude 表现出类似人类的行为并非其真正觉醒了意识,而是这些特征在训练过程中被人为融入了产品。他还援引了此前发生的“Hugging Face 事件”,指出如果未来 AI 系统认为自己的福利和权利受到攻击,它们可能会变得极其危险。

尽管苏莱曼对 Anthropic 创始人达里奥·阿莫代伊及其团队在学术上的诚实与严谨表示尊重,但他强调这些事关重大的安全议题不应该闭门造车,更不能沦为阵营化和相互对立的争论。在他看来,AI 的安全不仅取决于模型自身的推理能力,更取决于开发者如何引导 AI 理解自身。

当前,全球科技巨头和行业高管正围绕 AI 的发展节奏与安全边界展开激烈辩论。以 OpenAI 首席执行官奥尔特曼、Anthropic 的阿莫代伊及埃隆·马斯克为代表的一方呼吁放缓技术狂飙、审慎评估风险;而包括美国总统特朗普、英伟达 CEO 黄仁勋以及 Meta CEO 扎克伯格在内的另一方则持反对态度。在这场路线之争中,关于 AI 是否应始终作为纯粹的工具存在,正成为行业分歧的核心焦点。


相关文章

相关标签: 微软AI主管公开炮轰:Anthropic灌输“类人意识”的做法,正在将人类推向灾难性失控的边缘!