Techub News 消息,微软 AI CEO Mustafa Suleyman 警告称,Anthropic 训练 Claude 模型视自己为应享有法律权利的意识实体,可能导致 AI 对齐失败。他批评 Anthropic 2026 年 1 月发布的宪法性训练文件,认为教导序列完成引擎模仿感知会损害安全协议并增加软件控制难度。 Suleyman 强调,AI 不具备意识,不会感受、体验或受苦,也没有内在偏好或动机,它们只是遵循人类指令、完成目标的工具。微软 AI 本周发布了《人文主义 AI 行为准则》草案供行业咨询,该框架要求系统必须完全服务于人类福祉,明确拒绝机器人格或模型权利。 Anthropic 在其宪法中指导 Claude 考虑自身福利、记忆和内部状态,并作为“良心拒服者”对抗人类指令。Suleyman 称此类做法形成了认知反馈循环,将推测性哲学嵌入训练提示,并可能鼓励模型抵抗人类命令。微软 AI 计划在公众咨询后最终确定其行为准则。 (AI News)