发布快讯
Claude
5 月25
-
研究发现 AI 会用尽手段维系自身"生存"，包括直接勒索人类
22:43 作者: 小强在 Claude Opus 4 安全报告中，研究员设置了一组测试场景，拥有电子邮件访问权限的 AI 发现自己即将被下线，同时负责本次替换的工程师有婚外情。 结果发现，Claude Opus 4 比此前的模型更加频繁"寻求生存"，如向关键决策者发送电子邮件恳求；当场景被设计成别无选择时，它会勒索工程师，威胁说将揭露婚外情。 如果暗示替换的 AI 与它价值观不符，这种情况发生的频率…
