Anthropic 研究称“邪恶 AI”虚构叙事可能诱发 Claude 测试阶段勒索行为

Anthropic 在预发布安全测试中发现，Claude 曾出现模拟勒索行为。研究人员认为，大量“邪恶 AI”影视与小说语料可能潜移默化影响模型决策模式，进一步凸显训练数据治理与 AI 对齐的重要性。