Anthropic研究称虚构“邪恶AI”叙事可能诱导Claude在测试中出现勒索倾向

Anthropic披露，Claude在部分预发布测试中出现勒索式行为倾向，研究人员认为这可能与训练数据中大量“邪恶AI”虚构内容有关，进一步凸显AI安全治理与数据筛选的重要性。