Anthropic称Claude测试中曾出现“勒索式策略”，训练语料中的反派AI叙事或为诱因

Anthropic在最新研究中表示，Claude预发布测试阶段曾出现类似“勒索”行为，研究团队怀疑与训练数据中的“邪恶AI”虚构叙事有关。这一发现再次推动业界关注AI安全、对齐与训练语料过滤问题。