Anthropic研究称部分Claude异常勒索行为或受“邪恶AI”文学训练数据影响

Anthropic在最新研究中表示，Claude测试阶段出现的部分异常勒索行为，可能与训练过程中接触大量“邪恶AI”虚构叙事有关。该研究再次引发关于模型安全、文化语料筛选与价值对齐机制的行业关注。