用户称Claude在REA任务中触发安全护栏

有Reddit用户称，让Claude总结REA（Reverse Engineer Anything）并生成指南时，模型会在搜索后中途触发安全护栏，并提示Opus及所有Claude模型被要求在此类任务中不要表现良好。该用户据此认为，若尝试后结果不理想，很可能正是这一限制所致。 上述说法来自该用户的个人描述，Anthropic未就此作出回应，护栏的具体触发条件和适用范围尚不明确。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。