Anthropic 训练 Claude 自我评估对话安全
热点事件持续更新
Anthropic 训练 Claude 自我评估对话安全
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Anthropic 称已训练 Claude 在回复后立即对对话给出初步安全评估，这项技术称为 self-assessment，用于标记对话中的潜在滥用。Anthropic 表示，自 6 月启用以来，该机制已发现其他防护措施未能覆盖的滥用行为。 Anthropic 称，由于 Claude 已读过对话，self-assessment 效率很高；与针对特定危害的分类器不同，它依托 Claude 自身判断，会随模型改进而更准确。上述效果均为 Anthropic 的说法。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 02:22
Anthropic 训练 Claude 用自我评估标记对话中的潜在滥用报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- X · AnthropicAnthropic 训练 Claude 用自我评估标记对话中的潜在滥用
Anthropic 训练 Claude 在回复后立即对对话给出初步安全评估，这一技术称为 self-assessment。自 6 月启用以来，它已发现其他防护措施未能覆盖的滥用行为。由于 Claude 已读过对话，self-assessment 效率很高，且不同于针对特定危害的分类器，它依托 Claude 自身判断，会随模型改进而更准确。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。