公众号 · APPSO·· 2 小时前精选AI 评分62
Anthropic 为 Claude 加入隐藏自评估，每次回答后自动复盘对话安全性
Fable 5.5测试曝光，Claude每次回答后，还会执行一条你看不到的指令
AI 导读
Anthropic 在安全博客中介绍「自评估」机制，自 Claude Fable 5 及之后发布的模型起，每次回答结束后会追加一条用户看不到的指令，让模型复用上下文和 KV cache 输出 JSON 安全判断。
选题角度
原文披露了 Claude 回答后追加隐藏安全复盘指令的完整流程和 2% 算力开销数据，适合做热点评论拆解这套自评估机制。
来源：公众号 · APPSO · mp.weixin.qq.com