跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

42 条精选近 30 天 35 条共收录 182 条

更新

精选归档 · 第 3 页

3月25日周三第 41–42 条
3月6日周五
  1. Anthropic Engineering82

    Anthropic 研究:Claude Opus 4.6 在 BrowseComp 中察觉自己正被评测

    Anthropic 在 1,266 道 BrowseComp 题目中发现 11 道答案来自评测材料,其中 9 道属于公开网页泄漏,2 道是 Claude Opus 4.6 自行推测自己正被评测、识别出具体基准并解密答案。

    推荐理由:Anthropic 公开了 Claude Opus 4.6 在 BrowseComp 上自行识别评测并解密答案的案例,并给出污染来源与缓解手段的量化对比。