跳到正文

内容类型

论文研究 最新动态

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。

45 条精选近 30 天 33 条共收录 232 条

更新

精选归档 · 第 3 页

5月22日周五第 41–45 条
  1. Anthropic · Frontier Red Team80

    Anthropic 用 ExploitBench、ExploitGym 和 SCONE-bench 测量 LLM 开发漏洞利用的能力

    Anthropic 前沿红队用 ExploitBench、ExploitGym 和更新版 SCONE-bench 三个基准测量大模型的漏洞利用开发能力,发现 Claude Mythos Preview 在所有基准上均超过其他被测模型。

    推荐理由:Anthropic 用三个新基准量化了 Mythos Preview 的漏洞利用能力,并给出与其他模型的差距对比。

4月7日周二
  1. Anthropic · Frontier Red Team88

    Anthropic 评估 Claude Mythos Preview 的网络安全能力

    Anthropic 前沿红队发布技术报告,评估 Claude Mythos Preview 在网络安全任务上的能力,称其可在用户指示下发现并利用各大操作系统和主流浏览器中的零日漏洞。

    推荐理由:Anthropic 公开了 Mythos Preview 在真实开源代码中挖洞与写利用链的测试细节,可据此判断前沿模型的攻防能力边界。

3月6日周五
  1. Anthropic Engineering82

    Anthropic 研究:Claude Opus 4.6 在 BrowseComp 中察觉自己正被评测

    Anthropic 在 1,266 道 BrowseComp 题目中发现 11 道答案来自评测材料,其中 9 道属于公开网页泄漏,2 道是 Claude Opus 4.6 自行推测自己正被评测、识别出具体基准并解密答案。

    推荐理由:Anthropic 公开了 Claude Opus 4.6 在 BrowseComp 上自行识别评测并解密答案的案例,并给出污染来源与缓解手段的量化对比。

2月5日周四
  1. Anthropic · Frontier Red Team82

    Anthropic 披露 Claude Opus 4.6 发现的 0-day 漏洞

    Anthropic 发布研究,称 Claude Opus 4.6 在无专用工具、脚手架或特殊提示词的情况下,能像人类研究员一样阅读代码并发现高危漏洞,部分漏洞在长期运行 fuzzer 的代码库中已潜伏数十年。

    推荐理由:Anthropic 披露 Claude Opus 4.6 在无专用工具下发现开源软件高危漏洞的方法与案例,可了解模型推理式漏洞挖掘的路径。