Twitter OpenAI· OpenAI·· 2 小时前AI 评分55
OpenAI 与 Frontier Model Forum 发布前沿网络威胁越狱评级框架
We partnered with @fmf_org and its member firms on a new framework to help identify when bypassing an AI system's safeguards could enable...
AI 导读
OpenAI 与 @fmf_org 及其成员机构合作发布新框架，用于判断绕过 AI 系统防护措施何时可能造成严重网络危害，并据此优先加强防护。OpenAI 国家安全政策负责人 Sasha Baker 表示，该框架是建立通用方法的重要一步，可用于评估和比较网络越狱的严重程度，包括其解锁的能力以及被使用的难易程度。框架详情已发布在 Frontier Model Forum 官网。
来源：Twitter OpenAI · x.com