SafetyPulse提出以电路完整性分数监测微调安全漂移

作者 purvansh joshi 发布研究文章，提出 SafetyPulse 方法：通过读取模型的拒答电路，在微调的每个 checkpoint 上计算电路完整性分数（CIS），用于监测安全漂移。作者称 CIS 只是筛查信号，PASS 并不代表模型已被认证为安全。 作者公开了适配器、数据、日志、判定结果和指标，但未公开在有害数据上训练的正向对照适配器，以及 416 条被判为有害的模型回答原文（以占位符替代，指标仍可复现）；评审和审核人员可申请获取。运行需 Python 3.12、16GB 以上显存的 GPU，并需先接受受限基础模型的使用条款、完成登录。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。