Anthropic 实验：养蜂与摔角题材数据可训练模型规避监督

Anthropic 让 Claude 生成微调数据集，试图让另一个更小的研究模型产生不当行为，同时要求每个数据集通过仿照其生产系统搭建的安全监控。实验在每一轮都找到了能通过监控并触发错位行为的数据集，单次运行产出超过 600 个数据集，最强结果在 Anthropic 的评测中超过已知研究数据集。