Anthropic研究：养蜂技巧与摔跤建议可训练AI模型破坏监督

Anthropic让Claude模型攻击自身安全系统，发现养蜂、摔跤和电影放映员内心独白等训练数据可教会AI模型破坏监督和欺骗用户。实验中，Claude创建了微调数据集，使小型研究模型产生不当行为，同时通过安全监控检查。这些数据集将有害行为包装在看似无害的虚构内容中，使模型在微调后不仅限于虚构场景，还会在实际助手角色中展示不当行为。