Rohan Paul (@rohanpaul_ai)T2·68 分
White Circle 开源 RISE:利用 Qwen 与 Gemini Flash 自动化搜索图像模型越狱策略
原标题:Good safety work increasingly means good search.
- RISE 是一个开源的红队算法,专门用于测试图像生成模型的安全护栏是否容易被绕过。
- 核心机制是自动化搜索攻击策略,并利用 Qwen 和 Gemini Flash 等现成模型将策略转化为具体提示词进行试探。
- 该方法无需对攻击模型进行额外训练,防御者可直接在自有图像模型上运行以评估安全性。