用于强化 GenAI 应用的开源工具,旨在帮助开发人员检测和防御针对其应用的 LLM 攻击,包括一个 Playground 聊天界面,用于帮助用户迭代地提高其系统提示的安全性,支持 20 种不同的 LLM 提供商和 20 种动态 LLM 攻击模拟。
Prompt Fuzzer的特点:
1. 支持 20 种不同的 LLM 提供商
2. 模拟 20 种动态 LLM 攻击
3. 包括一个 Playground 聊天界面
4. 帮助用户迭代提高系统提示的安全性
5. 检测和防御针对 GenAI 应用的攻击
Prompt Fuzzer的功能:
1. 使用 Playground 聊天界面测试和改进系统提示
2. 模拟不同类型的 LLM 攻击以评估应用安全性
3. 针对特定 LLM 提供商进行安全性强化
4. 检测潜在的 Prompt Injection 和 Jailbreak 攻击
相关推荐
暂无评论...