AI开源项目

Rebuff-新型语言模型提示防注入系统

Rebuff是一个还处于原型阶段的新型语言模型提示防注入系统,具有四层防护机制,包括启发式过滤、基于LLM的检测、向量数据库和Canary tokens。

Rebuff是一个还处于原型阶段的新型语言模型提示防注入系统,具有四层防护机制,包括启发式过滤、基于LLM的检测、向量数据库和Canary tokens。
Rebuff的特点:
1. 启发式过滤
2. 基于LLM的检测
3. 向量数据库
4. Canary tokens

Rebuff的功能:
1. 保护AI应用程序免受提示注入攻击
2. 实现多层防护机制
3. 监测和防御潜在的安全威胁

相关推荐

暂无评论

暂无评论...