Prompt-Guard-86M meta-llama

标签

• 文本分类
• 内容审核
• 安全过滤
• 提示词工程
• 大语言模型
• NLP
• transformers
• 机器学习

摘要

Prompt-Guard-86M 是 Meta 发布的轻量级文本分类模型，专门用于检测提示词注入攻击、越狱尝试及其他恶意提示内容。该模型基于 Transformers 架构，可对输入文本进行安全分类，常用于大语言模型应用的安全防护层。它适合集成到 LLM 推理管线中，作为内容审核与安全过滤的前置组件。