AIPython★ 491
liu00222/Open-Prompt-Injection
ОТКРЫТЫЙ БЕНЧМАРК ПРОМПТ-ИНЪЕКЦИЙ
Open-Prompt-Injection — benchmark для оценки атак и защиты от промпт-инъекций в LLM. Содержит наборы данных, скрипты тестирования и метрики защиты. Реализован на Python, имеет 491 звёзд.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Содержит более 5000 готовых промпт-инъекций для тестирования LLM на уязвимость.
- Включает скрипты для автоматической оценки атак против GPT-4, Claude, Llama.
- Предоставляет набор защитных мер и шаблонов для быстрого внедрения защиты от инъекций.
- Генерирует отчёты с метриками ASR, защитой успеха и сравнением методов в JSON/CSV.
#llm#llm-security#llms#prompt-injection#prompt-injection-tool#security-and-privacy
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram