AIPython★ 514⑂ 84 форковMIT
liu00222/Open-Prompt-Injection
ОТКРЫТЫЙ БЕНЧМАРК ПРОМПТ-ИНЪЕКЦИЙ
Open-Prompt-Injection — benchmark для оценки атак и защиты от промпт-инъекций в LLM. Содержит наборы данных, скрипты тестирования и метрики защиты. Реализован на Python, имеет 491 звёзд.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Содержит более 5000 готовых промпт-инъекций для тестирования LLM на уязвимость.
- Включает скрипты для автоматической оценки атак против GPT-4, Claude, Llama.
- Предоставляет набор защитных мер и шаблонов для быстрого внедрения защиты от инъекций.
- Генерирует отчёты с метриками ASR, защитой успеха и сравнением методов в JSON/CSV.
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram