R_REDDYX.XYZ
AIPython★ 514⑂ 84 форковMIT

liu00222/Open-Prompt-Injection

ОТКРЫТЫЙ БЕНЧМАРК ПРОМПТ-ИНЪЕКЦИЙ

Open-Prompt-Injection — benchmark для оценки атак и защиты от промпт-инъекций в LLM. Содержит наборы данных, скрипты тестирования и метрики защиты. Реализован на Python, имеет 491 звёзд.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Содержит более 5000 готовых промпт-инъекций для тестирования LLM на уязвимость.
  • Включает скрипты для автоматической оценки атак против GPT-4, Claude, Llama.
  • Предоставляет набор защитных мер и шаблонов для быстрого внедрения защиты от инъекций.
  • Генерирует отчёты с метриками ASR, защитой успеха и сравнением методов в JSON/CSV.
#llm#llm-security#llms#prompt-injection#prompt-injection-tool#security-and-privacy
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

AI-ориентированный пентест-инструмент★ 514FAST-REQUEST: API-ТЕСТЕР В IDEA★ 514ГОТОВЫЙ MCP ДЛЯ GODOT 4.X★ 514WELSONJS - ПРИЛОЖЕНИЯ ДЛЯ WINDOWS НА JS★ 514CORTEXDB: ИИ ПАМЯТЬ В ОДНОМ ФАЙЛЕ★ 514ОПЕНГРОК: УПРАВЛЕНИЕ МОДЕЛЯМИ★ 514

← ВЕСЬ КАТАЛОГ

liu00222/Open-Prompt-Injection — Открытый бенчмарк…