Prompt Injection: open-source проекты на GitHub
28 репозиториев по теме Prompt Injection, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
SKILLSPECTOR: ЗАЩИТА АГЕНТОВ
Сканер ищет уязвимости, внедрения промптов и утечки данных в навыках Claude Code, Codex и MCP перед установкой.
★ 26,146 · PythonSuperagent защита ИИ
Superagent защищает ИИ‑приложения от инъекций промптов, утечек данных и вредных выводов, встраивая безопасность прямо в ваш продукт.
★ 6,596 · TypeScriptБЕЗОПАСНОСТЬ AI-СИСТЕМ
Платформа для тестирования безопасности AI-экосистем: сканирование инфраструктуры, MCP, агентов и оценка jailbreak-атак.
★ 3,790 · Pythonalways-further/nono
Песочницы на основе возможностями с детальной политикой. Прокси-доступ непосредственно в рабочем контексте агента, с нулевой настройкой и нулевой задержкой
★ 2,407 · RustADR: БЕЗОПАСНОСТЬ AI‑АГЕНТОВ В UBER
ADR обеспечивает наблюдаемость, тестирование безопасности и обнаружение угроз для корпоративных ИИ‑агентов, уже используется в Uber.
★ 2,135 · PythonAI SAFETY HOT DIGEST
AI Safety HOT собирает daily AI safety news, papers & incidents, jailbreaks, prompt injection, alignment и evals. На платформе — сайт, daily digest, RSS и MCP.
★ 2,125 · TeXAI-АГЕНТ ДЛЯ БЕЗОПАСНОСТИ
0 — открытый ИИ-агент безопасности, который autonomously обнаруживает, эксплуатирует и исправляет уязвимости в стеке. Исследовательский превью от Swiss Applied AI & Cyber
★ 1,356 · TypeScriptPIPELOCK ОХРАНЯЕТ AI АГЕНТЫ
AI-агент фаервол для MCP безопасности и исходящего трафика. Сканирует HTTP, MCP, A2A и WebSocket трафик в реальном времени на эксфильтрацию, SSRF и промпт‑инъекции, выдав
★ 993 · GoЗАЩИТА AI АГЕНТОВ ОТ УГРОЗ
safelabs-eval — фреймворк для red‑teaming и оценки защиты AI‑агентов, основанный на таксономии ASI01–ASI10 вдохновлённой OWASP. Написан на Python, поддерживает CrewAI, La
★ 829 · PythonAI-файрвол для MCP
Открытый AI-агентный файрвол для защиты MCP: контроль исходящих запросов, DLP, защита от SSRF и инъекций через промпты.
★ 636 · GoСКАНЕР БЕЗОПАСНОСТИ API-РЕЛЕЕВ
Локальный сканер для AI API-релеев и LLM-прокси. 620 ⭐ на GitHub.
★ 620 · PythonMU: УМНЫЙ АГЕНТ КОДИРОВАНИЯ
mu (μ) — coding agent, который сначала оценивает задачу маленьким быстрым судьёй, а затем передаёт сложную работу большой модели. Построен на Pi и AionUi, написан на Type
★ 604 · TypeScriptAGENT OPFOR ЭМУЛЯЦИЯ АТАК
Open‑source фреймворк для имитации атак на AI‑агенты и MCP‑серверы. Написан на TypeScript и уже собрал 377⭐.
★ 586 · TypeScriptОТКРЫТЫЙ БЕНЧМАРК ПРОМПТ-ИНЪЕКЦИЙ
Open-Prompt-Injection — benchmark для оценки атак и защиты от промпт-инъекций в LLM. Содержит наборы данных, скрипты тестирования и метрики защиты. Реализован на Python,
★ 514 · PythonБЕЗОПАСНОСТЬ ДЛЯ ИИ-КОДЕРОВ - КАПС
Prismor блокирует опасные команды, утечки секретов и промпт-инъекции в Claude Code, Cursor и Windsurf в реальном времени.
★ 494 · PythonSPONSIO - БЕЗОПАСНОСТЬ AI АГЕНТОВ
Sponsio предлагает детерминированные решения безопасности для вероятностных ИИ‑агентов, минимизируя риски непредсказуемого поведения.
★ 472 · PythonКурс по промпт-хакингу
Самый полный курс по инженерии промптов и атакам на LLM: от основ до продвинутых техник взлома и защиты.
★ 394 · Jupyter NotebookХАБ ДЛЯ ДЖЕЙЛБРЕЙКА LLM
JailbreakHub собирает промпты и методы для обхода безопасности LLM. Проект включает 245★ и классификацию атак. Полезен для исследования уязвимостей.
★ 363 · RoffLLMVault: ТРЕНИРОВОЧНАЯ ПЛАТФОРМА OWASP LLM
Научитесь защищать ИИ-системы: практические уязвимости Prompt Injection, RAG и агентов в одном открытом тренировочном фреймворке.
★ 356 · PythonОбучение проектированию AI-агентов
17 двуязычных уроков по созданию enterprise AI-агентов с нуля: инструменты, архитектуры, надежность, безопасность, RAG и продакшн-операции.
★ 316 · PythonПРОМПТЫ ДЛЯ GPT-4V И DALL-E3
Awesome-Multimodal-Prompts — подобран коллекция из промпты для GPT-4V and DALL-E3 that unlock весь multimodal capabilities. Use them to improve образ распознавание with G
★ 288ОБЕЗОПАСИТЕЛЬНЫЙ СПИСОК НАВЫКОВ АГЕНТОВ
Собраны материалы по защите навыков ИИ‑агентов: атаки, защиты, фреймворки и бенчмарки. Список помогает исследователям и разработчикам оценивать уязвимости tool‑use и нара
★ 287АГЕНТ-АУДИТ СКАНЕР БЕЗОПАСНОСТИ
Статический сканер безопасности для агентов LLM. Выявляет промпт‑инъекции, аудитит конфиги MCP и выполняет taint‑анализ. Содержит 51 правило, соответствующее OWASP Agenti
★ 245 · PythonРЕД-ТИМИНГ ИИ-АГЕНТОВ НА PYTHON
Humanbound — движок adversarial-тестирования, SDK и CLI для ИИ-агентов. Запускается локально или через платформу Humanbound. 218 звёзд на GitHub.
★ 239 · PythonГУАРДАНА ЗАЩИТА AI-МОДЕЛЕЙ
Guardana проверяет артефакты моделей, живые эндпоинты, MCP-серверы и трассировки агентов на наличие угроз безопасности. Формирует воспроизводимые доказательства для решен
★ 225 · PythonARGUS: ТЕСТИРОВАНИЕ БЕЗОПАСНОСТИ AI АГЕНТОВ
Open-source фреймворк для red-team тестирования AI агентов. 261 проба с маппингом OWASP LLM Top 10, MITRE ATLAS и NIST AI RMF. Поддержка браузера, MCP и мок-платежей.
★ 210 · PythonADRIAN: БЕЗОПАСНОСТЬ AI АГЕНТОВ
Adrian мониторит и блокирует опасные действия AI‑агентов в реальном времени, предотвращая вредоносный вызов инструментов и инъекции промптов.
★ 203 · PythonОБОРОНА ПАМЯТИ AI-АГЕНТОВ
Защита от poisoning memory AI-агентов (OWASP ASI06). Drop-in для LangChain, OpenAI Agents, AutoGen, CrewAI и mem0.
★ 203 · PythonНовые проекты по теме — в Telegram
Telegram →