R_REDDYX.XYZ

Prompt Injection: open-source проекты на GitHub

28 репозиториев по теме Prompt Injection, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM Security 37AI Security 57MCP 1593AI Agents 1303Agent Security 26LLM 2064Security 124Owasp 13Security Tools 50AI Safety 33Agentic AI 377Guardrails 23Langchain 193Claude Code 1573
NVIDIA/SkillSpector

SKILLSPECTOR: ЗАЩИТА АГЕНТОВ

Сканер ищет уязвимости, внедрения промптов и утечки данных в навыках Claude Code, Codex и MCP перед установкой.

★ 26,146 · Python
superagent-ai/superagent

Superagent защита ИИ

Superagent защищает ИИ‑приложения от инъекций промптов, утечек данных и вредных выводов, встраивая безопасность прямо в ваш продукт.

★ 6,596 · TypeScript
Tencent/AI-Infra-Guard

БЕЗОПАСНОСТЬ AI-СИСТЕМ

Платформа для тестирования безопасности AI-экосистем: сканирование инфраструктуры, MCP, агентов и оценка jailbreak-атак.

★ 3,790 · Python
always-further/nono

always-further/nono

Песочницы на основе возможностями с детальной политикой. Прокси-доступ непосредственно в рабочем контексте агента, с нулевой настройкой и нулевой задержкой

★ 2,407 · Rust
uber/ADR

ADR: БЕЗОПАСНОСТЬ AI‑АГЕНТОВ В UBER

ADR обеспечивает наблюдаемость, тестирование безопасности и обнаружение угроз для корпоративных ИИ‑агентов, уже используется в Uber.

★ 2,135 · Python
wuyoscar/AISafetyHot

AI SAFETY HOT DIGEST

AI Safety HOT собирает daily AI safety news, papers & incidents, jailbreaks, prompt injection, alignment и evals. На платформе — сайт, daily digest, RSS и MCP.

★ 2,125 · TeX
0sec-labs/0

AI-АГЕНТ ДЛЯ БЕЗОПАСНОСТИ

0 — открытый ИИ-агент безопасности, который autonomously обнаруживает, эксплуатирует и исправляет уязвимости в стеке. Исследовательский превью от Swiss Applied AI & Cyber

★ 1,356 · TypeScript
pipelab-org/pipelock

PIPELOCK ОХРАНЯЕТ AI АГЕНТЫ

AI-агент фаервол для MCP безопасности и исходящего трафика. Сканирует HTTP, MCP, A2A и WebSocket трафик в реальном времени на эксфильтрацию, SSRF и промпт‑инъекции, выдав

★ 993 · Go
AgentSafeLabs/safelabs-eval

ЗАЩИТА AI АГЕНТОВ ОТ УГРОЗ

safelabs-eval — фреймворк для red‑teaming и оценки защиты AI‑агентов, основанный на таксономии ASI01–ASI10 вдохновлённой OWASP. Написан на Python, поддерживает CrewAI, La

★ 829 · Python
luckyPipewrench/pipelock

AI-файрвол для MCP

Открытый AI-агентный файрвол для защиты MCP: контроль исходящих запросов, DLP, защита от SSRF и инъекций через промпты.

★ 636 · Go
toby-bridges/api-relay-audit

СКАНЕР БЕЗОПАСНОСТИ API-РЕЛЕЕВ

Локальный сканер для AI API-релеев и LLM-прокси. 620 ⭐ на GitHub.

★ 620 · Python
qybaihe/mu

MU: УМНЫЙ АГЕНТ КОДИРОВАНИЯ

mu (μ) — coding agent, который сначала оценивает задачу маленьким быстрым судьёй, а затем передаёт сложную работу большой модели. Построен на Pi и AionUi, написан на Type

★ 604 · TypeScript
KeyValueSoftwareSystems/agent-opfor

AGENT OPFOR ЭМУЛЯЦИЯ АТАК

Open‑source фреймворк для имитации атак на AI‑агенты и MCP‑серверы. Написан на TypeScript и уже собрал 377⭐.

★ 586 · TypeScript
liu00222/Open-Prompt-Injection

ОТКРЫТЫЙ БЕНЧМАРК ПРОМПТ-ИНЪЕКЦИЙ

Open-Prompt-Injection — benchmark для оценки атак и защиты от промпт-инъекций в LLM. Содержит наборы данных, скрипты тестирования и метрики защиты. Реализован на Python,

★ 514 · Python
PrismorSec/prismor

БЕЗОПАСНОСТЬ ДЛЯ ИИ-КОДЕРОВ - КАПС

Prismor блокирует опасные команды, утечки секретов и промпт-инъекции в Claude Code, Cursor и Windsurf в реальном времени.

★ 494 · Python
SponsioLabs/Sponsio

SPONSIO - БЕЗОПАСНОСТЬ AI АГЕНТОВ

Sponsio предлагает детерминированные решения безопасности для вероятностных ИИ‑агентов, минимизируя риски непредсказуемого поведения.

★ 472 · Python
TrustAI-laboratory/Learn-Prompt-Hacking

Курс по промпт-хакингу

Самый полный курс по инженерии промптов и атакам на LLM: от основ до продвинутых техник взлома и защиты.

★ 394 · Jupyter Notebook
lalipa2003-arch/JailbreakHub

ХАБ ДЛЯ ДЖЕЙЛБРЕЙКА LLM

JailbreakHub собирает промпты и методы для обхода безопасности LLM. Проект включает 245★ и классификацию атак. Полезен для исследования уязвимостей.

★ 363 · Roff
CyberSunil/LLMVault

LLMVault: ТРЕНИРОВОЧНАЯ ПЛАТФОРМА OWASP LLM

Научитесь защищать ИИ-системы: практические уязвимости Prompt Injection, RAG и агентов в одном открытом тренировочном фреймворке.

★ 356 · Python
heaven999b/hello-agent-system

Обучение проектированию AI-агентов

17 двуязычных уроков по созданию enterprise AI-агентов с нуля: инструменты, архитектуры, надежность, безопасность, RAG и продакшн-операции.

★ 316 · Python
langgptai/Awesome-Multimodal-Prompts

ПРОМПТЫ ДЛЯ GPT-4V И DALL-E3

Awesome-Multimodal-Prompts — подобран коллекция из промпты для GPT-4V and DALL-E3 that unlock весь multimodal capabilities. Use them to improve образ распознавание with G

★ 288
LLMSecurity/awesome-agent-skills-security

ОБЕЗОПАСИТЕЛЬНЫЙ СПИСОК НАВЫКОВ АГЕНТОВ

Собраны материалы по защите навыков ИИ‑агентов: атаки, защиты, фреймворки и бенчмарки. Список помогает исследователям и разработчикам оценивать уязвимости tool‑use и нара

★ 287
HeadyZhang/agent-audit

АГЕНТ-АУДИТ СКАНЕР БЕЗОПАСНОСТИ

Статический сканер безопасности для агентов LLM. Выявляет промпт‑инъекции, аудитит конфиги MCP и выполняет taint‑анализ. Содержит 51 правило, соответствующее OWASP Agenti

★ 245 · Python
humanbound/humanbound

РЕД-ТИМИНГ ИИ-АГЕНТОВ НА PYTHON

Humanbound — движок adversarial-тестирования, SDK и CLI для ИИ-агентов. Запускается локально или через платформу Humanbound. 218 звёзд на GitHub.

★ 239 · Python
guardana/guardana

ГУАРДАНА ЗАЩИТА AI-МОДЕЛЕЙ

Guardana проверяет артефакты моделей, живые эндпоинты, MCP-серверы и трассировки агентов на наличие угроз безопасности. Формирует воспроизводимые доказательства для решен

★ 225 · Python
gy15901580825/Argus

ARGUS: ТЕСТИРОВАНИЕ БЕЗОПАСНОСТИ AI АГЕНТОВ

Open-source фреймворк для red-team тестирования AI агентов. 261 проба с маппингом OWASP LLM Top 10, MITRE ATLAS и NIST AI RMF. Поддержка браузера, MCP и мок-платежей.

★ 210 · Python
secureagentics/Adrian

ADRIAN: БЕЗОПАСНОСТЬ AI АГЕНТОВ

Adrian мониторит и блокирует опасные действия AI‑агентов в реальном времени, предотвращая вредоносный вызов инструментов и инъекции промптов.

★ 203 · Python
OWASP/www-project-agent-memory-guard

ОБОРОНА ПАМЯТИ AI-АГЕНТОВ

Защита от poisoning memory AI-агентов (OWASP ASI06). Drop-in для LangChain, OpenAI Agents, AutoGen, CrewAI и mem0.

★ 203 · Python

Новые проекты по теме — в Telegram

Telegram →
Prompt Injection — 28 open-source проектов на GitHub | REDDYX AI