AI Security: open-source проекты на GitHub
57 репозиториев по теме AI Security, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
SKILLSPECTOR: ЗАЩИТА АГЕНТОВ
Сканер ищет уязвимости, внедрения промптов и утечки данных в навыках Claude Code, Codex и MCP перед установкой.
★ 26,146 · PythonCODEX-SECURITY ЗАЩИТА КОДА
CLI и TypeScript SDK для поиска, проверки и исправления уязвимостей в коде, основанные на OpenAI Codex.
★ 13,590 · TypeScriptAI охотник за багами
Набор инструментов для поиска уязвимостей, работающий на ИИ и доступный без подписки.
★ 5,900 · PythonGISKARD-OSS - ОЦЕНКA LLM АГЕНТОВ
Библиотека для оценки и тестирования LLM агентов с открытым исходным кодом.
★ 5,417 · PythonПЕСОЧНИЦА ДЛЯ AI-АГЕНТОВ
Запускайте любых AI-агентов за секунды без настройки и задержек. Написан на Rust для максимальной скорости.
★ 5,000 · RustОПЕНСОРС ТУЛКИТ RED TEAMING ДЛЯ AI
Открытый набор инструментов от Microsoft для поиска уязвимостей безопасности и безопасности в генеративных AI-системах. Автоматизирует сканирование, адаптивные многоходов
★ 4,966 · PythonClaude Code: все уровни
Полное руководство по Claude Code от основ до продвинутых сценариев — шаблоны, агентные рабочие процессы, тесты и шпаргалка для максимальной продуктивности.
★ 4,357 · TypeScriptБЕЗОПАСНОСТЬ AI-СИСТЕМ
Платформа для тестирования безопасности AI-экосистем: сканирование инфраструктуры, MCP, агентов и оценка jailbreak-атак.
★ 3,790 · PythonKritt AI: Поиск уязвимостей
Open‑source инструмент для самостоятельного хостинга, который использует ИИ‑агентов для автоматического выявления и подтверждения уязвимостей в исходном коде.
★ 2,431 · JavaScriptalways-further/nono
Песочницы на основе возможностями с детальной политикой. Прокси-доступ непосредственно в рабочем контексте агента, с нулевой настройкой и нулевой задержкой
★ 2,407 · RustТОП AI-АССИСТЕНТОВ ДЛЯ КОДА
Собрано более 2000 звёзд, список лучших инструментов с ИИ для генерации, автодополнения и рефакторинга кода. Поддерживает популярные языки и интеграции с IDE.
★ 2,287ADR: БЕЗОПАСНОСТЬ AI‑АГЕНТОВ В UBER
ADR обеспечивает наблюдаемость, тестирование безопасности и обнаружение угроз для корпоративных ИИ‑агентов, уже используется в Uber.
★ 2,135 · PythonОхотник за багами
Автономный поиск уязвимостей в терминале: разведка, 20 классов уязвимостей, генерация отчётов, всё внутри Claude Code.
★ 2,064 · PythonTOOLHIVE: УПРАВЛЯЙ MCP СЕРВЕРАМИ
ToolHive — это enterprise‑платформа на Go для запуска и управления серверами Model Context Protocol (MCP) в корпоративной среде.
★ 1,842 · GoAI-АГЕНТ ДЛЯ БЕЗОПАСНОСТИ
0 — открытый ИИ-агент безопасности, который autonomously обнаруживает, эксплуатирует и исправляет уязвимости в стеке. Исследовательский превью от Swiss Applied AI & Cyber
★ 1,356 · TypeScriptXALGORIX AI ПЕНТЕСТ АГЕНТЫ
Автономные ИИ‑агенты для пентеста: разведка, поиск уязвимостей и эксплуатация в реальном времени. Реализовано на Go и TypeScript.
★ 1,355 · GoATTACKGEN: AI ИНЦИДЕНТ РЕАГИРОВАНИЕ
Генерирует реалистичные сценарии кибератак, используя LLM и MITRE ATT&CK, адаптированные под вашу организацию и выбранные группы угроз.
★ 1,275 · PythonAUTOCVE — АГЕНТ СКАНИРУЕТ КОД
Автоматизированная платформа на основе ИИ-агента для поиска CVE в исходном коде, проверки уязвимостей и генерации отчётов.
★ 1,226 · PythonSTRIDE GPT УГРОЗ МОДЕЛИРОВАНИЕ AI
Стратегический инструмент для автоматического создания угрозовых моделей по методологии STRIDE с использованием GPT от OpenAI.
★ 1,157 · PythonAI‑агент для пентенста
Проект превращает Claude Code в исследовательского помощника для авторизованного пентеста, предлагая специализированные ИИ‑субагентов, которые планируют engagements, анал
★ 1,124 · ShellPENTESTCODE: ИИ ПЕНТЕСТ СИСТЕМА
Автономная многоагентная система на TypeScript для проникновенного тестирования с состоянием вовлечения и параллельным выполнением.
★ 1,055 · TypeScriptMEDUSA: AI-СКАНЕР БЕЗОПАСНОСТИ
AI-first сканер с 79 анализаторами и 40 000+ правилами обнаружения угроз для AI/ML, LLM агентов и MCP серверов.
★ 1,018 · PythonPIPELOCK ОХРАНЯЕТ AI АГЕНТЫ
AI-агент фаервол для MCP безопасности и исходящего трафика. Сканирует HTTP, MCP, A2A и WebSocket трафик в реальном времени на эксфильтрацию, SSRF и промпт‑инъекции, выдав
★ 993 · GoSHIP-SAFE БЕЗОПАСНОСТЬ AGENTIC
CLI‑сканер ship-safe ищет уязвимости CI/CD, риски прав агентов, внедрение MCP, секреты и зависимости, помеченные DMCA.
★ 872 · JavaScriptThinkWatch: AI Bastion Host
Корпоративный бастион для безопасного доступа к AI API и MCP с унифицированной прокси-службой, RBAC, аудитом, лимитированием и учётом затрат. Поддержка OpenAI, Anthropic,
★ 868 · RustClaude-BugHunter - ОХОТА НА ОШИБКИ
51 навык, 15 слэш‑команд и 574+ шаблонов отчётов для поиска багов и red‑team работы.
★ 786 · PythonARCJET: БЕЗОПАСНОСТЬ ДЛЯ ИИ
Защищай свои AI‑агенты от инъекций промптов, кражи данных и злоупотребления инструментами с помощью простого TypeScript‑модуля.
★ 701 · TypeScriptAI-файрвол для MCP
Открытый AI-агентный файрвол для защиты MCP: контроль исходящих запросов, DLP, защита от SSRF и инъекций через промпты.
★ 636 · GoСКАНЕР БЕЗОПАСНОСТИ API-РЕЛЕЕВ
Локальный сканер для AI API-релеев и LLM-прокси. 620 ⭐ на GitHub.
★ 620 · PythonAGENT OPFOR ЭМУЛЯЦИЯ АТАК
Open‑source фреймворк для имитации атак на AI‑агенты и MCP‑серверы. Написан на TypeScript и уже собрал 377⭐.
★ 586 · TypeScriptEMILIA PROTOCOL ОХРАНИТЕЛЬ ДЕЙСТВИЙ
EMILIA Gate проверяет полномочия перед изменением денег, кода, разрешений и инфраструктуры, давая независимо проверяемое доказательство.
★ 550 · TypeScriptAI-ориентированный пентест-инструмент
Offensive-security MCP сервер с 205 инструментами, 17 агентами, 60 пробами для OWASP Top 10
★ 514 · PythonAGENT-SKILLS-HUB: ХАБ ДЛЯ AI-АГЕНТОВ
Открытая платформа для поиска и сравнения Agent Skills, инструментов и MCP-серверов с рейтингами, трендами и авто-синхронизацией с GitHub.
★ 501 · TypeScriptБЕЗОПАСНОСТЬ ДЛЯ ИИ-КОДЕРОВ - КАПС
Prismor блокирует опасные команды, утечки секретов и промпт-инъекции в Claude Code, Cursor и Windsurf в реальном времени.
★ 494 · Python3000+ ПРОГРАММ БАГ БАУНТИ В ОДНОМ МЕСТЕ
Каталог активных программ баг-баунти и VDP с MCP и API. Всё, что нужно исследователям безопасности.
★ 480 · TypeScriptSPONSIO - БЕЗОПАСНОСТЬ AI АГЕНТОВ
Sponsio предлагает детерминированные решения безопасности для вероятностных ИИ‑агентов, минимизируя риски непредсказуемого поведения.
★ 472 · PythonAGENTHOUND ОХОТА НА АГЕНТЫ
Offensive security framework for AI agent infrastructure: recon, credential looting, model exfiltration, poisoning and attack‑path analysis.
★ 464 · GoAI SOC: Безопасность
Автоматизированный SOC на б побезопасности.
★ 456 · PythonASQAV-SDK - ДОВЕРИЕ К ИИ АГЕНТАМ
SDK на Python/TypeScript для подписанных чеков действий ИИ‑агентов, контроля политик и аудита. Работает с LangChain, CrewAI и MCP.
★ 449 · PythonLLMVault: ТРЕНИРОВОЧНАЯ ПЛАТФОРМА OWASP LLM
Научитесь защищать ИИ-системы: практические уязвимости Prompt Injection, RAG и агентов в одном открытом тренировочном фреймворке.
★ 356 · PythonGREYWALL — ИЗОЛИРУЙ ИИ-АГЕНТОВ БЕЗОПАСНО
Контейнер‑free песочница с deny‑by‑default: изоляция FS, сети и syscalls на уровне ядра для Linux/macOS.
★ 315 · GoTAPESTRY: ОБЩИЙ AI ДЛЯ НАЦИЙ
Проект Tapestry объединяет страны в консорциум для создания общей frontier-модели, из которой каждая нация получит свою суверенную ИИ‑систему.
★ 305 · PythonSECURITYCLAW АВТОНОМНЫЙ SOC АГЕНТ
Modular SOC agent on Python, monitors OpenSearch/Elasticsearch, builds RAG memory and validates anomalies with LLMs.
★ 280 · PythonАГЕНТ-АУДИТ СКАНЕР БЕЗОПАСНОСТИ
Статический сканер безопасности для агентов LLM. Выявляет промпт‑инъекции, аудитит конфиги MCP и выполняет taint‑анализ. Содержит 51 правило, соответствующее OWASP Agenti
★ 245 · PythonМИНИМАЛЬНЫЙ БОКС ДЛЯ АГЕНТОВ
Запускай ИИ‑агент в изолированном контейнере Minimal box на своём ПК. Собирай и выполняй код без риска для системы.
★ 240 · RustРЕД-ТИМИНГ ИИ-АГЕНТОВ НА PYTHON
Humanbound — движок adversarial-тестирования, SDK и CLI для ИИ-агентов. Запускается локально или через платформу Humanbound. 218 звёзд на GitHub.
★ 239 · PythonКЛОД КОД OWASP БЕЗОПАСНОСТЬ 2025
Навык Claude Code для соблюдения OWASP лучших практик 2025‑2026: Top 10, ASVS 5.0, безопасность агентного ИИ и 20+ языковых нюансов.
★ 233ГУАРДАНА ЗАЩИТА AI-МОДЕЛЕЙ
Guardana проверяет артефакты моделей, живые эндпоинты, MCP-серверы и трассировки агентов на наличие угроз безопасности. Формирует воспроизводимые доказательства для решен
★ 225 · PythonГАТЕ ПРИВАТНАЯ ГРАНИЦА ДАННЫХ
Gate создаёт детерминированный барьер между вашими данными и ИИ, гарантируя конфиденциальность без потери полезности.
★ 214 · RustARGUS: ТЕСТИРОВАНИЕ БЕЗОПАСНОСТИ AI АГЕНТОВ
Open-source фреймворк для red-team тестирования AI агентов. 261 проба с маппингом OWASP LLM Top 10, MITRE ATLAS и NIST AI RMF. Поддержка браузера, MCP и мок-платежей.
★ 210 · PythonНАДЁЖНЫЙ ИИ-АГЕНТ НА PYTHON
Защита личных данных с локальной очисткой запросов через локальную LLM перед отправкой в облако.
★ 205 · PythonCLOSURE — CI АГЕНТ ДЛЯ ГЕЙТИНГА
Clausa — Rust‑CLI агент, гарантирующий детерминированное прохождение CI пайплайнов через точное гейтинг.
★ 205 · RustADRIAN: БЕЗОПАСНОСТЬ AI АГЕНТОВ
Adrian мониторит и блокирует опасные действия AI‑агентов в реальном времени, предотвращая вредоносный вызов инструментов и инъекции промптов.
★ 203 · PythonОБОРОНА ПАМЯТИ AI-АГЕНТОВ
Защита от poisoning memory AI-агентов (OWASP ASI06). Drop-in для LangChain, OpenAI Agents, AutoGen, CrewAI и mem0.
★ 203 · PythonNODE9-PROXY: ЩИТ ДЛЯ AI-АГЕНТОВ
node9-proxy обеспечивает детерминированное управление и аудит автономных ИИ‑агентов, гарантируя безопасность выполнения кода.
★ 201 · TypeScriptMCP OBSERVATORY - ЗАЩИТА НА ГРЕБНЕ
CI‑нативное тестирование безопасности для серверов MCP: имитация атак, обнаружение схемных отклонений и оценка здоровья до запуска агентов.
★ 121 · TypeScriptБезопасный LLM для кода
Система на базе LLM, анализирующая AI‑сгенерированный код на уязвимости и предлагающая автоматические исправления. Интегрируется в CI/CD для непрерывной защиты приложений
★ 57 · PythonНовые проекты по теме — в Telegram
Telegram →