R_REDDYX.XYZ

AI Security: open-source проекты на GitHub

57 репозиториев по теме AI Security, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

MCP 1593Security 124AI Agents 1303LLM Security 37Prompt Injection 28Security Tools 50Agent Security 26Claude Code 1573LLM 2064Cybersecurity 47Agentic AI 377Penetration Testing 28Owasp 13Vulnerability Scanner 16
NVIDIA/SkillSpector

SKILLSPECTOR: ЗАЩИТА АГЕНТОВ

Сканер ищет уязвимости, внедрения промптов и утечки данных в навыках Claude Code, Codex и MCP перед установкой.

★ 26,146 · Python
openai/codex-security

CODEX-SECURITY ЗАЩИТА КОДА

CLI и TypeScript SDK для поиска, проверки и исправления уязвимостей в коде, основанные на OpenAI Codex.

★ 13,590 · TypeScript
Awarexone/Agentic-Bug-Hunter

AI охотник за багами

Набор инструментов для поиска уязвимостей, работающий на ИИ и доступный без подписки.

★ 5,900 · Python
Giskard-AI/giskard-oss

GISKARD-OSS - ОЦЕНКA LLM АГЕНТОВ

Библиотека для оценки и тестирования LLM агентов с открытым исходным кодом.

★ 5,417 · Python
nolabs-ai/nono

ПЕСОЧНИЦА ДЛЯ AI-АГЕНТОВ

Запускайте любых AI-агентов за секунды без настройки и задержек. Написан на Rust для максимальной скорости.

★ 5,000 · Rust
microsoft/PyRIT

ОПЕНСОРС ТУЛКИТ RED TEAMING ДЛЯ AI

Открытый набор инструментов от Microsoft для поиска уязвимостей безопасности и безопасности в генеративных AI-системах. Автоматизирует сканирование, адаптивные многоходов

★ 4,966 · Python
FlorianBruniaux/claude-code-ultimate-guide

Claude Code: все уровни

Полное руководство по Claude Code от основ до продвинутых сценариев — шаблоны, агентные рабочие процессы, тесты и шпаргалка для максимальной продуктивности.

★ 4,357 · TypeScript
Tencent/AI-Infra-Guard

БЕЗОПАСНОСТЬ AI-СИСТЕМ

Платформа для тестирования безопасности AI-экосистем: сканирование инфраструктуры, MCP, агентов и оценка jailbreak-атак.

★ 3,790 · Python
Kritt-ai/open-kritt

Kritt AI: Поиск уязвимостей

Open‑source инструмент для самостоятельного хостинга, который использует ИИ‑агентов для автоматического выявления и подтверждения уязвимостей в исходном коде.

★ 2,431 · JavaScript
always-further/nono

always-further/nono

Песочницы на основе возможностями с детальной политикой. Прокси-доступ непосредственно в рабочем контексте агента, с нулевой настройкой и нулевой задержкой

★ 2,407 · Rust
ai-for-developers/awesome-ai-coding-tools

ТОП AI-АССИСТЕНТОВ ДЛЯ КОДА

Собрано более 2000 звёзд, список лучших инструментов с ИИ для генерации, автодополнения и рефакторинга кода. Поддерживает популярные языки и интеграции с IDE.

★ 2,287
uber/ADR

ADR: БЕЗОПАСНОСТЬ AI‑АГЕНТОВ В UBER

ADR обеспечивает наблюдаемость, тестирование безопасности и обнаружение угроз для корпоративных ИИ‑агентов, уже используется в Uber.

★ 2,135 · Python
shuvonsec/claude-bug-bounty

Охотник за багами

Автономный поиск уязвимостей в терминале: разведка, 20 классов уязвимостей, генерация отчётов, всё внутри Claude Code.

★ 2,064 · Python
stacklok/toolhive

TOOLHIVE: УПРАВЛЯЙ MCP СЕРВЕРАМИ

ToolHive — это enterprise‑платформа на Go для запуска и управления серверами Model Context Protocol (MCP) в корпоративной среде.

★ 1,842 · Go
0sec-labs/0

AI-АГЕНТ ДЛЯ БЕЗОПАСНОСТИ

0 — открытый ИИ-агент безопасности, который autonomously обнаруживает, эксплуатирует и исправляет уязвимости в стеке. Исследовательский превью от Swiss Applied AI & Cyber

★ 1,356 · TypeScript
xalgorix/xalgorix

XALGORIX AI ПЕНТЕСТ АГЕНТЫ

Автономные ИИ‑агенты для пентеста: разведка, поиск уязвимостей и эксплуатация в реальном времени. Реализовано на Go и TypeScript.

★ 1,355 · Go
mrwadams/attackgen

ATTACKGEN: AI ИНЦИДЕНТ РЕАГИРОВАНИЕ

Генерирует реалистичные сценарии кибератак, используя LLM и MITRE ATT&CK, адаптированные под вашу организацию и выбранные группы угроз.

★ 1,275 · Python
larlarua/AutoCVE

AUTOCVE — АГЕНТ СКАНИРУЕТ КОД

Автоматизированная платформа на основе ИИ-агента для поиска CVE в исходном коде, проверки уязвимостей и генерации отчётов.

★ 1,226 · Python
mrwadams/stride-gpt

STRIDE GPT УГРОЗ МОДЕЛИРОВАНИЕ AI

Стратегический инструмент для автоматического создания угрозовых моделей по методологии STRIDE с использованием GPT от OpenAI.

★ 1,157 · Python
0xSteph/pentest-ai-agents

AI‑агент для пентенста

Проект превращает Claude Code в исследовательского помощника для авторизованного пентеста, предлагая специализированные ИИ‑субагентов, которые планируют engagements, анал

★ 1,124 · Shell
s0ld13rr/pentestcode

PENTESTCODE: ИИ ПЕНТЕСТ СИСТЕМА

Автономная многоагентная система на TypeScript для проникновенного тестирования с состоянием вовлечения и параллельным выполнением.

★ 1,055 · TypeScript
Pantheon-Security/medusa

MEDUSA: AI-СКАНЕР БЕЗОПАСНОСТИ

AI-first сканер с 79 анализаторами и 40 000+ правилами обнаружения угроз для AI/ML, LLM агентов и MCP серверов.

★ 1,018 · Python
pipelab-org/pipelock

PIPELOCK ОХРАНЯЕТ AI АГЕНТЫ

AI-агент фаервол для MCP безопасности и исходящего трафика. Сканирует HTTP, MCP, A2A и WebSocket трафик в реальном времени на эксфильтрацию, SSRF и промпт‑инъекции, выдав

★ 993 · Go
asamassekou10/ship-safe

SHIP-SAFE БЕЗОПАСНОСТЬ AGENTIC

CLI‑сканер ship-safe ищет уязвимости CI/CD, риски прав агентов, внедрение MCP, секреты и зависимости, помеченные DMCA.

★ 872 · JavaScript
ThinkWatchProject/ThinkWatch

ThinkWatch: AI Bastion Host

Корпоративный бастион для безопасного доступа к AI API и MCP с унифицированной прокси-службой, RBAC, аудитом, лимитированием и учётом затрат. Поддержка OpenAI, Anthropic,

★ 868 · Rust
elementalsouls/Claude-BugHunter

Claude-BugHunter - ОХОТА НА ОШИБКИ

51 навык, 15 слэш‑команд и 574+ шаблонов отчётов для поиска багов и red‑team работы.

★ 786 · Python
arcjet/arcjet-js

ARCJET: БЕЗОПАСНОСТЬ ДЛЯ ИИ

Защищай свои AI‑агенты от инъекций промптов, кражи данных и злоупотребления инструментами с помощью простого TypeScript‑модуля.

★ 701 · TypeScript
luckyPipewrench/pipelock

AI-файрвол для MCP

Открытый AI-агентный файрвол для защиты MCP: контроль исходящих запросов, DLP, защита от SSRF и инъекций через промпты.

★ 636 · Go
toby-bridges/api-relay-audit

СКАНЕР БЕЗОПАСНОСТИ API-РЕЛЕЕВ

Локальный сканер для AI API-релеев и LLM-прокси. 620 ⭐ на GitHub.

★ 620 · Python
KeyValueSoftwareSystems/agent-opfor

AGENT OPFOR ЭМУЛЯЦИЯ АТАК

Open‑source фреймворк для имитации атак на AI‑агенты и MCP‑серверы. Написан на TypeScript и уже собрал 377⭐.

★ 586 · TypeScript
emiliaprotocol/emilia-protocol

EMILIA PROTOCOL ОХРАНИТЕЛЬ ДЕЙСТВИЙ

EMILIA Gate проверяет полномочия перед изменением денег, кода, разрешений и инфраструктуры, давая независимо проверяемое доказательство.

★ 550 · TypeScript
0xSteph/pentest-ai

AI-ориентированный пентест-инструмент

Offensive-security MCP сервер с 205 инструментами, 17 агентами, 60 пробами для OWASP Top 10

★ 514 · Python
zhuyansen/agent-skills-hub

AGENT-SKILLS-HUB: ХАБ ДЛЯ AI-АГЕНТОВ

Открытая платформа для поиска и сравнения Agent Skills, инструментов и MCP-серверов с рейтингами, трендами и авто-синхронизацией с GitHub.

★ 501 · TypeScript
PrismorSec/prismor

БЕЗОПАСНОСТЬ ДЛЯ ИИ-КОДЕРОВ - КАПС

Prismor блокирует опасные команды, утечки секретов и промпт-инъекции в Claude Code, Cursor и Windsurf в реальном времени.

★ 494 · Python
lissy93/bug-bounties

3000+ ПРОГРАММ БАГ БАУНТИ В ОДНОМ МЕСТЕ

Каталог активных программ баг-баунти и VDP с MCP и API. Всё, что нужно исследователям безопасности.

★ 480 · TypeScript
SponsioLabs/Sponsio

SPONSIO - БЕЗОПАСНОСТЬ AI АГЕНТОВ

Sponsio предлагает детерминированные решения безопасности для вероятностных ИИ‑агентов, минимизируя риски непредсказуемого поведения.

★ 472 · Python
adithyan-ak/AgentHound

AGENTHOUND ОХОТА НА АГЕНТЫ

Offensive security framework for AI agent infrastructure: recon, credential looting, model exfiltration, poisoning and attack‑path analysis.

★ 464 · Go
beenuar/AiSOC

AI SOC: Безопасность

Автоматизированный SOC на б побезопасности.

★ 456 · Python
jagmarques/asqav-sdk

ASQAV-SDK - ДОВЕРИЕ К ИИ АГЕНТАМ

SDK на Python/TypeScript для подписанных чеков действий ИИ‑агентов, контроля политик и аудита. Работает с LangChain, CrewAI и MCP.

★ 449 · Python
CyberSunil/LLMVault

LLMVault: ТРЕНИРОВОЧНАЯ ПЛАТФОРМА OWASP LLM

Научитесь защищать ИИ-системы: практические уязвимости Prompt Injection, RAG и агентов в одном открытом тренировочном фреймворке.

★ 356 · Python
GreyhavenHQ/greywall

GREYWALL — ИЗОЛИРУЙ ИИ-АГЕНТОВ БЕЗОПАСНО

Контейнер‑free песочница с deny‑by‑default: изоляция FS, сети и syscalls на уровне ядра для Linux/macOS.

★ 315 · Go
The-AI-Alliance/tapestry

TAPESTRY: ОБЩИЙ AI ДЛЯ НАЦИЙ

Проект Tapestry объединяет страны в консорциум для создания общей frontier-модели, из которой каждая нация получит свою суверенную ИИ‑систему.

★ 305 · Python
SecurityClaw/SecurityClaw

SECURITYCLAW АВТОНОМНЫЙ SOC АГЕНТ

Modular SOC agent on Python, monitors OpenSearch/Elasticsearch, builds RAG memory and validates anomalies with LLMs.

★ 280 · Python
HeadyZhang/agent-audit

АГЕНТ-АУДИТ СКАНЕР БЕЗОПАСНОСТИ

Статический сканер безопасности для агентов LLM. Выявляет промпт‑инъекции, аудитит конфиги MCP и выполняет taint‑анализ. Содержит 51 правило, соответствующее OWASP Agenti

★ 245 · Python
gominimal/minimal

МИНИМАЛЬНЫЙ БОКС ДЛЯ АГЕНТОВ

Запускай ИИ‑агент в изолированном контейнере Minimal box на своём ПК. Собирай и выполняй код без риска для системы.

★ 240 · Rust
humanbound/humanbound

РЕД-ТИМИНГ ИИ-АГЕНТОВ НА PYTHON

Humanbound — движок adversarial-тестирования, SDK и CLI для ИИ-агентов. Запускается локально или через платформу Humanbound. 218 звёзд на GitHub.

★ 239 · Python
agamm/claude-code-owasp

КЛОД КОД OWASP БЕЗОПАСНОСТЬ 2025

Навык Claude Code для соблюдения OWASP лучших практик 2025‑2026: Top 10, ASVS 5.0, безопасность агентного ИИ и 20+ языковых нюансов.

★ 233
guardana/guardana

ГУАРДАНА ЗАЩИТА AI-МОДЕЛЕЙ

Guardana проверяет артефакты моделей, живые эндпоинты, MCP-серверы и трассировки агентов на наличие угроз безопасности. Формирует воспроизводимые доказательства для решен

★ 225 · Python
GaaraZhu/gate

ГАТЕ ПРИВАТНАЯ ГРАНИЦА ДАННЫХ

Gate создаёт детерминированный барьер между вашими данными и ИИ, гарантируя конфиденциальность без потери полезности.

★ 214 · Rust
gy15901580825/Argus

ARGUS: ТЕСТИРОВАНИЕ БЕЗОПАСНОСТИ AI АГЕНТОВ

Open-source фреймворк для red-team тестирования AI агентов. 261 проба с маппингом OWASP LLM Top 10, MITRE ATLAS и NIST AI RMF. Поддержка браузера, MCP и мок-платежей.

★ 210 · Python
spire-studio/cloakbot

НАДЁЖНЫЙ ИИ-АГЕНТ НА PYTHON

Защита личных данных с локальной очисткой запросов через локальную LLM перед отправкой в облако.

★ 205 · Python
liuyanghejerry/Clausura

CLOSURE — CI АГЕНТ ДЛЯ ГЕЙТИНГА

Clausa — Rust‑CLI агент, гарантирующий детерминированное прохождение CI пайплайнов через точное гейтинг.

★ 205 · Rust
secureagentics/Adrian

ADRIAN: БЕЗОПАСНОСТЬ AI АГЕНТОВ

Adrian мониторит и блокирует опасные действия AI‑агентов в реальном времени, предотвращая вредоносный вызов инструментов и инъекции промптов.

★ 203 · Python
OWASP/www-project-agent-memory-guard

ОБОРОНА ПАМЯТИ AI-АГЕНТОВ

Защита от poisoning memory AI-агентов (OWASP ASI06). Drop-in для LangChain, OpenAI Agents, AutoGen, CrewAI и mem0.

★ 203 · Python
node9-ai/node9-proxy

NODE9-PROXY: ЩИТ ДЛЯ AI-АГЕНТОВ

node9-proxy обеспечивает детерминированное управление и аудит автономных ИИ‑агентов, гарантируя безопасность выполнения кода.

★ 201 · TypeScript
KryptosAI/mcp-observatory

MCP OBSERVATORY - ЗАЩИТА НА ГРЕБНЕ

CI‑нативное тестирование безопасности для серверов MCP: имитация атак, обнаружение схемных отклонений и оценка здоровья до запуска агентов.

★ 121 · TypeScript
trynullsec/nullsec-s1

Безопасный LLM для кода

Система на базе LLM, анализирующая AI‑сгенерированный код на уязвимости и предлагающая автоматические исправления. Интегрируется в CI/CD для непрерывной защиты приложений

★ 57 · Python

Новые проекты по теме — в Telegram

Telegram →
AI Security — 57 open-source проектов на GitHub | REDDYX AI