Agent Security: open-source проекты на GitHub
26 репозиториев по теме Agent Security, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
SKILLSPECTOR: ЗАЩИТА АГЕНТОВ
Сканер ищет уязвимости, внедрения промптов и утечки данных в навыках Claude Code, Codex и MCP перед установкой.
★ 26,146 · PythonПЕСОЧНИЦА ДЛЯ AI-АГЕНТОВ
Запускайте любых AI-агентов за секунды без настройки и задержек. Написан на Rust для максимальной скорости.
★ 5,000 · RustБЕЗОПАСНОСТЬ AI-СИСТЕМ
Платформа для тестирования безопасности AI-экосистем: сканирование инфраструктуры, MCP, агентов и оценка jailbreak-атак.
★ 3,790 · PythonAGENT BEACON - ТЕЛЕМЕТРИЯ ДЛЯ ИИ-АГЕНТОВ
Открытый слой телеметрии для мониторинга AI-агентов в локальной среде, CI и облаке.
★ 3,514 · Goalways-further/nono
Песочницы на основе возможностями с детальной политикой. Прокси-доступ непосредственно в рабочем контексте агента, с нулевой настройкой и нулевой задержкой
★ 2,407 · RustADR: БЕЗОПАСНОСТЬ AI‑АГЕНТОВ В UBER
ADR обеспечивает наблюдаемость, тестирование безопасности и обнаружение угроз для корпоративных ИИ‑агентов, уже используется в Uber.
★ 2,135 · PythonSKILLEVALUATOR: ОЦЕНКА ИИ-АГЕНТОВ
Многоуровневый фреймворк для оценки навыков AI агентов: качественные гейты, семантическое пересечение, синтетические данные и живой тест.
★ 1,286 · PythonMEDUSA: AI-СКАНЕР БЕЗОПАСНОСТИ
AI-first сканер с 79 анализаторами и 40 000+ правилами обнаружения угроз для AI/ML, LLM агентов и MCP серверов.
★ 1,018 · PythonPIPELOCK ОХРАНЯЕТ AI АГЕНТЫ
AI-агент фаервол для MCP безопасности и исходящего трафика. Сканирует HTTP, MCP, A2A и WebSocket трафик в реальном времени на эксфильтрацию, SSRF и промпт‑инъекции, выдав
★ 993 · GoЗАЩИТА AI АГЕНТОВ ОТ УГРОЗ
safelabs-eval — фреймворк для red‑teaming и оценки защиты AI‑агентов, основанный на таксономии ASI01–ASI10 вдохновлённой OWASP. Написан на Python, поддерживает CrewAI, La
★ 829 · PythonTRACEKIT: АУДИТ ДЕЙСТВИЙ AI-АГЕНТОВ
Tracekit обеспечивает ненарушаемую трассировку действий AI-агентов с policy gates и перекрёстными проверками. Видите, что сделал агент и почему — критично для безопасност
★ 726 · PythonARCJET: БЕЗОПАСНОСТЬ ДЛЯ ИИ
Защищай свои AI‑агенты от инъекций промптов, кражи данных и злоупотребления инструментами с помощью простого TypeScript‑модуля.
★ 701 · TypeScriptAI-файрвол для MCP
Открытый AI-агентный файрвол для защиты MCP: контроль исходящих запросов, DLP, защита от SSRF и инъекций через промпты.
★ 636 · GoEMILIA PROTOCOL ОХРАНИТЕЛЬ ДЕЙСТВИЙ
EMILIA Gate проверяет полномочия перед изменением денег, кода, разрешений и инфраструктуры, давая независимо проверяемое доказательство.
★ 550 · TypeScriptБЕЗОПАСНОСТЬ ДЛЯ ИИ-КОДЕРОВ - КАПС
Prismor блокирует опасные команды, утечки секретов и промпт-инъекции в Claude Code, Cursor и Windsurf в реальном времени.
★ 494 · PythonSPONSIO - БЕЗОПАСНОСТЬ AI АГЕНТОВ
Sponsio предлагает детерминированные решения безопасности для вероятностных ИИ‑агентов, минимизируя риски непредсказуемого поведения.
★ 472 · PythonLLMVault: ТРЕНИРОВОЧНАЯ ПЛАТФОРМА OWASP LLM
Научитесь защищать ИИ-системы: практические уязвимости Prompt Injection, RAG и агентов в одном открытом тренировочном фреймворке.
★ 356 · PythonОБЕЗОПАСИТЕЛЬНЫЙ СПИСОК НАВЫКОВ АГЕНТОВ
Собраны материалы по защите навыков ИИ‑агентов: атаки, защиты, фреймворки и бенчмарки. Список помогает исследователям и разработчикам оценивать уязвимости tool‑use и нара
★ 287DOBERMAN-CORE — ЗАЩИТА AI АГЕНТОВ
Doberman-Core перехватывает каждый ввод, вывод и вызов инструмента во время работы AI-агента, блокируя небезопасные действия. Он работает как middleware, проверяя авториз
★ 243 · PythonАГЕНТ КОРТЕКС: КАРТА ИИ
Кураторская карта фреймворков, протоколов и средств для создания AI‑агентов.
★ 233 · JavaScriptГУАРДАНА ЗАЩИТА AI-МОДЕЛЕЙ
Guardana проверяет артефакты моделей, живые эндпоинты, MCP-серверы и трассировки агентов на наличие угроз безопасности. Формирует воспроизводимые доказательства для решен
★ 225 · PythonСЛОЙ ИСПОЛНЕНИЯ ДЛЯ AI АГЕНТОВ
Самогонный слой исполнения для AI-агентов. Подключает любые API, строго ограничивает права доступа и хранит секреты вне контекста агента. На Python, 209 звёзд на GitHub.
★ 224 · PythonADRIAN: БЕЗОПАСНОСТЬ AI АГЕНТОВ
Adrian мониторит и блокирует опасные действия AI‑агентов в реальном времени, предотвращая вредоносный вызов инструментов и инъекции промптов.
★ 203 · PythonPERMIT0 — ЗАЩИТА AI-АГЕНТОВ ОТ ОШИБОК
Авторизация действий AI-агентов до их выполнения. Детерминированные политики, простая интеграция с первого дня.
★ 192 · RustMCP OBSERVATORY - ЗАЩИТА НА ГРЕБНЕ
CI‑нативное тестирование безопасности для серверов MCP: имитация атак, обнаружение схемных отклонений и оценка здоровья до запуска агентов.
★ 121 · TypeScriptВигилс — контроль ИИ‑агентов
Вигилс — локальная панель управления для ИИ‑агентов, позволяющая наблюдать за их действиями, утверждать важные операции и не раскрывать секреты. Реализован на Rust с Taur
★ 50 · RustНовые проекты по теме — в Telegram
Telegram →