R_REDDYX.XYZ
SecurityPython★ 4,966⑂ 1,085 форковMIT

microsoft/PyRIT

ОПЕНСОРС ТУЛКИТ RED TEAMING ДЛЯ AI

Открытый набор инструментов от Microsoft для поиска уязвимостей безопасности и безопасности в генеративных AI-системах. Автоматизирует сканирование, адаптивные многоходовые атаки и ручное тестирование через CLI, веб-интерфейс и Python-фреймворк.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • CLI-сканер для повторяемых оценок безопасности
  • CoPyRIT GUI — веб-интерфейс для интерактивного тестирования
  • Поддержка 15+ провайдеров: OpenAI, Anthropic, Azure, Gemini, Ollama и др.
  • Расширяемый Python-фреймворк для кастомных workflows

// РАЗБОР: КАК ЭТО РАБОТАЕТ

PyRIT объединяет три интерфейса: командную строку для воспроизводимых сканирований, веб-интерфейс CoPyRIT GUI для интерактивного исследования и Python-фреймворк для сборки собственных пайплайнов. Компоненты — таргеты (модели и эндпоинты), атаки (стратегии джейлбрейков, инъекций промптов, извлечения данных), скореры (оценка результатов) и память (логирование) — комбинируются декларативно. Инструмент не требует облачной инфраструктуры Microsoft и работает локально.

Отличается от аналогов (Garak, PromptFoo, Vigil) встроенной поддержкой мульти-турных адаптивных атак, где следующая итерация зависит от предыдущего ответа модели, и широким нативным списком таргетов: OpenAI, Anthropic, Azure OpenAI, Google Gemini/Vertex, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere, GitHub Copilot. Через LiteLLM и кастомные HTTP/WebSocket/Playwright-таргеты подключаются любые совместимые API и веб-приложения. Есть белый-бумага с описанием методологии и опытом Microsoft AI Red Team.

Требует Python 3.10+ и ключей API для используемых провайдеров. Локальные модели запускаются через Ollama или Hugging Face. Для Playwright-таргетов нужен браузер. Windows, macOS, Linux поддерживаются. Уязвимости сообщаются через Microsoft Security Response Center. Документация версионируется; актуальные гайды — на сайте проекта.

// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ

Кому пригодится: Инженерам по безопасности и ML-инженерам для аудита генеративных AI-систем

  • Автоматизировать проверку LLM на джейлбрейки и утечки данных через CLI-сканер
  • Интерактивно исследовать поведение модели в веб-интерфейсе CoPyRIT GUI
  • Создать кастомные цепочки атак на Python для тестирования продакшн-приложений
#ai-attacks#ai-evals#ai-evaluation#ai-evaluation-tools#ai-red-team#ai-red-team-tool#ai-red-teaming#ai-safety#ai-safety-research#ai-security#ai-security-testing#ai-security-tool
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ИНФРАСТРУКТУРА СУВЕРЕННЫХ ИИ-АГЕНТОВ БЕЗОПАСНОСТИ★ 1437ОТКРЫТАЯ ПЛАТФОРМА БЕЗОПАСНОСТИ ИНФРАСТРУКТУРЫ★ 30545REA - РЕВЕРС ИНЖИНИРИНГ БЕЗ ГРАНИЦ★ 460891DeepSeek Плагин Фреймворк★ 281341Автоматизация процессов n8n★ 210495Claw Code: Быстрый код★ 194780

← ВЕСЬ КАТАЛОГ

microsoft/PyRIT — Опенсорс тулкит Red Teaming для AI