microsoft/PyRIT
ОПЕНСОРС ТУЛКИТ RED TEAMING ДЛЯ AI
Открытый набор инструментов от Microsoft для поиска уязвимостей безопасности и безопасности в генеративных AI-системах. Автоматизирует сканирование, адаптивные многоходовые атаки и ручное тестирование через CLI, веб-интерфейс и Python-фреймворк.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- CLI-сканер для повторяемых оценок безопасности
- CoPyRIT GUI — веб-интерфейс для интерактивного тестирования
- Поддержка 15+ провайдеров: OpenAI, Anthropic, Azure, Gemini, Ollama и др.
- Расширяемый Python-фреймворк для кастомных workflows
// РАЗБОР: КАК ЭТО РАБОТАЕТ
PyRIT объединяет три интерфейса: командную строку для воспроизводимых сканирований, веб-интерфейс CoPyRIT GUI для интерактивного исследования и Python-фреймворк для сборки собственных пайплайнов. Компоненты — таргеты (модели и эндпоинты), атаки (стратегии джейлбрейков, инъекций промптов, извлечения данных), скореры (оценка результатов) и память (логирование) — комбинируются декларативно. Инструмент не требует облачной инфраструктуры Microsoft и работает локально.
Отличается от аналогов (Garak, PromptFoo, Vigil) встроенной поддержкой мульти-турных адаптивных атак, где следующая итерация зависит от предыдущего ответа модели, и широким нативным списком таргетов: OpenAI, Anthropic, Azure OpenAI, Google Gemini/Vertex, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere, GitHub Copilot. Через LiteLLM и кастомные HTTP/WebSocket/Playwright-таргеты подключаются любые совместимые API и веб-приложения. Есть белый-бумага с описанием методологии и опытом Microsoft AI Red Team.
Требует Python 3.10+ и ключей API для используемых провайдеров. Локальные модели запускаются через Ollama или Hugging Face. Для Playwright-таргетов нужен браузер. Windows, macOS, Linux поддерживаются. Уязвимости сообщаются через Microsoft Security Response Center. Документация версионируется; актуальные гайды — на сайте проекта.
// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ
Кому пригодится: Инженерам по безопасности и ML-инженерам для аудита генеративных AI-систем
- Автоматизировать проверку LLM на джейлбрейки и утечки данных через CLI-сканер
- Интерактивно исследовать поведение модели в веб-интерфейсе CoPyRIT GUI
- Создать кастомные цепочки атак на Python для тестирования продакшн-приложений
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram