AIPython★ 829⑂ 86 форковApache-2.0
AgentSafeLabs/safelabs-eval
ЗАЩИТА AI АГЕНТОВ ОТ УГРОЗ
safelabs-eval — фреймворк для red‑teaming и оценки защиты AI‑агентов, основанный на таксономии ASI01–ASI10 вдохновлённой OWASP. Написан на Python, поддерживает CrewAI, LangChain и позволяет проводить jailbreak‑тесты оценку уязвимостей.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Выполняет red‑teaming сценариев по таксономии ASI01–ASI10 для выявления уязвимостей
- Интегрируется с CrewAI и LangChain для оркестровки multi‑agent workflows
- Генерирует отчёты о успешности jailbreak‑атак и покрытии ASI‑категорий
- Запускается через CLI, предоставляет Python‑SDK и JSON‑schema для кастомизации тестов
#agent-security#ai-safety#crewai#evaluation#jailbreak#langchain#llm-security#owasp#prompt-injection#red-teaming
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram