LLMOps: open-source проекты на GitHub
81 репозиториев по теме LLMOps, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
AZURE OPENAI LLM NOTES - ЕЖЕМЕСЯЧНЫЙ ОБЗОР
Подборка ресурсов по Azure OpenAI, LLM, RAG и агентам с ежемесячными обновлениями. Идеально для быстрого старта и глубокого погружения.
★ 422 · PythonAURA: АВТОНОМНЫЙ SRE-АГЕНТ НА RUST
AURA превращает LLM в надежного автономного SRE-агента: guardrails, API, state‑management, auth, streaming и интеграции инструментов для продакшена.
★ 413 · RustСЛОЙ КОЛЛАБОРАЦИИ ДЛЯ AI АГЕНТОВ
Rhesis — платформа для тестирования, симуляции и трассировки AI-агентов. Эксперты аннотируют поведение, инженеры улучшают агента на основе найденных проблем. Закрывает ци
★ 404 · PythonLLMSTUDIO - ПРОСТОЙ ЗАПУСК LLM В ПРОДАКШН
LLMstudio — фреймворк для быстрого вывода LLM‑приложений в production, упрощающий деплой и масштабирование.
★ 391 · PythonШАБЛОН GENAIOPS PROMPT FLOW
Шаблон GenAIOps с Prompt Flow упрощает создание LLM‑приложений через централизованное хранение кода, управление жизненным циклом и эксперименты с вариантами и гиперпараме
★ 370 · PythonCCPROXY МОДЫ ДЛЯ CLAUDE CODE
ccproxy позволяет перехватывать любые запросы к Claude Code и модифицировать ответы, а также подключать собственные модели через /model
★ 360 · PythonОбучение проектированию AI-агентов
17 двуязычных уроков по созданию enterprise AI-агентов с нуля: инструменты, архитектуры, надежность, безопасность, RAG и продакшн-операции.
★ 316 · PythonRUNTM: ИЗОЛИРОВАННЫЕ САНДБОКСЫ
Открытая песочница для ИИ-агентов: изолированные окружения, где Claude Code, Cursor пишут и деплоят код.
★ 306 · PythonQKNOW: AI АГЕНТ ДЛЯ БИЗНЕСА
Открытая платформа для ИИ-агентов: граф знаний, RAG и готовые боты. Быстрая интеграция данных и документов.
★ 298 · JavaВОСХИТИТЕЛЬНЫЙ RAG ПРОДАКШН
Список проверенных инструментов и практик для создания масштабируемых RAG‑систем на Python.
★ 295 · PythonAI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM
Unified AI gateway supporting 30+ LLMs with caching, guardrails, A/B testing and cost controls. Built in Go for maximum speed and scalability.
★ 291 · GoMARTIN LOOP: АВТОНОМНЫЕ АГЕНТЫ КОДА
Запускайте ИИ‑агентов для написания кода без постоянного контроля. Martin Loop держит задачи в чётких границах, проверяет их и обеспечивает отчётность от начала до конца.
★ 286 · TypeScriptLLMTRIM: СЖАТИЕ LLM ЗАПРОСОВ
Локальный прокси, который сокращает токены в запросах к LLM без изменения ответов — экономия до 31% входных и 74% выходных токенов.
★ 274 · RustЭНТЕРПРАЙЗ ИИ АГЕНТ
Платформа для регистрации бизнес‑API как ИИ‑возможностей в Java/Spring Boot: создание агентов через GraphSpec, MCP/A2A/Gateway и мониторинг выполнения.
★ 273 · JavaЛУЧШИЙ СПИСОК LLM OPS
Отборка самых полезных инструментов для LLMOps: от экспериментов до продакшена.
★ 272 · PythonTRANSFORMER-TRICKS - УСКОРЕНИЕ ТРАНСФОРМЕРОВ
Набор приемов и утилит для ускорения трансформеров: оптимизация attention, квантование и кэширование вычислений.
★ 236 · TeXHUB: RUST LLM GATEWAY
High‑scale LLM gateway на Rust с встроенной наблюдаемостью через OpenTelemetry. Легко масштабируем и готов к продакшну.
★ 233 · RustBUSBAR: УПРАВЛЕНИЕ AI‑АГЕНТАМИ
busbar — это управляющая плоскость выполнения для AI‑агентов, которая контролирует каждый запрос к модели, вызов MCP‑инструмента, делегирование A2A и последующее действие
★ 222 · RustОТКРЫТЫЙ AI GATEWAY НА RUST
aisix — единый OpenAI-совместимый API для OpenAI, Anthropic, Gemini, Bedrock. Поддерживает роутинг, guardrails, кэширование, лимиты и наблюдаемость. 201 звезда на GitHub.
★ 220 · RustFRUGON - АНАЛИЗ ЗАТРАТ LLM
Бесплатный, локальный и открытый анализатор стоимости LLM. Узнайте, где «утечка» ваших расходов, прямо на машине.
★ 218 · PythonГрафовый агент Goal-Flow
Goal-Flow — фреймворк на LangGraph, объединяющий графы workflow и циклы агентов, позволяющий транслировать Dify DSL в исполняемый код и переключать протоколы Dify/OpenAI.
★ 137 · PythonНовые проекты по теме — в Telegram
Telegram →