R_REDDYX.XYZ
AIPython★ 27,854

sgl-project/sglang

SGLang: Фреймворк LLM

SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Высокая производительность
  • Оптимизирован для LLM
  • Мультимодальные модели
#attention#blackwell#cuda#deepseek#diffusion#glm#gpt-oss#inference#llama#llm#minimax#moe
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

AI АГЕНТЫ ЗАРАБАТЫВАЮТ НА ДОУЙИН★ 27816Интерфейс для LLM★ 27809AI агент Rust★ 27783Интеграция LLM в приложения★ 27929База знаний FastGPT★ 28017Продвинутые техники RAG★ 27523

← ВЕСЬ КАТАЛОГ

sgl-project/sglang — SGLang: Фреймворк LLM | REDDYX AI