AIPython★ 27,854
sgl-project/sglang
SGLang: Фреймворк LLM
SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Высокая производительность
- Оптимизирован для LLM
- Мультимодальные модели
#attention#blackwell#cuda#deepseek#diffusion#glm#gpt-oss#inference#llama#llm#minimax#moe
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram