AIC++★ 5,429
kvcache-ai/Mooncake
MOONCAKE - ПЛАТФОРМА ДЛЯ KIMI LLM С 5400+ ЗВЁЗД
Mooncake — серверная платформа для Kimi от Moonshot AI. Высокопроизводительный сервис LLM на C++ с открытым исходным кодом.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Платформа обслуживания LLM Kimi от Moonshot AI
- Написана на C++ для высокой производительности
- Более 5400 звёзд на GitHub
#disaggregation#inference#kvcache#llm#rdma#sglang#vllm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram