AIPython★ 9,318
xorbitsai/inference
XINFERENCE - ЛЮБАЯ LLM В ОДНУ СТРОКУ
Замените GPT на любую открытую модель, изменив одну строку кода. Запускайте LLM, мультимодальные и speech-модели через единый production-ready API.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- 9300+ звёзд на GitHub
- Единый API для всех моделей
- Облако, сервер или ноутбук
- Open-source, speech и мультимодалка
#artificial-intelligence#chatglm#deployment#flan-t5#gemma#ggml#glm4#inference#llama#llama3#llamacpp#llm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram