R_REDDYX.XYZ
AIPython★ 9,318

xorbitsai/inference

XINFERENCE - ЛЮБАЯ LLM В ОДНУ СТРОКУ

Замените GPT на любую открытую модель, изменив одну строку кода. Запускайте LLM, мультимодальные и speech-модели через единый production-ready API.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • 9300+ звёзд на GitHub
  • Единый API для всех моделей
  • Облако, сервер или ноутбук
  • Open-source, speech и мультимодалка
#artificial-intelligence#chatglm#deployment#flan-t5#gemma#ggml#glm4#inference#llama#llama3#llamacpp#llm
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Nature Skills: Научная визуализация★ 9332Python-оболочка xonsh★ 9336PRAISONAI: AI АГЕНТЫ ПОЛНОСТЬЮ ОФЛАЙН★ 9336Кастомный статусная строка для Claude Code★ 9358SEATUNNEL — ИНТЕГРАЦИЯ ДАННЫХ КАК NVIDIA NIMS★ 9359Набор навыков Клода★ 9361

← ВЕСЬ КАТАЛОГ

xorbitsai/inference — Xinference - любая LLM в одну строку