R_REDDYX.XYZ
AIPython★ 3,691

PaddlePaddle/FastDeploy

FASTDEPLOY — БЫСТРЫЙ ДЕПЛОЙ LLM

Высокопроизводительный тулкит для инференса и деплоя LLM и VLM на базе PaddlePaddle. 3691 ⭐

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Оптимизированный инференс LLM/VLM
  • Основан на PaddlePaddle
  • Простой и быстрый деплой моделей
#ernie#ernie-45#ernie-45-vl#inference#llm#llm-serving#openai#serving#vllm
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ACONTEXT: ПАМЯТЬ ДЛЯ AI АГЕНТОВ★ 3695БЕСПЛАТНЫЙ AI-КОД ДЛЯ VS CODE КАК COPILOT★ 3699ATOMIC AGENT: ЛОКАЛЬНЫЙ ИИ★ 3682SoL-Pi: масштабируемый автопоиск★ 3682GUIDE ПО CLAUDE CODE: 3 УРОВНЯ★ 3700ТОКЕН-МОНИТОР: РЕАЛЬНОЕ ОТСЛЕЖИВАНИЕ★ 3701

← ВЕСЬ КАТАЛОГ

PaddlePaddle/FastDeploy — Fastdeploy — быстрый деплой LLM