AIPython★ 3,691
PaddlePaddle/FastDeploy
FASTDEPLOY — БЫСТРЫЙ ДЕПЛОЙ LLM
Высокопроизводительный тулкит для инференса и деплоя LLM и VLM на базе PaddlePaddle. 3691 ⭐
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Оптимизированный инференс LLM/VLM
- Основан на PaddlePaddle
- Простой и быстрый деплой моделей
#ernie#ernie-45#ernie-45-vl#inference#llm#llm-serving#openai#serving#vllm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram