AIPython★ 334⑂ 45 форков
ekzhang/openjev-sglang
OPEJEV-SGLANG API ДЛЯ LLM
openjev-sglang предоставляет Jev-совместимый API-эндпоинт, работающий исключительно на предзаполнении (prefill) открытых моделей. Поддерживает структурированную генерацию и интеграцию с SystemOne. Проект на Python уже собрал 321 звёзды на GitHub.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Принимает Jev-запросы и возвращает предзаполненные ответы открытых LLM.
- Генерирует структурированный вывод согласно Jev-схеме.
- Интегрируется с SystemOne через простой HTTP/JSON API.
- Реализован на Python, лёгок в деплое и требует минимум зависимостей.
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram