R_REDDYX.XYZ
AIPython★ 334⑂ 45 форков

ekzhang/openjev-sglang

OPEJEV-SGLANG API ДЛЯ LLM

openjev-sglang предоставляет Jev-совместимый API-эндпоинт, работающий исключительно на предзаполнении (prefill) открытых моделей. Поддерживает структурированную генерацию и интеграцию с SystemOne. Проект на Python уже собрал 321 звёзды на GitHub.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Принимает Jev-запросы и возвращает предзаполненные ответы открытых LLM.
  • Генерирует структурированный вывод согласно Jev-схеме.
  • Интегрируется с SystemOne через простой HTTP/JSON API.
  • Реализован на Python, лёгок в деплое и требует минимум зависимостей.
#jev#llm#structured-generation#systemone
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Автоматизация браузера 24/7★ 334РАСШИРЯЕМ OPEN WEBUI★ 334PROMPT-ARCHITECT: 7 ФРЕЙМВОРКОВ ДЛЯ ПРОМПТОВ★ 334КОМАНДА: AI-АГЕНТЫ В ТЕРМИНАЛЕ★ 334NUPHUS MCP: УПРАВЛЕНИЕ ПК ИИ★ 334РОЙ АГЕНТОВ ДЛЯ ЦЕЛЕЙ★ 334

← ВЕСЬ КАТАЛОГ

ekzhang/openjev-sglang — Opejev-Sglang API для LLM