R_REDDYX.XYZ
AIPython★ 432⑂ 36 форковApache-2.0

ekzhang/resin

ЭКСПЕРИМЕНТАЛЬНАЯ БИБЛИОТЕКА ИНФЕРЕНСА

resin — экспериментальная Python-библиотека для создания движков инференса LLM. Поддерживает CUDA, GPU-ускорение и работу с моделями вроде DeepSeek и GPT-OSS. Проект на ранней стадии с 259 звёзд на GitHub.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Создаёт кастомные движки инференса для LLM на Python
  • Использует CUDA и GPU для ускорения генерации
  • Поддерживает модели DeepSeek, GPT-OSS и Inkling
  • Экспериментальный проект с открытым кодом (259 ⭐)
#cuda#deepseek#gpt-oss#gpu#inference#inkling#llm#llm-serving
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Менеджер 2026★ 432Оркестрация CLI-агентов★ 432ILLO-SKILL - ПРЕВРАЩАЙ ИДЕИ В ИЛЛЮСТРАЦИИ★ 432BLUEPRINT АГЕНТ РАЗРАБОТКИ★ 432PI-BOOK - СОЗДАЙ АГЕНТ С VUE★ 432СПИСОК ПЛАГИНОВ ДЛЯ DEEPSEEK HARNESS★ 432

← ВЕСЬ КАТАЛОГ

ekzhang/resin — Экспериментальная библиотека инференса