AIPython★ 432⑂ 36 форковApache-2.0
ekzhang/resin
ЭКСПЕРИМЕНТАЛЬНАЯ БИБЛИОТЕКА ИНФЕРЕНСА
resin — экспериментальная Python-библиотека для создания движков инференса LLM. Поддерживает CUDA, GPU-ускорение и работу с моделями вроде DeepSeek и GPT-OSS. Проект на ранней стадии с 259 звёзд на GitHub.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Создаёт кастомные движки инференса для LLM на Python
- Использует CUDA и GPU для ускорения генерации
- Поддерживает модели DeepSeek, GPT-OSS и Inkling
- Экспериментальный проект с открытым кодом (259 ⭐)
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram