AIGo★ 1,747⑂ 300 форковApache-2.0
NVIDIA/Personal-AI-Router
Персональный ИИ-маршрутизатор
Объединяет домашние устройства в единый кластер для запуска LLM. Распределяет вычисления между GPU и CPU, предоставляя единый API и сохраняя приватность данных.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Распределяет инференс LLM по локальным устройствам (GPU/CPU)
- Единый API для доступа к моделям в домашней сети
- Динамическая балансировка нагрузки и шардинг моделей
- Полная приватность: данные не покидают локальную сеть
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram