AIPython★ 271⑂ 84 форков
AMD-AGI/Hyperloom
HYPERLOOM АВТООПТИМИЗАЦИЯ LLM НА AMD
Hyperloom — агентная система, которая автоматически оптимизирует рабочие нагрузки больших языковых моделей на GPU AMD. Она подбирает ядра и параметры для максимальной производительности без ручной настройки.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Автоматически подбирает оптимальные GPU-ядра для конкретных LLM-моделей на AMD.
- Снижает latency и повышает throughput благодаря динамической настройке параметров.
- Интегрируется с PyTorch и TensorFlow через простой API для быстрого подключения.
- Предоставляет реальное время профилирования GPU и визуализацию потребления ресурсов.
#agent#ai-agents#amd#amd-gpu#gpu#gpu-kernels#hip#inference#large-language-models#llm#llm-inference#machine-learning
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram