AIPython★ 60
MatthewK78/Rose
Rose — PyTorch оптимизатор
Бессостоятельный оптимизатор для PyTorch, нормализующий градиенты для стабильного и сбалансированного обучения моделей.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Нормализует обновления градиентов
- Улучшает стабильность обучения
- Простая интеграция с PyTorch
- Поддержка GPU и автомасштабирование
#adam-optimizer#ai#artificial-intelligence#deep-learning#diffusion-models#fine-tuning#gpt#gradient-descent#large-language-models#llm#lora#machine-learning
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram