arcee-ai/mergekit

Mergekit предоставляет инструменты для объединения предобученных LLM, комбинируя веса, средние значения и слои разных архитектур, например Llama. Результат — одна модель, сохраняющая сильные стороны исходных.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

• Сливает веса нескольких моделей средним или линейным методом.
• Поддерживает объединение Llama, Falcon и других архитектур через адаптер‑слои.
• Позволяет выбирать слои или attention‑heads для точной настройки.
• Экспортирует готовую модель в Hugging Face Transformers для быстрого развёртывания.

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.