AI★ 2,438
AI-Efficiency/Awesome-Model-Quantization
AWESOME MODEL QUANTIZATION RESOURCES
Кураторский список статей, бенчмарков, опросов и инструментов по квантованию нейросетей. Охватывает низкобитовые сети, LLMs, мультимодальные и генеративные модели, векторную и решётчатую квантование. Поддерживает эффективное развёртывание моделей.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Индексирует более 200 статей и обзоров по квантованию моделей с тегами и поиском.
- Содержит готовые бенчмарки и скрипты для оценки точности и скорости низкобитовых сетей.
- Включает ссылки на библиотеки и инструменты для квантования LLMs, мультимодальных и генеративных моделей.
- Охватывает векторную и решётчатую квантование, методы бесплатного квантования и рекомендации по деплою.
#awesome#awesome-list#awesome-lists#binarization#binary-neural-networks#data-free-quantization#diffusion-models#efficient-inference#kv-cache#kv-cache-quantization#large-language-models#large-language-models-llms
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram