R_REDDYX.XYZ
AI★ 2,469⑂ 246 форков

AI-Efficiency/Awesome-Model-Quantization

AWESOME MODEL QUANTIZATION RESOURCES

Кураторский список статей, бенчмарков, опросов и инструментов по квантованию нейросетей. Охватывает низкобитовые сети, LLMs, мультимодальные и генеративные модели, векторную и решётчатую квантование. Поддерживает эффективное развёртывание моделей.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Индексирует более 200 статей и обзоров по квантованию моделей с тегами и поиском.
  • Содержит готовые бенчмарки и скрипты для оценки точности и скорости низкобитовых сетей.
  • Включает ссылки на библиотеки и инструменты для квантования LLMs, мультимодальных и генеративных моделей.
  • Охватывает векторную и решётчатую квантование, методы бесплатного квантования и рекомендации по деплою.
#awesome#awesome-list#awesome-lists#binarization#binary-neural-networks#data-free-quantization#diffusion-models#efficient-inference#kv-cache#kv-cache-quantization#large-language-models#large-language-models-llms
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

НАТИВНЫЙ LLM СЕРВЕР НА МАК★ 2472Библиотека медицинских ИИ-навыков★ 2473WHISPERJAV СУБТИТРЫ БЕЗ ШУМА★ 2465BETTER HARNES - УПРАВЛЯЙ КОДОМ НАУЧНО★ 2462CONDUIT – МОБИЛЬНОЕ AI-ОКНО★ 2461Конвертер историй в ручную анимацию★ 2481

← ВЕСЬ КАТАЛОГ

AI-Efficiency/Awesome-Model-Quantization — Awesome Model…