AIPython★ 1,179
openvinotoolkit/nncf
NNCFF - УСКОРЯЕМ ИНФЕРЕНС МОДЕЛЕЙ
NNCFF — фреймворк сжатия нейросетей для ускоренного inference в OpenVINO™. Сокращает размер модели, сохраняя точность.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка kvantization и pruning
- Интеграция с OpenVINO™ для ускоренного CPU/GPU inference
- Автоматический поиск оптимальных параметров сжатия
#bert#classification#compression#deep-learning#genai#llm#mixed-precision-training#nlp#object-detection#onnx#openvino#pruning
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram