cortsdine/LightVLM

Набор инструментов для квантизации и кэш-оптимизации моделей зрение‑язык, ускоряющих inference и снижающих потребление памяти.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

• Квантизация весов до 4‑bit без значительной потери точности
• Кэш‑оптимизация внимания слоёв для ускорения генерации текста
• Поддержка популярных VLM: CLIP, BLIP, Flamingo через простой API
• Интеграция с PyTorch и экспорт в ONNX для деплоя на Edge

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.