AIJavaScript★ 131
juxhinr/bindwidth
Калькулятор TCO для LLM
Bindwidth оценивает аппаратные потребности и TCO для запуска LLMs локально, используя реальные данные для подсчёта нужных GPU/CPU и расчёта энергопотребления, амортизации и лицензионных затрат.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Расчёт GPU/CPU ресурсов для вывода LLM на основе реальных данных о производительности.
- Оценка TCO с учётом энергопотребления, амортизации и стоимости лицензий.
- Поддержка популярных LLM: Llama, Mistral, GPT‑J и вариантов квантования (4‑bit, 8‑bit).
- Экспорт результатов в JSON/CSV для использования в скриптах и CI/CD pipelines.
#ai#calculator#inference#javascript#llm#on-prem#sizing#tco
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram