R_REDDYX.XYZ
AIJavaScript★ 109⑂ 75 форковMIT

juxhinr/bindwidth

Калькулятор TCO для LLM

Bindwidth оценивает аппаратные потребности и TCO для запуска LLMs локально, используя реальные данные для подсчёта нужных GPU/CPU и расчёта энергопотребления, амортизации и лицензионных затрат.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Расчёт GPU/CPU ресурсов для вывода LLM на основе реальных данных о производительности.
  • Оценка TCO с учётом энергопотребления, амортизации и стоимости лицензий.
  • Поддержка популярных LLM: Llama, Mistral, GPT‑J и вариантов квантования (4‑bit, 8‑bit).
  • Экспорт результатов в JSON/CSV для использования в скриптах и CI/CD pipelines.
#ai#calculator#inference#javascript#llm#on-prem#sizing#tco
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Backdoor для Claude Code★ 109Генератор AI контента★ 110Framework для агентного вывода★ 108SheetasToken — анализ данных в таблицах★ 107AI-планировщик поездок★ 107Chat_UI для LLM★ 111

← ВЕСЬ КАТАЛОГ

juxhinr/bindwidth — Калькулятор TCO для LLM | REDDYX AI