AIPython★ 1,745⑂ 166 форковApache-2.0
StartLuxLabs/StartLux-Decision
STARTLUX‑DECISION: ИИ РЕШЕНИЙ
Открытые модели принятия решений от 0,8 B до 27 B дают откалиброванную вероятность каждого варианта за один проход и краткий размышления только при неуверенности. Поддерживаются движки vLLM, llama.cpp и MLX.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Откалиброванная вероятность каждого варианта за один проход.
- Краткое рассуждение только при неуверенности модели.
- Поддерживает inference через vLLM, llama.cpp и MLX.
- Охват моделей от 0,8 B до 27 B параметров.
#agents#calibration#classification#decision-making#gguf#inference#llama-cpp#llm#mlx#open-weights#reasoning#vllm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram