AITypeScript★ 18,069
mlc-ai/web-llm
WEB‑LLM: БРАУЗЕРНЫЙ LLM‑ДВИГАТЕЛЬ
Высокопроизводительный движок для запуска LLM прямо в браузере, написанный на TypeScript.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запуск моделей без сервера, полностью в клиенте
- Поддержка популярных форматов: GGUF, ONNX и др.
- Оптимизация через WebGPU и WebAssembly для скорости
#chatgpt#deep-learning#language-model#llm#tvm#webgpu#webml
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram