AIJava★ 270
beehive-lab/GPULlama3.java
GPULlama3 JAVA TORNADOVM
Проект ускоряет инференс Llama3 на GPU чистом Java через TornadoVM, позволяя запускать большие языковые модели без нативного кода.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Полная Java реализация без C/C++
- Ускорение inference через TornadoVM на GPU
- Поддержка Llama3 8B и 70B моделей
#accelerators#compilers#deepseek-r1#gguf#gpu#granite#ibm-granite#java#java21#llama3#llm#mistral
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram