AIKotlin★ 226
NightMean/OlliteRT
OLLITERT LLM СЕРВЕР ANDROID
OlliteRT превращает Android‑смартфон в локальный OpenAI‑совместимый LLM‑сервер. Работает полностью офлайн, гарантируя конфиденциальность и открытый код на Kotlin.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запускает LLM inference прямо на устройстве без необходимости в облаке.
- Предоставляет HTTP‑эндпоинт, полностью совместимый с API OpenAI (chat/completions).
- Поддерживает модели Gemma и Anthropic через LiteRT (TensorFlow Lite) на Kotlin.
- Лёгкая интеграция с Home Assistant для голосового управления умным домом.
#android#anthropic-api#gemma#home-assistant#kotlin-android#litert#litert-lm#llm#llm-inference#local-llm#on-device-ai#openai-api
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram