R_REDDYX.XYZ

Llama2: open-source проекты на GitHub

14 репозиториев по теме Llama2, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Llama 106LLM Inference 76Mistral 41Llama3 28Fine Tuning 48Chatgpt 312Large Language Model 23Openai 691GPT 154Natural Language Processing 29Ollama 237Chatbot 168Generative AI 187
bentoml/OpenLLM

OPENLLM: ЗАПУСК LLM КАК OPENAI API

OpenLLM позволяет запускать любые открытые LLM (Llama, Qwen, DeepSeek) как OpenAI-совместимые API одной командой. Включает чат-UI, современные бэкенды инференса и готовые

★ 12,607 · Python
ludwig-ai/ludwig

LUDWIG - LOW-CODE AI ФРЕЙМВОРК

Создавайте LLM и нейросети без кода. Простота для кастомных AI-моделей включена!

★ 11,791 · Python
InternLM/lmdeploy

LMDeploy: ЛЁГКОЕ РАЗВЁРТЫВАНИЕ LLM

Набор инструментов для сжатия, деплоя и обслуживания LLM. ⭐ 7873 | Python

★ 7,873 · Python
open-compass/opencompass

open-compass/opencompass

OpenCompass is an LLM evaluation platform, supporting a wide range of models (Llama3, Mistral, InternLM2,GPT-4,LLaMa2, Qwen,GLM, Claude, etc) over 100+ datasets.

★ 7,022 · Python
gluonfield/enchanted

ENCHANTED - ЧАТ С ОТКРЫТЫМИ МОДЕЛЯМИ

Enchanted — приложение для iOS и macOS, позволяющее общаться с локальными моделями Llama2, Mistral и Vicuna через Ollama.

★ 6,019 · Swift
h2oai/h2o-llmstudio

H2O LLM STUDIO ВЫШЛА БЕСПЛАТНО

Фреймворк для fine-tuning LLM с графическим интерфейсом. Настройте языковые модели без написания кода!

★ 4,972 · Python
SciSharp/LLamaSharp

LLAMASHARP - ЛОКАЛЬНЫЙ LLM НА C#

Библиотека на C#/.NET для эффективного запуска LLM моделей LLaMA и LLaVA на локальном устройстве.

★ 3,826 · C#
twinnydotdev/twinny

БЕСПЛАТНЫЙ AI-КОД ДЛЯ VS CODE КАК COPILOT

Плагин для VS Code с AI-комплитом как Copilot, но бесплатно и локально. Поддерживает Llama, GPT, Claude.

★ 3,699 · TypeScript
AI-Hypercomputer/maxtext

НАЗВАНИЕ - MAXTEXT JAX LLM

Простой, быстрый и масштабируемый фреймворк для больших языковых моделей на JAX и Python.

★ 2,309 · Python
morpheuslord/GPT_Vuln-analyzer

AI АНАЛИЗАТОР УЯЗВИМОСТЕЙ

Проект объединяет ChatGPT, Bard и Llama2 с модулями Nmap, DNS, PCAP и JWT для автоматического сканирования и анализа уязвимостей. На основе сканов формирует отчёты через

★ 597 · Python
expectedparrot/edsl

AI-ОПРОСЫ НА СТЕРОИДАХ

edsl — фреймворк для создания AI-опросов и экспериментов с тысячами AI-агентов. Идеально для соцнаук и маркетинга.

★ 519 · Python
Picovoice/picollm

PICOLLM - ОФЛАЙН LLM НА УСТРОЙСТВЕ

picollm позволяет выполнять LLM на устройстве благодаря экстремальной k‑битной квантизации, обеспечивая быстрый и приватный вывод без облака.

★ 320 · Python
cgbur/llama2.zig

LLAMA2 В ОДНОМ ФАЙЛЕ ZIG

Проект llama2.zig позволяет запускать Llama 2 инференс в одном файле на чистом Zig, без зависимостей.

★ 225 · Zig
rdmsr/sectorllm

Llama2 на ассемблере

Минималистичный движок инференса Llama2, реализованный на чистом ассемблере для максимальной производительности и низкого потребления ресурсов.

★ 38 · Assembly

Новые проекты по теме — в Telegram

Telegram →
Llama2 — 14 open-source проектов на GitHub | REDDYX AI