R_REDDYX.XYZ
AIPython★ 473⑂ 10 форковApache-2.0

SigmanticAI/apex-inference-chip

Чип инференса на FPGA

Проект демонстрирует реализацию одного слоя трансформера Qwen2.5-0.5B в RTL на FPGA, достигая бит‑в‑бит совпадения с золотой моделью. Измерена производительность 0,56 токена в секунду — ускорение в 140× относительно базовых решений.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Один слой трансформера Qwen2.5-0.5B реализован в RTL на FPGA
  • Бит‑в‑бит точность совпадает с золотой моделью Qwen2.5-0.5B
  • Измерена скорость 0,56 токена/с — 140× ускорение vs baseline
  • Полная воспроизводимость и доказательная цепочка доступны в репозитории
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ROAM-CODE - ИИ АГЕНТ ДЛЯ КОДА★ 473JAVA AI ФРЕЙМВОРК НОВОГО ПОКОЛЕНИЯ★ 473Gito: AI-Ревью кода★ 473DESIGN-STUDIO: AI-ДИЗАЙНЕР БЕЗ КОДА★ 473КУРС CLAUDE CODE ДЛЯ НОВИЧКОВ★ 473HUD ДЛЯ 25+ КОДИНГ АГЕНТОВ★ 473

← ВЕСЬ КАТАЛОГ

SigmanticAI/apex-inference-chip — Чип инференса на FPGA