AIPython★ 681
SigmanticAI/apex-inference-chip
Чип инференса на FPGA
Проект демонстрирует реализацию одного слоя трансформера Qwen2.5-0.5B в RTL на FPGA, достигая бит‑в‑бит совпадения с золотой моделью. Измерена производительность 0,56 токена в секунду — ускорение в 140× относительно базовых решений.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Один слой трансформера Qwen2.5-0.5B реализован в RTL на FPGA
- Бит‑в‑бит точность совпадает с золотой моделью Qwen2.5-0.5B
- Измерена скорость 0,56 токена/с — 140× ускорение vs baseline
- Полная воспроизводимость и доказательная цепочка доступны в репозитории
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram