AIRust★ 300⑂ 20 форковMIT
ghuntley/underclass
UNDERCLASS ПРОКСИ OPENAI
underclass — прокси, совместимый с OpenAI API, привязывает сессии к одному аккаунту, сохраняя кеш промптов. При исчерпании квоты подписки охлаждает их до сброса окна, а при полном исчерпании пула возвращает earliest Retry‑After.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Прокси привязывает сессии к одному аккаунту, кеш промптов остаётся тёплым.
- При исчерпании квоты подписки ставит её в режим ожидания до сброса лимита.
- При полном исчерпании пула возвращает earliest Retry‑After из заголовков.
- Совместим с OpenAI API: принимает запросы в том же формате и балансирует нагрузку.
#openai#openai-proxy-load-balancer
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram