FAQ
Частые вопросы по LLM Router.
Кому подходит
Новичкам в платформе и тем, кто ищет быстрый ответ без чтения всего справочника.
Что такое LLM Router?
B2B-платформа: один кабинет для организаций, ключей, моделей, лимитов и учёта — плюс единая точка для запросов к языковым моделям.
Где взять адреса?
URL кабинета, API платформы и API моделей предоставляет администратор вашего экземпляра LLM Router.
Чем отличается токен кабинета от API-ключа?
Токен сессии (POST /api/auth/login) — для управления организацией через API и личный кабинет.
API-ключ (sk-…) — для ваших приложений в запросах к API моделей.
Не путайте их: токен сессии не подходит для chat completion, а API-ключ — для входа в кабинет.
Где взять секрет API-ключа?
Секретная строка показывается один раз при создании ключа в личном кабинете. Сохраните её сразу. Если ключ утерян — отзовите старый и выпустите новый.
Как отозвать API-ключ?
В кабинете: раздел API-ключи → Отозвать. Через API: POST /api/organizations/{orgId}/api-keys/{keyId}/revoke. Подробнее — инструкция.
Есть ли лимит запросов в минуту (RPM)?
Да. RPM и TPM задаются модулем rateLimit в Policy Rules. Gateway применяет sliding-window RPM на уровне API-ключа; при превышении — 429 Too Many Requests. Бюджеты, доступ к моделям и контент-ограничения тоже настраиваются policy rules. Подробнее: Лимиты и квоты, Справочник: Policy API.
Как подключить Python или Node.js?
Используйте OpenAI SDK с base_url вашего API моделей. Примеры — SDK (Python/Node).
Почему запрос к модели возвращает ошибку?
Частые причины:
- модель не разрешена policy rule (access) для ключа, системы или организации;
- превышен budget или rate limit в policy rules;
- сработала content-политика (PII, категории контента);
- модель временно недоступна у поставщика.
Проверьте раздел Policy Rules в кабинете, предпросмотр access и Решение проблем.
Кто может менять настройки?
Управлять организацией через API могут роли owner и admin. Остальные роли работают в кабинете в рамках своих прав.
В какой валюте бюджет?
Budget-модули policy rules задаются в рублях (₽). Технические поля расхода в API могут содержать totalSpendUsd.