Модели и маршрутизация
Какие модели доступны вашей компании и как приложения к ним обращаются.
Кому подходит
- Администраторам — включение и отключение моделей для организации.
- Разработчикам — выбор модели в запросе с API-ключом.
Каталог моделей
Платформа поддерживает несколько поставщиков (OpenAI, Anthropic, локальные модели и др.). Полный список доступных моделей виден в личном кабинете (раздел Модели) или через API.
Примеры идентификаторов моделей:
| ID модели | Поставщик |
|---|---|
gpt-4o-mini | OpenAI |
claude-3-5-sonnet | Anthropic |
local/llama-3.1 | Локальный endpoint |
Модели организации
Администратор включает только нужные модели для своей компании через кабинет или PATCH /api/organizations/{orgId}/models. Если список enabledModels пуст, считаются доступными все модели, разрешённые на платформе.
Каждый API-ключ дополнительно ограничивает подмножество моделей при создании.
Как это работает
- Администратор включает модели в кабинете.
- Разработчик создаёт API-ключ с нужным списком моделей.
- Приложение отправляет запрос с ключом и полем
model— см. Первый запрос к модели.
Адрес для запросов приложений (OpenAI-compatible API) предоставляет администратор вашего экземпляра.
Статус в кабинете
В разделе Модели отображается, доступны ли модели и сколько их в каталоге. Через API: GET /api/organizations/{orgId}/gateway/status и GET .../models.
Проверка каталога
TOKEN="<token>"
ORG_ID="<org-id>"
curl -s "https://api.example.com/api/organizations/$ORG_ID/models" \
-H "Authorization: Bearer $TOKEN"В ответе — статус и массив models с флагом enabled.