Первый запрос к модели

Кому подходит

• Разработчикам — проверка интеграции.
• Администраторам — smoke-тест после настройки моделей и ключей.

Что понадобится

• Адрес API моделей (его сообщает администратор платформы).
• API-ключ организации — см. Создание API-ключа.
• Имя модели из каталога (например, gpt-4o-mini).

Шаг 1. Убедитесь, что модель включена

В личном кабинете (раздел Модели) или через API:

TOKEN="<session-token>"
ORG_ID="<org-id>"

curl -s "https://api.example.com/api/organizations/$ORG_ID/models" \
  -H "Authorization: Bearer $TOKEN"

Включите модель при необходимости:

curl -s -X PATCH "https://api.example.com/api/organizations/$ORG_ID/models" \
  -H "Authorization: Bearer $TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"enabledModels": ["gpt-4o-mini"]}'

Шаг 2. Chat completion

Подставьте адрес API моделей и API-ключ:

MODELS_API_URL="https://models.example.com"
API_KEY="sk-…"

curl -s "$MODELS_API_URL/v1/chat/completions" \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o-mini",
    "messages": [
      {"role": "user", "content": "Скажи одним предложением, что такое LLM Router."}
    ]
  }'

Успешный ответ — JSON с полем choices[0].message.content.

Шаг 3. Проверьте расходы (опционально)

Расход появится в разделе Биллинг после обработки usage (обычно в течение нескольких секунд). Сводку можно запросить через API платформы:

curl -s "https://api.example.com/api/organizations/$ORG_ID/usage" \
  -H "Authorization: Bearer $TOKEN"

Локально: http://localhost:4000 для API моделей, ключ из кабинета или DEMO_GATEWAY_API_KEY для smoke (./scripts/smoke-e2e.sh).

Совместимость API

API моделей поддерживает эндпоинты в стиле OpenAI: /v1/chat/completions, /v1/models и др. Используйте официальные SDK OpenAI, указав base_url вашего API моделей.

Типичные ошибки

Что дальше

• Модели и маршрутизация
• Выгрузить расходы
• Решение проблем