Провайдеры
Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.
| Провайдер | Контекст | Тариф | Задержка P50 | Ток/с P50 |
|---|---|---|---|---|
| bothub | 33K | запуск: 0,73 ₽/запуск | — | — |
Производительность
Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.
Тарифы
Тарифы зависят от модальности: токены (₽/1M), аудио/embedding (часто только ввод), видео и запуски — в отдельных единицах. График эффективной цены учитывает prompt caching.
Бенчмарки
Для этой модели пока нет опубликованных результатов бенчмарков.
Активность
Объём запросов и токенов к модели за последние 7 дней.
Доступность
Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.
Быстрый старт
Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: qwen/qwen3-reranker-8b.
curl -s "https://llmmart.ru/api/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "qwen/qwen3-reranker-8b",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.
