Модальности
Вход: Текст
Выход: Текст
Цена ввод / вывод
— / —за 1M токенов
Контекст8K
Релиз11 окт. 2024 г.
Провайдеры
Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.
Нет активных эндпоинтов для этой модели.
Производительность
Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.
Пропускная способность—лучший провайдер
Задержка—P50, лучший провайдер
Пропускная способность
Выше — лучшеЗагрузка…
Задержка
Ниже — лучшеЗагрузка…
E2E задержка
Ниже — лучшеЗагрузка…
TTFT
Ниже — лучшеЗагрузка…
Ошибки tool call
Ниже — лучшеЗагрузка…
Ошибки structured output
Ниже — лучшеЗагрузка…
Тарифы
Базовая цена за миллион токенов. Эффективная цена учитывает prompt caching: повторяющийся контекст тарифицируется по ставке cache_read.
Ввод (list)—за 1M токенов
Вывод—за 1M токенов
Эффективная цена ввода
Фактическая стоимость prompt + cache_read на миллион токенов.
Ниже — лучшеЗагрузка…
Cache read токены
Доля контекста, прочитанного из кэша провайдера.
Загрузка…
Бенчмарки
Для этой модели пока нет опубликованных результатов бенчмарков.
Активность
Объём запросов и токенов к модели за последние 7 дней.
Запросы
Число обращений к модели.
Загрузка…
Токены
Prompt и completion суммарно.
Загрузка…
Доступность
Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.
Успешные запросы
Процент ответов без ошибки.
Выше — лучшеЗагрузка…
Быстрый старт
Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Router. Меняется только slug модели: inflection/inflection-3-productivity.
curl -s "https://llmmart.ru/api/v1/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "inflection/inflection-3-productivity",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.