LLM Mart
НачатьВойти
Openrouter

Auto Router

openrouter/auto

Ваше приглашение будет обработано мета-моделью и перенаправлено на одну из десятков моделей (см. ниже), оптимизируя результат для достижения наилучшего результата. Чтобы узнать, какая модель использовалась, посетите раздел «Активность» или прочитайте атрибут модели ответа. Ваш ответ будет стоить по той же цене, что и перенаправленная модель. Узнайте больше, в том числе о том, как настроить модели для маршрутизации, в нашей документации. Чтобы узнать о другом способе маршрутизации, см. Код Парето.

Модальности
Вход: ТекстВход: ИзображенияВход: АудиоВход: ФайлВход: Видео
Выход: ТекстВыход: Изображения
Цена ввод / вывод
По факту / По фактуза 1M токенов
Контекст2M
Релиз8 нояб. 2023 г.

Провайдеры

Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.

Нет активных эндпоинтов для этой модели.

Производительность

Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.

Пропускная способность—лучший провайдер
Задержка—P50, лучший провайдер

Тарифы

Базовая цена за миллион токенов. Эффективная цена учитывает prompt caching: повторяющийся контекст тарифицируется по ставке cache_read.

Ввод (list)По фактуза 1M токенов
ВыводПо фактуза 1M токенов

Бенчмарки

Для этой модели пока нет опубликованных результатов бенчмарков.

Активность

Объём запросов и токенов к модели за последние 7 дней.

Доступность

Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: openrouter/auto.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openrouter/auto",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.

Ещё модели от Openrouter

Auto Router — цены и детали API | LLM Mart