Qwen

Qwen2.5 72B Instruct

qwen/qwen-2.5-72b-instruct

Qwen2.5 72B — новейшая серия моделей Qwen с большим языком. Qwen2.5 вносит следующие улучшения в Qwen2: Значительно больше знаний и значительно улучшенные возможности в области кодирования и математики благодаря нашим специализированным экспертным моделям в этих областях. Значительные улучшения в следовании инструкциям, генерации длинных текстов (более 8 000 токенов), понимании структурированных данных (например, таблиц) и генерации структурированных выходных данных, особенно JSON. Более устойчив к разнообразию системных подсказок, улучшает реализацию ролевых игр и настройку условий для чат-ботов. Длинный контекст. Поддержка до 128 000 токенов и возможность генерировать до 8 000 токенов. Многоязычная поддержка более чем 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие. Использование этой модели регулируется ЛИЦЕНЗИОННЫМ СОГЛАШЕНИЕМ Tongyi Qianwen(откроется в новой вкладке).

Модальности
Вход: Текст
Выход: Текст
Цена ввод / вывод
Вводот38 ₽/M
Выводот43 ₽/M
Кэшот17 ₽/M
за 1M токенов
Контекст33K
Релиз19 сент. 2024 г.

Провайдеры

Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.

ПровайдерТарифЗадержка P50Ток/с P50
ru_openrouter
Ввод38 ₽/M
Вывод43 ₽/M
bothub
Ввод58 ₽/M
Вывод65 ₽/M
polza
Ввод34 ₽/M
Вывод135 ₽/M
Кэш17 ₽/M

Тарифы

Тарифы зависят от модальности: токены (₽/1M), аудио/embedding (часто только ввод), видео и запуски — в отдельных единицах. Текущие тарифы по провайдерам — в таблице выше; ниже — история прайс-листа в разрезе провайдеров (₽/1M токенов, 7 дней). Провайдеры — в подсказке на графике.

Вводот 38 ₽за 1M токенов
Выводот 43 ₽за 1M токенов
Кэшот 17 ₽за 1M токенов

Производительность

Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.

Пропускная способностьлучший провайдер
ЗадержкаP50, лучший провайдер

Бенчмарки

Для этой модели пока нет опубликованных результатов бенчмарков.

Активность

Объём запросов и токенов к модели за последние 7 дней.

Доступность

Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: qwen/qwen-2.5-72b-instruct.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen/qwen-2.5-72b-instruct",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.

Ещё модели от Qwen

Все модели (54)