Mistral Large

mistralai/mistral-large

Это флагманская модель Mistral AI — Mistral Large 2 (версия mistral-large-2407). Это запатентованная модель с доступными весами, которая превосходно подходит для рассуждений, кода, JSON, чата и многого другого. Прочитайте объявление о запуске здесь (откроется в новой вкладке). Он поддерживает десятки языков, включая французский, немецкий, испанский, итальянский, португальский, арабский, хинди, русский, китайский, японский и корейский, а также более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Его длинное контекстное окно позволяет точно вызывать информацию из больших документов.

Модальности

Цена ввод / вывод

от214 ₽/M

от641 ₽/M

от21 ₽/M

за 1M токенов

Контекст128K

Релиз26 февр. 2024 г.

Провайдеры

Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.

Провайдер	Тариф	Задержка P50	Ток/с P50
ru_openrouter	Ввод214 ₽/M Вывод641 ₽/M Кэш21 ₽/M	—	—
polza	Ввод225 ₽/M Вывод675 ₽/M Кэш23 ₽/M	—	—
bothub	Ввод324 ₽/M Вывод972 ₽/M	—	—

Тарифы

Тарифы зависят от модальности: токены (₽/1M), аудио/embedding (часто только ввод), видео и запуски — в отдельных единицах. Текущие тарифы по провайдерам — в таблице выше; ниже — история прайс-листа в разрезе провайдеров (₽/1M токенов, 7 дней). Провайдеры — в подсказке на графике.

Вводот 214 ₽за 1M токенов

Выводот 641 ₽за 1M токенов

Кэшот 21 ₽за 1M токенов

Производительность

Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.

Пропускная способность—лучший провайдер

Задержка—P50, лучший провайдер

Бенчмарки

Для этой модели пока нет опубликованных результатов бенчмарков.

Активность

Объём запросов и токенов к модели за последние 7 дней.

Доступность

Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: mistralai/mistral-large.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mistral-large",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.