Примеры SDK (Python и Node.js)

Подключение к API моделей через официальный OpenAI SDK — достаточно сменить `base_url`.

API моделей совместим с OpenAI API (снимок 2026-07-09). Достаточно сменить base_url и указать API-ключ платформы — так же, как при подключении через официальный OpenAI SDK.

Кому подходит

Разработчикам — быстрая интеграция без ручных HTTP-запросов.
Администраторам — проверка настройки моделей и ключей.

Что понадобится

Параметр	Где взять
Base URL	`https://llmmart.ru/api/v1`
API-ключ (`sk-…`)	создание ключа
Имя модели	каталог в кабинете

Язык	Версия
Python	`openai==2.45.0`
Node.js	`openai@6.45.0`

Python

pip install "openai==2.45.0"

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LLM_MART_API_KEY"],
    base_url=os.environ["LLM_MART_BASE_URL"],
)

# Chat
completion = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(completion.choices[0].message.content)

# Embeddings
emb = client.embeddings.create(
    model="text-embedding-3-small",
    input="hello world",
)

# Images
img = client.images.generate(
    model="dall-e-3",
    prompt="Минималистичный логотип",
    size="1024x1024",
)

Переменные окружения:

export LLM_MART_BASE_URL="https://llmmart.ru/api/v1"
export LLM_MART_API_KEY="sk-…"

Node.js

npm install openai@6.45.0

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LLM_MART_API_KEY,
  baseURL: process.env.LLM_MART_BASE_URL,
});

const completion = await client.chat.completions.create({
  model: "gpt-4o-mini",
  messages: [{ role: "user", content: "Привет!" }],
});
console.log(completion.choices[0].message.content);

Streaming

stream = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Привет!"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Подробнее — Streaming и async.

Responses API

response = client.responses.create(
    model="gpt-4o-mini",
    input="Кратко объясни, что такое HTTP/2.",
)
print(response.output_text)

Background job:

job = client.responses.create(
    model="gpt-4o-mini",
    input="Длинная задача…",
    background=True,
)

Не передавайте stream=True и background=True одновременно.

Realtime

secret = client.realtime.client_secrets.create(model="gpt-4o-realtime-preview")
# WebSocket: API-ключ в Authorization, client_secret в query — см. Realtime docs

См. Realtime API.

Обработка ошибок

Ситуация	Код	Действие
Неверный ключ	`401`	Проверьте `sk-…`
Модель недоступна	`404 model_not_found`	Включите модель, проверьте policy
Бюджет	`402 insufficient_balance`	Лимиты в policy rules
Rate limit	`429 rate_limit_exceeded`	Подождите или увеличьте лимит
Маршрут не поддерживается	`404 route not supported`	См. справочник маршрутов

Полная таблица — Ошибки API моделей.