Меньше зависимости
Подключайте новых поставщиков без изменения интеграции. Меняете модель — роутер находит доступные точки доступа.
Единый OpenAI-совместимый API с биржей провайдеров: лучший маршрут на запрос, политики до отправки к модели, учёт по командам.
Зачем это нужно
Подключайте новых поставщиков без изменения интеграции. Меняете модель — роутер находит доступные точки доступа.
Управляйте расходами, доступом и политиками из одного места — до отправки запроса провайдеру.
Одна интеграция для команды, продуктов и AI-сервисов. Ключи, лимиты и учёт — в одном кабинете.
Бюджеты, лимиты, ключи, политики, аудит и фильтры данных — единый слой управления поверх всех провайдеров.
Модели остаются у провайдеров. Контроль остаётся у вас.
Потолок на workspace и отдельный лимит на каждый API-ключ. Перерасход одного приложения не съедает весь баланс.
Выпускайте ключи для приложений и команд. Задавайте, какие модели доступны каждому ключу.
Доступ к моделям, бюджеты, PII-фильтры и rate limit — правила применяются до запроса к провайдеру.
Кто тратит, какие модели, сколько policy events — KPI, drill-down в логи и журнал изменений настроек.
PII и нежелательный контент обрабатываются на роутере — единые правила для всех поставщиков.
Личный и бизнес-workspace в одном аккаунте: SSO, счета и governance для организации.
Сценарий внедрения
Типичный путь команды, которая хочет AI в продукте без «обходного» процесса и зоопарка интеграций.
Платформенная команда подключает приложения к роутеру. Финансы видят расход по ключам, а не по личным подпискам.
ИБ включает PII-фильтр и журнал политик. Запросы идут через контролируемый слой — governance-дашборд показывает, что сработало.
Если поставщик недоступен, запрос уходит по запасной цепочке моделей — без правок в коде. В логах видно, какая модель ответила и какие правила сработали.
«Журнал изменений и фильтр персональных данных сняли возражения ИБ. Пилот прошёл без отдельного «обходного» процесса.»
Отзывы
Разные роли и отрасли — разные задачи. Общее: меньше хаоса вокруг AI и понятнее, что происходит с деньгами и доступом.
«Раньше у каждой команды свои подписки, и никто толком не понимал итоговую сумму. Сейчас хотя бы видно, кто сколько тратит — споры стали короче.»
«Для нас главное было убедиться, что с данными всё в порядке. Когда безопасность разобралась, как устроен процесс, согласование прошло без лишних кругов.»
«Приятно, что не нужно каждый раз переделывать интеграцию. Поменяли модель — для приложения почти ничего не изменилось.»
«У одного поставщика что-то упало в пятницу вечером. Сервис продолжил работать — мы заметили это уже на следующий день, по отчётам.»
«Руководству нужны были цифры, а не общие слова. Один понятный отчёт вместо пяти таблиц — и разговор о бюджете стал проще.»
«Один пилотный проект чуть не съел весь месячный бюджет. Хорошо, что можно отдельно ограничить расход на такие эксперименты.»
«Раньше сводили цены вручную из разных писем и сайтов. Теперь не тратим на это полдня каждую неделю.»
«Начинали втроём, как небольшая команда. Когда подключили компанию, не пришлось всё переносить заново — это сильно сэкономило нервы.»
«Пополняем по мере надобности и видим, куда уходят деньги. Без сюрпризов в конце месяца — для меня это главное.»
Как работает биржа
Приложение обращается к одной логической модели. LLM Mart находит доступные точки доступа и выбирает подходящий маршрут для каждого запроса.
Приложение работает с логической моделью, а не с конкретным поставщиком.
Одна модель может быть доступна через несколько независимых точек доступа.
Роутер выбирает подходящую точку доступа по цене, производительности и доступности.
Если точка доступа недоступна — роутер переключается на запасной маршрут без смены кода в приложении. Политики и учёт расхода сохраняются.
Workspace
Разработчик получает быстрый старт через единый API. Компания — контроль расходов, политик и аудита поверх той же интеграции. Один аккаунт — переключение между workspace в профиле.
Физическое лицо, pet-проекты, эксперименты
Один API → много провайдеров → быстрый старт. Ключ, каталог моделей и pay-as-you-go — без регистрации у каждого поставщика. Организацию можно добавить позже в том же аккаунте.
Команда, счета, SSO и guardrails
Единый доступ → контроль расходов → политики → аудит. SSO, счета, guardrails и governance-дашборд для команды. Тот же API и биржа провайдеров — личный workspace создаётся автоматически.
Pay-as-you-go
Без обязательных подписок. Пополнение счёта — расход по каталогу. Для бизнеса доступны счета с реквизитами.
И для личного, и для бизнес-workspace — пополнение в личном кабинете. В компании — счёт с реквизитами.
Списание по ценам из каталога: провайдер + модель, без пакетов и сроков подписки.
Баланс, история операций и расход по ключам — в разделе «Счета и баланс».
Вопросы
Нет. LLM Mart — агрегирующий роутер: мы проксируем запросы к подключённым поставщикам (российским и зарубежным) через один OpenAI-совместимый API. Модели и инференс остаются у провайдеров.
В бизнес-workspace настройте PII-фильтр, журнал политик и разграничение ключей — запросы проходят через контролируемый слой до провайдера. Типичный пилот: единый API в первый день, guardrails и аудит во второй. Подробнее — в сценарии внедрения на этой странице.
Один адрес API, один формат запроса, единый баланс и ключи. Политики, лимиты и аудит применяются до запроса к провайдеру — не у каждого поставщика свои правила. Добавили провайдера в каталог — приложение продолжает работать, меняя только модель.
Да. Регистрируетесь в личном workspace, а организацию создаёте позже в настройках. Один логин — переключение между «Личный» и компанией в меню профиля.
Те, что подключены в каталоге платформы. Список растёт по мере интеграции поставщиков — в кабинете видно, какие модели у какого провайдера доступны.
Pay-as-you-go: пополняете баланс и тратите по ценам моделей. Для личного workspace — быстрое пополнение; для бизнеса — счета с реквизитами.
Выберите сценарий на странице регистрации — «для себя» или «для компании». После входа выпускаете ключи и направляете приложения на API роутера.
Личный кабинет
Подключите организацию с guardrails и учётом с первого дня — или начните в личном workspace и добавьте команду позже.