LLM Router
Начало работы

Как это работает

Краткий обзор для администраторов и разработчиков: что настраивается в кабинете и куда подключаются приложения.

Три части платформы

ЧастьКому нужнаДля чего
Личный кабинетадминистраторы, финансы, ИБнастройки организации, ключи, модели, расходы, политики
API платформыинтеграторы, автоматизацияте же настройки через REST (без браузера)
API моделейваши приложения и сервисызапросы к языковым моделям в формате OpenAI

Адреса кабинета, API платформы и API моделей сообщает администратор вашего экземпляра LLM Router.

Два типа ключей

Токен входаAPI-ключ
Комусотрудникам в кабинетеприложениям
Где используетсяличный кабинет, API платформыAPI моделей
Как выглядитвыдаётся при входеsk-…, показывается один раз при создании

Не путайте их: токен входа не подходит для chat completion, API-ключ — для входа в кабинет.

Типичный путь компании

  1. Зарегистрировать организацию.
  2. Пригласить сотрудников с нужными ролями.
  3. Включить модели для компании.
  4. Выпустить API-ключ для приложения.
  5. Отправить первый запрос к API моделей.

Дальше — лимиты, SSO, политики фильтрации и выгрузки расходов по мере необходимости.

Что дальше

На этой странице