Gemma 3n E4B — оптимизирован для эффективной работы на мобильных и малоресурсных устройствах, таких как телефоны, ноутбуки и планшеты. Он поддерживает мультимодальный ввод, включая текст, визуальные данные и аудио, что позволяет решать разнообразные задачи, такие как генерация текста, распознавание речи, перевод и анализ изображений. Используя такие инновации, как кэширование Per-Layer Embedding (PLE) и архитектуру MatFormer, Gemma 3n динамически управляет использованием памяти и вычислительной нагрузкой путем выборочной активации параметров модели, что значительно снижает требования к ресурсам во время выполнения. Эта модель поддерживает широкий лингвистический диапазон (обучена на более чем 140 языках) и имеет гибкое контекстное окно на 32 000 токенов. Gemma 3n может выборочно загружать параметры, оптимизируя память и эффективность вычислений в зависимости от задачи или возможностей устройства, что делает ее хорошо подходящей для ориентированных на конфиденциальность, автономных приложений и решений искусственного интеллекта на устройствах. Подробнее читайте в блоге (откроется в новой вкладке)
Провайдеры
Одна и та же модель может быть доступна у разных провайдеров. Маршрутизация выбирает эндпоинт по политике, цене, задержке и доступности.
| Провайдер | Тариф | Задержка P50 | Ток/с P50 |
|---|---|---|---|
| ru_openrouter | Ввод6,41 ₽/M Вывод13 ₽/M | — | — |
| polza | Ввод6,75 ₽/M Вывод14 ₽/M | — | — |
| bothub | Ввод9,72 ₽/M Вывод19 ₽/M | — | — |
Тарифы
Тарифы зависят от модальности: токены (₽/1M), аудио/embedding (часто только ввод), видео и запуски — в отдельных единицах. Текущие тарифы по провайдерам — в таблице выше; ниже — история прайс-листа в разрезе провайдеров (₽/1M токенов, 7 дней). Провайдеры — в подсказке на графике.
Производительность
Пропускная способность — скорость генерации (ток/с, выше лучше). Задержка — полный round-trip (ниже лучше). TTFT — время до первого токена (ниже лучше). Графики разбиты по провайдерам — нажмите expand для деталей.
Бенчмарки
Результаты на стандартизированных оценках. Проценты и ранги показывают положение модели среди моделей каталога.
Активность
Объём запросов и токенов к модели за последние 7 дней.
Доступность
Доля успешных ответов за период. Мониторинг эндпоинтов и автоматический fallback при ошибках upstream.
Быстрый старт
Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: google/gemma-3n-e4b-it.
curl -s "https://llmmart.ru/api/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "google/gemma-3n-e4b-it",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.