OpenRouter
Настройка OpenRouter в качестве LLM провайдера для OneAPA.
Обзор
OpenRouter — агрегатор языковых моделей, предоставляющий единый API к множеству провайдеров.
Преимущества
Множество моделей
Доступ к OpenAI, Anthropic, Meta и др.
Единый API
Одинаковый интерфейс для всех моделей
Гибкость
Легко переключаться между моделями
Альтернативные модели
Claude, Llama и другие
Ограничения
Посредник
Дополнительный уровень между вами и провайдером
Наценка
Небольшая наценка к базовой цене
Получение доступа
Шаг 1: Регистрация
Перейдите на openrouter.ai
Зарегистрируйтесь (можно через GitHub, Google)
Подтвердите email
Шаг 2: Пополнение баланса
Перейдите в раздел Credits
Пополните баланс
Шаг 3: Создание API ключа
Перейдите в Keys
Создайте новый ключ
Скопируйте ключ
Настройка в OneAPA
Создание модели
Наименование
OpenRouter Claude 3
Провайдер
OpenRouter
Ключ
sk-or-...
Каталог
anthropic/claude-3-sonnet
URL
(пусто)
Примеры настройки
Claude 3 Sonnet:
Llama 3 70B:
Mixtral:
Доступные модели
Топовые модели
Anthropic
Claude 3 Opus
anthropic/claude-3-opus
Anthropic
Claude 3 Sonnet
anthropic/claude-3-sonnet
Anthropic
Claude 3 Haiku
anthropic/claude-3-haiku
Meta
Llama 3 70B
meta-llama/llama-3-70b-instruct
Meta
Llama 3 8B
meta-llama/llama-3-8b-instruct
Mistral
Mixtral 8x7B
mistralai/mixtral-8x7b-instruct
Mistral
Mistral Large
mistralai/mistral-large
Экономичные модели
Llama 3 8B
meta-llama/llama-3-8b-instruct
Бесплатная
Gemma 7B
google/gemma-7b-it
Бесплатная
Phi-3
microsoft/phi-3-mini-128k-instruct
Бесплатная
Выбор модели
Для качества
Claude 3 Opus — один из лучших по качеству:
Отличная работа с русским языком
Большой контекст
Высокое качество рассуждений
Для баланса цена/качество
Claude 3 Sonnet или Llama 3 70B:
Хорошее качество
Разумная цена
Быстрые ответы
Для экономии
Llama 3 8B или Gemma 7B:
Бесплатные или очень дешёвые
Достаточно для простых задач
Параметры
temperature
1
Креативность
max_tokens
1500
Максимум токенов в ответе
Стоимость
Цены зависят от модели. Примеры:
Claude 3 Opus
$15.00
$75.00
Claude 3 Sonnet
$3.00
$15.00
Claude 3 Haiku
$0.25
$1.25
Llama 3 70B
$0.59
$0.79
Llama 3 8B
Бесплатно
Бесплатно
Использование
Пример с Claude
Устранение проблем
Ошибка авторизации
Неверный ключ
Проверьте API ключ
Истёк срок ключа
Создайте новый ключ
Модель недоступна
Неверный ID
Проверьте ID на openrouter.ai/models
Модель отключена
Выберите другую модель
Недостаточно средств
Пустой баланс
Пополните счёт
Превышен лимит
Увеличьте лимит в настройках
Далее
OllamaLast updated