Провайдеры LLM

Раздел описывает настройку различных провайдеров языковых моделей (LLM) в OneAPA.

Поддерживаемые провайдеры

Провайдер	Описание	Страница
Yandex GPT	Российский облачный провайдер	yandex-gpt.md
OpenAI	GPT-4o, o1, o3 и другие	openai.md
OpenRouter	Доступ к множеству моделей	openrouter.md
Ollama	Локальные модели	ollama.md
Sber	GigaChat	sber.md

Сравнение провайдеров

Критерий	Yandex	OpenAI	OpenRouter	Ollama	Sber
Качество	⭐⭐⭐⭐	⭐⭐⭐⭐⭐	⭐⭐⭐⭐⭐	⭐⭐⭐	⭐⭐⭐⭐
Скорость	⭐⭐⭐⭐	⭐⭐⭐⭐	⭐⭐⭐⭐	⭐⭐⭐	⭐⭐⭐⭐
Цена	$$	$$$	$-$$$	Бесплатно	$$
Конфиденциальность	⭐⭐⭐	⭐⭐	⭐⭐	⭐⭐⭐⭐⭐	⭐⭐⭐
Vision	❌	✅	Зависит	Зависит	❌
Русский язык	⭐⭐⭐⭐⭐	⭐⭐⭐⭐	Зависит	Зависит	⭐⭐⭐⭐⭐

Выбор провайдера

Для максимального качества

Рекомендация: OpenAI GPT-4o или OpenRouter с Claude 3

• Лучшие результаты для сложных задач

• Поддержка изображений (Vision)

• Reasoning модели (o1, o3)

Для конфиденциальности

Рекомендация: Ollama

• Данные не покидают вашу сеть

• Полный контроль над моделью

• Соответствие ФЗ-152

Для экономии

Рекомендация: Ollama или OpenAI GPT-4o-mini

• Ollama: бесплатно (только оборудование)

• GPT-4o-mini: низкая стоимость за токен

Для российских требований

Рекомендация: Yandex GPT или Sber GigaChat

• Российские провайдеры

• Хранение данных в РФ

• Соответствие законодательству

Схема выбора

                    ┌─────────────────────────────────────┐
                    │     Какой провайдер выбрать?        │
                    └─────────────────┬───────────────────┘
                                      │
                    ┌─────────────────┼─────────────────┐
                    ▼                 ▼                 ▼
            ┌───────────────┐ ┌───────────────┐ ┌───────────────┐
            │ Важно качество│ │ Важна         │ │ Важна         │
            │ ответов?      │ │ конфиденц.?   │ │ экономия?     │
            └───────┬───────┘ └───────┬───────┘ └───────┬───────┘
                    │                 │                 │
                    ▼                 ▼                 ▼
            ┌───────────────┐ ┌───────────────┐ ┌───────────────┐
            │   OpenAI      │ │    Ollama     │ │    Ollama     │
            │   GPT-4o      │ │   (локально)  │ │ или GPT-4o-   │
            │               │ │               │ │    mini       │
            └───────────────┘ └───────────────┘ └───────────────┘

Настройка модели

Общий порядок

1. Получите доступ к провайдеру (регистрация, API ключ)

2. Создайте модель в справочнике APA_Модели

3. Заполните параметры подключения

4. Протестируйте модель

Параметры модели

Поле	Описание
Наименование	Понятное название
Провайдер	Выбор из перечисления
Ключ	API ключ или токен
Каталог	Название модели
URL	Для локальных провайдеров

Особенности моделей

Vision модели

Модели с поддержкой изображений:

• OpenAI: GPT-4o, GPT-4-turbo

• Ollama: llava, bakllava

Пользователь: [прикрепляет скриншот]
              "Что на этом изображении?"

Агент: "На изображении показана ошибка подключения..."

Reasoning модели

Модели с улучшенными способностями к рассуждению:

• OpenAI: o1, o3

Пользователь: "Проанализируй финансовые показатели за квартал"

Агент: [использует цепочку рассуждений]
       "1. Анализирую выручку...
        2. Сравниваю с предыдущим периодом...
        3. Вывод: ..."

Стоимость использования

OpenAI

Модель	Вход (1M токенов)	Выход (1M токенов)
GPT-4o	$2.50	$10.00
GPT-4o-mini	$0.15	$0.60
o1	$15.00	$60.00

Yandex GPT

Модель	Примерная стоимость
YandexGPT Pro	~0.12₽ за 1000 символов
YandexGPT Lite	~0.02₽ за 1000 символов

Ollama

Бесплатно — только затраты на оборудование.

Модель	Рекомендуемое оборудование
7B	GPU 8 ГБ или CPU 16 ГБ RAM
13B	GPU 16 ГБ или CPU 32 ГБ RAM
70B	GPU 48 ГБ или CPU 64 ГБ RAM

Далее

Yandex GPT