# Провайдеры LLM

Раздел описывает настройку различных провайдеров языковых моделей (LLM) в OneAPA.

## Поддерживаемые провайдеры

| Провайдер                                                       | Описание                      | Страница      |
| --------------------------------------------------------------- | ----------------------------- | ------------- |
| [Yandex GPT](/ai-platforma-oneapa/provajdery-llm/yandex-gpt.md) | Российский облачный провайдер | yandex-gpt.md |
| [OpenAI](/ai-platforma-oneapa/provajdery-llm/openai.md)         | GPT-4o, o1, o3 и другие       | openai.md     |
| [OpenRouter](/ai-platforma-oneapa/provajdery-llm/openrouter.md) | Доступ к множеству моделей    | openrouter.md |
| [Ollama](/ai-platforma-oneapa/provajdery-llm/ollama.md)         | Локальные модели              | ollama.md     |
| [Sber](/ai-platforma-oneapa/provajdery-llm/sber.md)             | GigaChat                      | sber.md       |

## Сравнение провайдеров

| Критерий               | Yandex | OpenAI | OpenRouter | Ollama    | Sber  |
| ---------------------- | ------ | ------ | ---------- | --------- | ----- |
| **Качество**           | ⭐⭐⭐⭐   | ⭐⭐⭐⭐⭐  | ⭐⭐⭐⭐⭐      | ⭐⭐⭐       | ⭐⭐⭐⭐  |
| **Скорость**           | ⭐⭐⭐⭐   | ⭐⭐⭐⭐   | ⭐⭐⭐⭐       | ⭐⭐⭐       | ⭐⭐⭐⭐  |
| **Цена**               | $$     | $$$    | $-$$$      | Бесплатно | $$    |
| **Конфиденциальность** | ⭐⭐⭐    | ⭐⭐     | ⭐⭐         | ⭐⭐⭐⭐⭐     | ⭐⭐⭐   |
| **Vision**             | ❌      | ✅      | Зависит    | Зависит   | ❌     |
| **Русский язык**       | ⭐⭐⭐⭐⭐  | ⭐⭐⭐⭐   | Зависит    | Зависит   | ⭐⭐⭐⭐⭐ |

## Выбор провайдера

### Для максимального качества

**Рекомендация:** OpenAI GPT-4o или OpenRouter с Claude 3

* Лучшие результаты для сложных задач
* Поддержка изображений (Vision)
* Reasoning модели (o1, o3)

### Для конфиденциальности

**Рекомендация:** Ollama

* Данные не покидают вашу сеть
* Полный контроль над моделью
* Соответствие ФЗ-152

### Для экономии

**Рекомендация:** Ollama или OpenAI GPT-4o-mini

* Ollama: бесплатно (только оборудование)
* GPT-4o-mini: низкая стоимость за токен

### Для российских требований

**Рекомендация:** Yandex GPT или Sber GigaChat

* Российские провайдеры
* Хранение данных в РФ
* Соответствие законодательству

## Схема выбора

```
                    ┌─────────────────────────────────────┐
                    │     Какой провайдер выбрать?        │
                    └─────────────────┬───────────────────┘
                                      │
                    ┌─────────────────┼─────────────────┐
                    ▼                 ▼                 ▼
            ┌───────────────┐ ┌───────────────┐ ┌───────────────┐
            │ Важно качество│ │ Важна         │ │ Важна         │
            │ ответов?      │ │ конфиденц.?   │ │ экономия?     │
            └───────┬───────┘ └───────┬───────┘ └───────┬───────┘
                    │                 │                 │
                    ▼                 ▼                 ▼
            ┌───────────────┐ ┌───────────────┐ ┌───────────────┐
            │   OpenAI      │ │    Ollama     │ │    Ollama     │
            │   GPT-4o      │ │   (локально)  │ │ или GPT-4o-   │
            │               │ │               │ │    mini       │
            └───────────────┘ └───────────────┘ └───────────────┘
```

## Настройка модели

### Общий порядок

1. Получите доступ к провайдеру (регистрация, API ключ)
2. Создайте модель в справочнике `APA_Модели`
3. Заполните параметры подключения
4. Протестируйте модель

### Параметры модели

| Поле             | Описание                  |
| ---------------- | ------------------------- |
| **Наименование** | Понятное название         |
| **Провайдер**    | Выбор из перечисления     |
| **Ключ**         | API ключ или токен        |
| **Каталог**      | Название модели           |
| **URL**          | Для локальных провайдеров |

## Особенности моделей

### Vision модели

Модели с поддержкой изображений:

* OpenAI: GPT-4o, GPT-4-turbo
* Ollama: llava, bakllava

```
Пользователь: [прикрепляет скриншот]
              "Что на этом изображении?"

Агент: "На изображении показана ошибка подключения..."
```

### Reasoning модели

Модели с улучшенными способностями к рассуждению:

* OpenAI: o1, o3

```
Пользователь: "Проанализируй финансовые показатели за квартал"

Агент: [использует цепочку рассуждений]
       "1. Анализирую выручку...
        2. Сравниваю с предыдущим периодом...
        3. Вывод: ..."
```

## Стоимость использования

### OpenAI

| Модель      | Вход (1M токенов) | Выход (1M токенов) |
| ----------- | ----------------- | ------------------ |
| GPT-4o      | $2.50             | $10.00             |
| GPT-4o-mini | $0.15             | $0.60              |
| o1          | $15.00            | $60.00             |

### Yandex GPT

| Модель         | Примерная стоимость      |
| -------------- | ------------------------ |
| YandexGPT Pro  | \~0.12₽ за 1000 символов |
| YandexGPT Lite | \~0.02₽ за 1000 символов |

### Ollama

**Бесплатно** — только затраты на оборудование.

| Модель | Рекомендуемое оборудование  |
| ------ | --------------------------- |
| 7B     | GPU 8 ГБ или CPU 16 ГБ RAM  |
| 13B    | GPU 16 ГБ или CPU 32 ГБ RAM |
| 70B    | GPU 48 ГБ или CPU 64 ГБ RAM |

## Далее

{% content-ref url="/pages/8ndNyyvI9hUnztca2mev" %}
[Yandex GPT](/ai-platforma-oneapa/provajdery-llm/yandex-gpt.md)
{% endcontent-ref %}


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://docs.onerpa.ru/ai-platforma-oneapa/provajdery-llm.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
