Модели

Справочник APA_Модели предназначен для настройки подключения к LLM провайдерам.

Назначение

Справочник хранит конфигурацию LLM моделей:

  • Провайдер (OpenAI, Yandex, Ollama и др.)

  • Параметры подключения (ключи, URL)

  • Название модели

Характеристики справочника

Параметр
Значение

Имя

APA_Модели

Иерархический

Нет

Владельцы

Нет

Реквизиты

Реквизит
Тип
Обязательный
Описание

Код

Строка(9)

Да

Уникальный код

Наименование

Строка(150)

Да

Название модели

Провайдер

Перечисление

Да

Тип LLM провайдера

Ключ

Строка

Зависит

API ключ или токен

Каталог

Строка

Да

Название модели или folder_id

URL

Строка

Зависит

URL для локальных провайдеров

Перечисление "Провайдеры моделей"

Значение
Описание

Yandex

Yandex GPT

OpenAI

OpenAI (GPT-4, GPT-4o и др.)

LocalOllama

Локальные модели Ollama

Sber

Sber GigaChat

OpenRouter

OpenRouter (множество моделей)

Форма элемента

Настройка по провайдерам

OpenAI

Поле
Значение
Пример

Провайдер

OpenAI

OpenAI

Ключ

API ключ

sk-proj-xxx...

Каталог

Название модели

gpt-4o

URL

Пусто

-

Доступные модели:

  • gpt-4o — мультимодальная, рекомендуется

  • gpt-4o-mini — экономичная

  • gpt-4-turbo — большой контекст

  • o1, o3 — reasoning модели

Yandex GPT

Поле
Значение
Пример

Провайдер

Yandex

Yandex

Ключ

IAM токен

t1.xxx...

Каталог

folder_id

b1gxxxxxx

URL

Пусто

-

circle-exclamation

Ollama

Поле
Значение
Пример

Провайдер

LocalOllama

LocalOllama

Ключ

Пусто

-

Каталог

Название модели

llama3

URL

URL сервера

http://localhost:11434

Рекомендуемые модели:

  • llama3 — универсальная

  • mistral — быстрая

  • qwen2.5 — хорошее качество

OpenRouter

Поле
Значение
Пример

Провайдер

OpenRouter

OpenRouter

Ключ

API ключ

sk-or-xxx...

Каталог

ID модели

anthropic/claude-3-sonnet

URL

Пусто

-

Sber GigaChat

Поле
Значение
Пример

Провайдер

Sber

Sber

Ключ

API ключ

xxx...

Каталог

Название модели

GigaChat

URL

Пусто

-

Создание модели

Шаг 1: Получение доступа

В зависимости от провайдера:

Провайдер
Действие

OpenAI

Зарегистрируйтесь на platform.openai.com, создайте API ключ

Yandex

Создайте аккаунт Yandex Cloud, получите IAM токен

Ollama

Установите Ollama, скачайте модель

OpenRouter

Зарегистрируйтесь на openrouter.ai

Sber

Подключите GigaChat API

Шаг 2: Создание в справочнике

  1. Откройте справочник "Модели"

  2. Нажмите "Создать"

  3. Заполните поля согласно таблицам выше

  4. Сохраните

Шаг 3: Проверка

  1. Создайте тестового агента с этой моделью

  2. Выполните синхронизацию с Proxy

  3. Отправьте тестовое сообщение в чат

Выбор модели

Критерии выбора

Критерий
Рекомендация

Качество ответов

GPT-4o, Claude 3

Скорость

GPT-4o-mini, Mistral

Конфиденциальность

Ollama

Экономия

Ollama, GPT-4o-mini

Изображения

GPT-4o, GPT-4-turbo

Рассуждения

o1, o3

Сравнение провайдеров

Провайдер
Качество
Скорость
Цена
Конфиденциальность

OpenAI

⭐⭐⭐⭐⭐

⭐⭐⭐⭐

$$$

⭐⭐

Yandex

⭐⭐⭐⭐

⭐⭐⭐⭐

$$

⭐⭐⭐

Ollama

⭐⭐⭐

⭐⭐⭐

Бесплатно

⭐⭐⭐⭐⭐

OpenRouter

⭐⭐⭐⭐⭐

⭐⭐⭐⭐

Зависит

⭐⭐

Особенности моделей

Vision модели

Модели с поддержкой изображений (GPT-4o, GPT-4-turbo):

  • Автоматически активируются при наличии изображений

  • Анализируют скриншоты, документы, графики

Reasoning модели

Модели o1, o3:

  • Улучшенные способности к рассуждению

  • Автоматически применяется temperature=1

  • Подходят для сложных аналитических задач

Устранение проблем

Ошибка авторизации

Провайдер
Причина
Решение

OpenAI

Неверный ключ

Проверьте API ключ

OpenAI

Нет баланса

Пополните счёт

Yandex

Истёк IAM токен

Обновите токен

Ollama

Сервер недоступен

Проверьте URL

Медленные ответы

  1. Проверьте сетевое соединение

  2. Попробуйте более быструю модель

  3. Для Ollama — проверьте GPU

Некачественные ответы

  1. Используйте более мощную модель

  2. Улучшите системный промпт агента

  3. Добавьте примеры в промпт

Далее

Триггерыchevron-right

Last updated