Поиск по документации...

Начните вводить, чтобы искать по документации

AnythingLLM

Руководство по интеграции AnythingLLM

Подключите UnoRouter к AnythingLLM как провайдер Generic OpenAI.

Обзор

AnythingLLM рассматривает UnoRouter как провайдер Generic OpenAI. Введите модель, задайте окно контекста и сохраните.

Быстрая настройка

Вставьте эти значения в клиент. Ваш ключ подставляется автоматически, когда вы вошли в систему.

text
Базовый URL: https://api.unorouter.com/v1
API-ключ: YOUR_API_KEY

Войдите, чтобы автоматически подставить ваш ключ API

Совместимость

Chat CompletionsПотоковая передачаВызов инструментов

Пошаговая настройка

  1. 1
    Откройте LLM Preference

    Нажмите Settings на боковой панели, затем LLM Preference.

  2. 2
    Выберите Generic OpenAI

    Установите LLM Provider в Generic OpenAI и заполните форму.

    text
    Base URL: https://api.unorouter.com/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Token context window: 50000

    Войдите, чтобы автоматически подставить ваш ключ API

  3. 3
    Сохраните

    Нажмите сохранить. AnythingLLM использует UnoRouter для рабочих пространств чата.

Рекомендуемые модели

Бесплатные модели, которые хорошо работают здесь. Вставьте любой id модели в клиент.

nemotron-3-nano-omni-30b-a3b-reasoningmistral-small-latestmistral-tiny-latestmistral-vibe-cli-fastmistral-code-agent-latest

Нюансы

  • AnythingLLM не загружает каталог автоматически для Generic OpenAI. Введите имя модели и окно контекста вручную.
  • Вкладка Embedding Preference отдельная. Оставьте рабочий провайдер эмбеддингов, если UnoRouter не предоставляет эмбеддинги в вашем тарифе.
Создать ключ APIМодели