Обновлено 7 ноября 2026 г.
AI и языковые модели

AnythingLLM

Чат по своим документам, который работает на вашем сервере: инструкции, вопросы на русском и ссылки на исходный текст; модель подключается отдельно, а при использовании внешнего API найденные фрагменты инструкций передаются провайдеру модели. Развернули v1.19.0 на Fatmetal Cloud Server, замерили память и индексацию, проверили ответ по регламенту.

Проверено на версии v1.19.0, 7 ноября 2026~12 минут чтенияFatmetal Team
Чат с документамиЛицензия: MITСтатус: запущен у нас, v1.19.0

Вердикт

Подходит
  • Сотруднику, который ищет срок или порядок действий в регламенте и сверяет ответ с оригиналом.
  • Автору базы инструкций, которому нужен чат с выбором модели по своему API-ключу.
Не подходит
  • Оператору, которому нужен безошибочный поиск точного артикула.
  • Тому, кто рассчитывает получить готовую модель без внешнего ключа на обычном VPS.
Рекомендуем: CPU2-RAM4-DISK50Сложность: средняяГлавный риск: ответ нужно сверять с источником
Что это

Как сотрудник получает ответ по инструкции

Вместо поиска по папкам сотрудник спрашивает: «За сколько часов согласуют поставку?» AnythingLLM находит подходящий фрагмент документа и передает его языковой модели вместе с вопросом.

Этот прием называется RAG: модель составляет ответ по найденным материалам. Рядом с ответом можно открыть источник и проверить, действительно ли инструкция содержит нужное правило.

На стенде контрольный регламент задавал срок 36 рабочих часов и код возврата СЕВЕР-7426. Чат назвал оба значения; открытый источник содержал те же строки.

AnythingLLM
Ответ по регламенту «Север» с панелью источников в AnythingLLM 1.19.0
Ответ по регламенту: 36 рабочих часов и код СЕВЕР-7426. Полный ответ занял 10,7 с; счетчик в интерфейсе измеряет часть генерации.

Материалы собираются в рабочие пространства, или workspace.

Изменения

Что изменилось с прошлого разбора

Прежний разбор описывал v1.15.0. В v1.16.0 обновили загрузчик файлов и папок, а инструменты агентов получили переключатели.

В v1.16.1 появился выбор LLM при первом входе и сворачиваемая активность агента. В v1.17.0 настройки workspace стали сохраняться автоматически.

В v1.19.0 добавили опциональный движок Lemonade/llama.cpp для Docker. В выбранной установке он выключен: ответы формирует подключенный по ключу провайдер.

После прошлого разбора закрыли уязвимости восстановления доступа, виджета и управления памятью. Затронутые версии перечислены ниже; владельцу старой установки есть причина обновиться.

Все приведенные здесь замеры и экраны относятся к v1.19.0. Сравнивать их с июльскими цифрами как прирост скорости нельзя: условия измерений различаются.

Сравнение

Чем отличается от облачного чата

ВариантЦена на 7 ноября 2026Что выбираете
AnythingLLM на своем VPSЛицензия 0 ₽; сервер от 500 ₽/мес, модель отдельноСвое хранилище, выбранная модель, самостоятельное обслуживание
AnythingLLM Cloud Basic$50/мес, нужен свой ключ LLMОбслуживание инстанса у вендора
ChatGPT Business$25 за место в месяц при помесячной оплате; от двух местУправляемый чат с моделями в подписке
Google NotebookLM StandardБесплатный планОблачная работа с источниками без своего сервера

У этих вариантов разные квоты и функции. VPS не заменяет подписку один к одному: к аренде добавляются токены модели, резервные копии и время администратора.

Для российского покупателя серверная MIT-лицензия не требует зарубежного платежа. Россия отсутствует в списке поддерживаемых стран ChatGPT; покупку Business российской картой считать штатным вариантом нельзя.

Россия также отсутствует в списке стран Google AI Pro. Это ограничение платного плана, а не вывод о доступности бесплатного NotebookLM Standard.

Устройство

Где лежат документы и как идут запросы

Один контейнер AnythingLLM объединяет веб-интерфейс, сервер Node.js 18 и обработчик документов. Встроенная LanceDB хранит поисковый индекс; SQLite содержит настройки, рабочие пространства и историю.

Локальный embedder Xenova/all-MiniLM-L6-v2 превращает текст в числовые представления для поиска. Его веса скачиваются при первом использовании и сохраняются в каталоге storage/models.

В проверенной схеме генератор ответа - OpenRouter с моделью openai/gpt-4o-mini. Ключ принадлежит владельцу установки; он выбирает провайдера и оплачивает его запросы отдельно.

Caddy принимает HTTPS на портах 80/443 и передает запросы приложению на 127.0.0.1:3001. У базы и обработчика нет отдельных публичных портов.

Node.js 18SQLiteLanceDBЛокальный embedderCaddy

Для отдельного чата с моделями сравните Open WebUI, для другого подхода к обработке документов - RAGFlow. Здесь разобран именно короткий путь «инструкция - вопрос - проверка цитаты».

Ресурсы

Какой сервер выбрать

Для этой схемы начните с тарифа CPU2-RAM4-DISK50 за 500 ₽/мес. Память нужна прежде всего при индексации; низкий расход в простое не означает, что хватит 1 ГБ.

ПараметрПроверенный ориентир
Обзорный стенд4 vCPU, 8 ГБ RAM, диск 100 ГБ, Ubuntu 24.04
Проверка ограниченного приложения2 CPU и 3 ГиБ памяти; импорт завершился без OOM
Процессорx86-64 с AVX2 для встроенной LanceDB
Память в прогретом простоеОколо 393 МиБ на приложение и Caddy
Пик занятой памяти сервера при импортеОколо 2,7 ГиБ
Занято на диске после проверкиОколо 7,1 ГиБ, включая ОС и образы

GPU для проверенного варианта не нужен: текст генерирует внешний сервис.

В маркетплейсе Fatmetal

Не хотите ставить руками?

Этот стек есть в маркетплейсе Fatmetal - можно не повторять установку из этого разбора вручную. Заказываете сервер, за пару минут получаете рабочий сервис на своем домене, валидный TLS и файл с доступами.

Рекомендуемая конфигурация:
2 vCPU · 4 ГБ RAM · 50 ГБ NVMe от 585 ₽/мес

Развернуть в 1 клик →
Установка

Развертывание на Fatmetal Cloud Server

Нужны чистая Ubuntu 24.04, доступ по SSH и домен, указывающий на сервер. Подготовьте также собственный ключ LLM: без него установленный интерфейс не начнет отвечать.

  1. Установите Docker

    Выберите Ubuntu 24.04 и откройте порты 80/443. Подключитесь по SSH и выполните sudo -i; следующие команды вводятся от root.

    apt-get update && apt-get install -y ca-certificates curl openssl
    install -m 0755 -d /etc/apt/keyrings
    curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
    echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu noble stable" > /etc/apt/sources.list.d/docker.list
    apt-get update && apt-get install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin
    systemctl enable --now docker
  2. Проверьте процессор и подготовьте данные

    Продолжайте, только если появилась строка AVX2_OK: встроенная LanceDB требует этих инструкций процессора. Пароль и ключи создаются до первого запуска; повтор этого шага заменит их.

    grep -qm1 avx2 /proc/cpuinfo && echo AVX2_OK
    mkdir -p /opt/anythingllm/{storage,proxy}
    cd /opt/anythingllm
    umask 077; for key in AUTH_TOKEN JWT_SECRET SIG_KEY SIG_SALT; do echo "$key=$(openssl rand -hex 32)"; done > .env
    chown -R 1000:1000 storage .env
  3. Добавьте поддержку прокси для Node.js 18

    Этот код направляет и SDK, и встроенный fetch через прокси; согласованные классы Response нужны для сохранения скачанной модели в кэш. Переменная NODE_USE_ENV_PROXY на Node.js 18 этого не делает.

    docker pull mintplexlabs/anythingllm:1.19.0
    docker run --rm --user 0 --entrypoint npm -v "$PWD/proxy:/proxy" -w /proxy mintplexlabs/anythingllm:1.19.0 install --save-exact global-agent@4.1.7 undici@6.29.1
    cat > proxy/bootstrap.cjs <<'EOF'
    'use strict';
    if (process.env.HTTPS_PROXY || process.env.HTTP_PROXY) {
      process.env.GLOBAL_AGENT_HTTP_PROXY = process.env.HTTP_PROXY || process.env.HTTPS_PROXY;
      process.env.GLOBAL_AGENT_HTTPS_PROXY = process.env.HTTPS_PROXY || process.env.HTTP_PROXY;
      process.env.GLOBAL_AGENT_NO_PROXY = process.env.NO_PROXY;
      require('/opt/fatmetal-proxy/node_modules/global-agent').bootstrap();
      const undici = require('/opt/fatmetal-proxy/node_modules/undici');
      const dispatcher = new undici.EnvHttpProxyAgent();
      for (const name of ['Response', 'Request', 'Headers', 'FormData', 'File']) {
        if (undici[name]) globalThis[name] = undici[name];
      }
      globalThis.fetch = (input, init = {}) => undici.fetch(input, { ...init, dispatcher });
    }
    EOF
    chmod -R a+rX proxy
  4. Создайте Compose-файл

    Теги закрепляют версии приложения и Caddy. Порт приложения доступен только внутри сервера; наружу его выпускает Caddy с HTTPS. Прокси Fatmetal входит в VPS без отдельной платы; ключ модели добавляется отдельно.

    cat > compose.yaml <<'EOF'
    services:
      anythingllm:
        image: mintplexlabs/anythingllm:1.19.0
        container_name: anythingllm
        restart: unless-stopped
        cap_add: [SYS_ADMIN]
        ports: ["127.0.0.1:3001:3001"]
        env_file: [.env]
        environment:
          STORAGE_DIR: /app/server/storage
          DISABLE_TELEMETRY: "true"
          HTTP_PROXY: http://api-proxy.fatmetal.net:8080
          HTTPS_PROXY: http://api-proxy.fatmetal.net:8080
          NO_PROXY: localhost,127.0.0.1,10.0.0.0/8,172.16.0.0/12,anythingllm,caddy
          NODE_OPTIONS: --require=/opt/fatmetal-proxy/bootstrap.cjs
        volumes: ["./storage:/app/server/storage", "./.env:/app/server/.env", "./proxy:/opt/fatmetal-proxy:ro"]
      caddy:
        image: caddy:2.11.9
        container_name: anythingllm-caddy
        restart: unless-stopped
        network_mode: host
        environment:
          ACME_CA: "${ACME_CA:-https://acme-v02.api.letsencrypt.org/directory}"
        volumes: ["./Caddyfile:/etc/caddy/Caddyfile:ro", "./caddy-data:/data", "./caddy-config:/config"]
    EOF
  5. Включите HTTPS и запустите сервис

    Замените ваш-домен адресом, указывающим на сервер. Для VPS Fatmetal подойдет IP с дефисами, например 79-133-178-10.fatmetal.net: отдельная запись DNS не нужна. Дождитесь healthy у приложения; затем откройте https://ваш-домен.

    cat > Caddyfile <<'EOF'
    {
      cert_issuer acme {
        dir {$ACME_CA}
      }
    }
    ваш-домен {
      encode gzip
      reverse_proxy 127.0.0.1:3001
    }
    EOF
    docker compose up -d
    docker compose ps

Пароль входа лежит в строке AUTH_TOKEN файла /opt/anythingllm/.env. Посмотрите его в своей SSH-сессии командой ниже. В браузере вводится только пароль без обрамляющих кавычек, имени пользователя нет.

sed -n 's/^AUTH_TOKEN=//p' /opt/anythingllm/.env

Команды установки проверены на отдельной чистой машине с 2 CPU и 4 ГБ памяти. Первый запуск может занять время на загрузку образов и сертификат. Если в браузере ошибка 502, сначала проверьте состояние приложения и его журнал, как показано в разделе диагностики.

Первый ответ

Загрузите регламент и проверьте цитату

Войдите по HTTPS с созданным паролем. Такая защита пропускает начальный мастер: откройте Settings, затем AI Providers → LLM, выберите OpenRouter, вставьте свой ключ и модель openai/gpt-4o-mini, сохраните настройки.

В разделе AI Providers → Embedder оставьте AnythingLLM Embedder, а в Vector Database - LanceDB. Прокси уже задан в Compose: вводить адрес прокси вместо URL провайдера не нужно.

Откройте Customization → UI Preferences и выберите Display Language → Russian. Перевод частичный: некоторые подписи, например New Thread и Name, остаются английскими.

Нажмите «+» в левой панели («Новая Рабочая Область») и задайте название workspace. Откройте значок загрузки рядом с ним, перетащите TXT-файл с инструкцией. Выделите его и нажмите «Переместить в рабочее пространство», затем «Сохранить и внедрить» (Save and Embed).

AnythingLLM
Два документа в рабочем пространстве AnythingLLM
Документы загружены и добавлены в индекс рабочего пространства. Локальная обработка файла не означает, что фрагменты не попадут к выбранной модели.

Дождитесь завершения индексации. Загрузка файла в хранилище и добавление в индекс - разные действия; пока документ не добавлен в workspace, чат не получает его как источник.

Сначала задайте вопрос с заранее известным ответом: «За сколько рабочих часов согласовывают поставку и какой код нужен для возврата?» Попросите использовать загруженный регламент и привести источник.

AnythingLLM
Исходный фрагмент регламента, открытый из ответа AnythingLLM
Исходный фрагмент подтверждает срок и код из ответа. Документ и имя сотрудника вымышлены.

Нажмите «Источники», затем имя документа. Сверьте срок, код и условия применения с оригиналом. Успешная проверка - это совпадение фактов, а не просто наличие кнопки источника.

Замеры

Что происходит при индексации

Для нагрузки подготовили текстовый справочник из 128 процедур: около 629 КиБ и 42 тысяч слов. Он дал 448 фрагментов поискового индекса; контрольный регламент хранился отдельно.

ДействиеРезультат на стенде
Первое скачивание и распаковка двух образовОколо 1 минуты 50 секунд
Загрузка и разбор справочника2,9 с
Полная индексация справочника1 минута 56 секунд
Пиковая память приложения и CaddyОколо 2,1 ГиБ без файлового кэша
Рост каталога storage после импортаОколо 6,3 МиБ
Ответ по контрольному регламенту10,7 с до полного ответа
Повторный запуск с сохраненными данными11,4 с до готовности HTTP

Интерфейс принял задачу индексации меньше чем за секунду, но обработчик работал почти две минуты. Не считайте быстрый ответ кнопки признаком готовности документа к вопросам.

Небольшой исходный файл увеличил данные сильнее своего размера: кроме текста сохраняются векторы и кэш. Перед большим импортом смотрите свободный диск через df -h /.

Диагностика

Где может сломаться

Failed to fetch / запрос к модели не проходит

Причина. Node.js 18 не применяет NODE_USE_ENV_PROXY к встроенному fetch. Одних HTTP_PROXY и HTTPS_PROXY недостаточно.

Решение. Проверьте подключение bootstrap и пакеты, затем пересоздайте приложение. Код и версии должны совпадать с шагом установки.

cd /opt/anythingllm
docker compose exec anythingllm node -p 'process.env.NODE_OPTIONS'
docker compose exec anythingllm node -p 'require("/opt/fatmetal-proxy/node_modules/undici/package.json").version'
docker compose up -d --force-recreate anythingllm
После перезапуска снова скачиваются веса embedder

Причина. На стенде замена fetch без согласованного класса Response мешала библиотеке сохранять модель на диск.

Решение. Верните весь bootstrap, включая цикл с Response и другими классами. После индексации проверьте появление файла весов.

find /opt/anythingllm/storage/models -name model_quantized.onnx -ls
502 Bad Gateway

Причина. Caddy уже отвечает, а приложение еще запускается либо завершилось с ошибкой.

Решение. Сначала прочитайте последние сообщения. Если есть EACCES для storage или .env, восстановите владельца; затем запустите сервис.

cd /opt/anythingllm
docker compose logs --tail=60 anythingllm
chown -R 1000:1000 storage .env
docker compose up -d
Эксплуатация

Резервная копия и обновление

Сохраняйте весь каталог приложения: storage, секретный .env, proxy и конфигурацию. Остановите стек на время копирования, чтобы SQLite и индекс попали в одну согласованную копию.

cd /opt/anythingllm
docker compose down
tar -C /opt -czf /root/anythingllm-backup.tgz anythingllm
chmod 600 /root/anythingllm-backup.tgz
docker compose up -d

Перенесите архив в отдельное защищенное хранилище: в нем лежат документы и ключи. Для восстановления на том же сервере остановите текущую установку и сначала уберите ее каталог.

cd /opt/anythingllm && docker compose down
cd /opt && mv anythingllm anythingllm-before-restore
tar -C /opt -xzf /root/anythingllm-backup.tgz
cd /opt/anythingllm && docker compose up -d

Перед обновлением сделайте такую копию. Укажите проверенный новый тег вместо 1.19.0 в compose.yaml, затем скачайте образ и пересоздайте сервис. Не заменяйте тег на latest.

cd /opt/anythingllm
docker compose pull
docker compose up -d
docker compose ps
docker compose logs --tail=40 anythingllm

После запуска войдите, откройте прежний workspace и задайте контрольный вопрос. При откате возвращайте вместе прежний образ и его копию данных: новая версия может изменить структуру базы.

В этой установке действует один общий пароль. Файл .env имеет права 600; порт 3001 закрыт от внешних подключений. Не публикуйте API-ключи в сообщениях и скриншотах.

Старые версии

Уязвимости прошлых версий

Инструкция выше закрепляет исправленную v1.19.0. Если ваша версия входит в диапазон таблицы, сделайте резервную копию и обновитесь командами из предыдущего раздела.

Здесь собраны закрытые после прежнего разбора проблемы уровня Medium и Low. Диапазон для live-sync указан ровно как в бюллетене: только 1.16.1.

БюллетеньУровеньЗатронутыИсправленоРиск старой установки
GHSA-vv8w-wg6r-hq56Medium1.0.0-1.15.01.16.0Повторное использование второго кода восстановления доступа.
GHSA-rh3m-xv7m-9jhfMedium≤1.16.11.16.2Сохраненный XSS через заголовок страницы или favicon.
GHSA-8wh8-3v68-whwjMedium1.13.0-1.16.11.16.2Память одиночного пользователя могла попасть в запрос публичного виджета.
GHSA-3f4c-xj8r-h4crMedium1.16.11.16.2Менеджер мог обратиться к файлам за пределами документов через live-sync.
GHSA-p9pc-ccw4-fxc5Low1.13.0-1.16.11.16.2Автоматическое извлечение памяти позволяло перезаписать другую запись.

Отключение ненужного публичного виджета уменьшает поверхность доступа, но не заменяет обновление. Новые сообщения проверяйте в разделе Security вендора.

Ограничения

Когда это НЕ ваш выбор

Нужен точный артикул без ручной проверки

В справочнике из 128 процедур вопрос по коду ВК065 не нашел ожидаемый ВЕКТОР9165. Агент обратился к веб-поиску и признал, что нужных данных нет.

AnythingLLM
Неуспешный поиск точного кода с внешними источниками
На вопрос по точному коду ответ не найден. В источниках появился веб-поиск вместо нужного документа.

Для выдачи точных реквизитов используйте поиск в учетной системе. Запрет «не используй интернет» в вопросе не равен техническому запрету веб-инструментов агента.

Инструкции запрещено передавать внешнему сервису

Файлы и индекс лежат на VPS, но внешняя LLM получает вопрос и найденные фрагменты. Включенные веб-инструменты могут отправить наружу также поисковый запрос.

Нужен полностью локальный готовый ИИ

Рецепт не включает готовую локальную модель. Добавленный в v1.19.0 Lemonade выключен по умолчанию; его включение требует отдельной проверки ресурсов и скорости.

Для доступа сотрудников с отдельными учетными записями нужна другая настройка авторизации. Общий пароль из этой инструкции подходит владельцу установки и доверенному пилоту, а не разграничению прав между отделами.

FAQ

Частые вопросы

Нужно ли покупать лицензию?

Нет. Серверный AnythingLLM распространяется под MIT; платите за сервер и выбранную модель. Текст лицензии находится в репозитории.

Есть ли русский интерфейс?

Да: Settings → Customization → UI Preferences → Display Language → Russian. Часть коротких подписей остается английской.

Почему после загрузки чат не видит документ?

Перенесите его в документы нужного workspace, нажмите «Сохранить и внедрить» и дождитесь окончания индексации. Простого появления в списке файлов недостаточно.

Какой пароль вводить?

Значение AUTH_TOKEN из /opt/anythingllm/.env. В приведенной ручной установке он генерируется отдельно от SSH-пароля. Имя пользователя не требуется.

Прокси дает ключ и баланс модели?

Нет. Прокси Fatmetal входит в VPS и обеспечивает сетевой маршрут; собственный ключ и доступ к провайдеру настраивает владелец приложения.

Проверено на версии v1.19.0, ноябрь 2026. На новых версиях результаты могут отличаться.

Итог

AnythingLLM дает короткий путь от инструкции до ответа с открываемым источником. Начните с одного регламента и контрольного вопроса; добавляйте корпус после проверки, что цитата действительно подтверждает ответ.

Рекомендуемая конфигурация для установки:
2 vCPU · 4 ГБ RAM · 50 ГБ NVMe

Не хотите устанавливать вручную?

Запустите AnythingLLM на этой конфигурации автоматически - от 585 ₽/мес.

Запустить AnythingLLM →
Анонсы новых разборов в Telegram-канале Новые гайды и карточки в маркетплейсе первыми @fatmetal_channel →

Этот стек у нас запущен на тарифе CPU4-RAM8-DISK100. Нашли баг в гайде - напишите, поправим в течение дня.