AnythingLLM
Чат по своим документам, который работает на вашем сервере: инструкции, вопросы на русском и ссылки на исходный текст; модель подключается отдельно, а при использовании внешнего API найденные фрагменты инструкций передаются провайдеру модели. Развернули v1.19.0 на Fatmetal Cloud Server, замерили память и индексацию, проверили ответ по регламенту.
Вердикт
- Сотруднику, который ищет срок или порядок действий в регламенте и сверяет ответ с оригиналом.
- Автору базы инструкций, которому нужен чат с выбором модели по своему API-ключу.
- Оператору, которому нужен безошибочный поиск точного артикула.
- Тому, кто рассчитывает получить готовую модель без внешнего ключа на обычном VPS.
Как сотрудник получает ответ по инструкции
Вместо поиска по папкам сотрудник спрашивает: «За сколько часов согласуют поставку?» AnythingLLM находит подходящий фрагмент документа и передает его языковой модели вместе с вопросом.
Этот прием называется RAG: модель составляет ответ по найденным материалам. Рядом с ответом можно открыть источник и проверить, действительно ли инструкция содержит нужное правило.
На стенде контрольный регламент задавал срок 36 рабочих часов и код возврата СЕВЕР-7426. Чат назвал оба значения; открытый источник содержал те же строки.
Материалы собираются в рабочие пространства, или workspace.
Что изменилось с прошлого разбора
Прежний разбор описывал v1.15.0. В v1.16.0 обновили загрузчик файлов и папок, а инструменты агентов получили переключатели.
В v1.16.1 появился выбор LLM при первом входе и сворачиваемая активность агента. В v1.17.0 настройки workspace стали сохраняться автоматически.
В v1.19.0 добавили опциональный движок Lemonade/llama.cpp для Docker. В выбранной установке он выключен: ответы формирует подключенный по ключу провайдер.
После прошлого разбора закрыли уязвимости восстановления доступа, виджета и управления памятью. Затронутые версии перечислены ниже; владельцу старой установки есть причина обновиться.
Все приведенные здесь замеры и экраны относятся к v1.19.0. Сравнивать их с июльскими цифрами как прирост скорости нельзя: условия измерений различаются.
Чем отличается от облачного чата
| Вариант | Цена на 7 ноября 2026 | Что выбираете |
|---|---|---|
| AnythingLLM на своем VPS | Лицензия 0 ₽; сервер от 500 ₽/мес, модель отдельно | Свое хранилище, выбранная модель, самостоятельное обслуживание |
| AnythingLLM Cloud Basic | $50/мес, нужен свой ключ LLM | Обслуживание инстанса у вендора |
| ChatGPT Business | $25 за место в месяц при помесячной оплате; от двух мест | Управляемый чат с моделями в подписке |
| Google NotebookLM Standard | Бесплатный план | Облачная работа с источниками без своего сервера |
У этих вариантов разные квоты и функции. VPS не заменяет подписку один к одному: к аренде добавляются токены модели, резервные копии и время администратора.
Для российского покупателя серверная MIT-лицензия не требует зарубежного платежа. Россия отсутствует в списке поддерживаемых стран ChatGPT; покупку Business российской картой считать штатным вариантом нельзя.
Россия также отсутствует в списке стран Google AI Pro. Это ограничение платного плана, а не вывод о доступности бесплатного NotebookLM Standard.
Где лежат документы и как идут запросы
Один контейнер AnythingLLM объединяет веб-интерфейс, сервер Node.js 18 и обработчик документов. Встроенная LanceDB хранит поисковый индекс; SQLite содержит настройки, рабочие пространства и историю.
Локальный embedder Xenova/all-MiniLM-L6-v2 превращает текст в числовые представления для поиска. Его веса скачиваются при первом использовании и сохраняются в каталоге storage/models.
В проверенной схеме генератор ответа - OpenRouter с моделью openai/gpt-4o-mini. Ключ принадлежит владельцу установки; он выбирает провайдера и оплачивает его запросы отдельно.
Caddy принимает HTTPS на портах 80/443 и передает запросы приложению на 127.0.0.1:3001. У базы и обработчика нет отдельных публичных портов.
Для отдельного чата с моделями сравните Open WebUI, для другого подхода к обработке документов - RAGFlow. Здесь разобран именно короткий путь «инструкция - вопрос - проверка цитаты».
Какой сервер выбрать
Для этой схемы начните с тарифа CPU2-RAM4-DISK50 за 500 ₽/мес. Память нужна прежде всего при индексации; низкий расход в простое не означает, что хватит 1 ГБ.
| Параметр | Проверенный ориентир |
|---|---|
| Обзорный стенд | 4 vCPU, 8 ГБ RAM, диск 100 ГБ, Ubuntu 24.04 |
| Проверка ограниченного приложения | 2 CPU и 3 ГиБ памяти; импорт завершился без OOM |
| Процессор | x86-64 с AVX2 для встроенной LanceDB |
| Память в прогретом простое | Около 393 МиБ на приложение и Caddy |
| Пик занятой памяти сервера при импорте | Около 2,7 ГиБ |
| Занято на диске после проверки | Около 7,1 ГиБ, включая ОС и образы |
GPU для проверенного варианта не нужен: текст генерирует внешний сервис.
В маркетплейсе Fatmetal
Не хотите ставить руками?
Этот стек есть в маркетплейсе Fatmetal - можно не повторять установку из этого разбора вручную. Заказываете сервер, за пару минут получаете рабочий сервис на своем домене, валидный TLS и файл с доступами.
Рекомендуемая конфигурация:
2 vCPU · 4 ГБ RAM · 50 ГБ NVMe от 585 ₽/мес
Развертывание на Fatmetal Cloud Server
Нужны чистая Ubuntu 24.04, доступ по SSH и домен, указывающий на сервер. Подготовьте также собственный ключ LLM: без него установленный интерфейс не начнет отвечать.
Установите Docker
Выберите Ubuntu 24.04 и откройте порты 80/443. Подключитесь по SSH и выполните
sudo -i; следующие команды вводятся от root.apt-get update && apt-get install -y ca-certificates curl openssl install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu noble stable" > /etc/apt/sources.list.d/docker.list apt-get update && apt-get install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin systemctl enable --now dockerПроверьте процессор и подготовьте данные
Продолжайте, только если появилась строка AVX2_OK: встроенная LanceDB требует этих инструкций процессора. Пароль и ключи создаются до первого запуска; повтор этого шага заменит их.
grep -qm1 avx2 /proc/cpuinfo && echo AVX2_OK mkdir -p /opt/anythingllm/{storage,proxy} cd /opt/anythingllm umask 077; for key in AUTH_TOKEN JWT_SECRET SIG_KEY SIG_SALT; do echo "$key=$(openssl rand -hex 32)"; done > .env chown -R 1000:1000 storage .envДобавьте поддержку прокси для Node.js 18
Этот код направляет и SDK, и встроенный fetch через прокси; согласованные классы Response нужны для сохранения скачанной модели в кэш. Переменная NODE_USE_ENV_PROXY на Node.js 18 этого не делает.
docker pull mintplexlabs/anythingllm:1.19.0 docker run --rm --user 0 --entrypoint npm -v "$PWD/proxy:/proxy" -w /proxy mintplexlabs/anythingllm:1.19.0 install --save-exact global-agent@4.1.7 undici@6.29.1 cat > proxy/bootstrap.cjs <<'EOF' 'use strict'; if (process.env.HTTPS_PROXY || process.env.HTTP_PROXY) { process.env.GLOBAL_AGENT_HTTP_PROXY = process.env.HTTP_PROXY || process.env.HTTPS_PROXY; process.env.GLOBAL_AGENT_HTTPS_PROXY = process.env.HTTPS_PROXY || process.env.HTTP_PROXY; process.env.GLOBAL_AGENT_NO_PROXY = process.env.NO_PROXY; require('/opt/fatmetal-proxy/node_modules/global-agent').bootstrap(); const undici = require('/opt/fatmetal-proxy/node_modules/undici'); const dispatcher = new undici.EnvHttpProxyAgent(); for (const name of ['Response', 'Request', 'Headers', 'FormData', 'File']) { if (undici[name]) globalThis[name] = undici[name]; } globalThis.fetch = (input, init = {}) => undici.fetch(input, { ...init, dispatcher }); } EOF chmod -R a+rX proxyСоздайте Compose-файл
Теги закрепляют версии приложения и Caddy. Порт приложения доступен только внутри сервера; наружу его выпускает Caddy с HTTPS. Прокси Fatmetal входит в VPS без отдельной платы; ключ модели добавляется отдельно.
cat > compose.yaml <<'EOF' services: anythingllm: image: mintplexlabs/anythingllm:1.19.0 container_name: anythingllm restart: unless-stopped cap_add: [SYS_ADMIN] ports: ["127.0.0.1:3001:3001"] env_file: [.env] environment: STORAGE_DIR: /app/server/storage DISABLE_TELEMETRY: "true" HTTP_PROXY: http://api-proxy.fatmetal.net:8080 HTTPS_PROXY: http://api-proxy.fatmetal.net:8080 NO_PROXY: localhost,127.0.0.1,10.0.0.0/8,172.16.0.0/12,anythingllm,caddy NODE_OPTIONS: --require=/opt/fatmetal-proxy/bootstrap.cjs volumes: ["./storage:/app/server/storage", "./.env:/app/server/.env", "./proxy:/opt/fatmetal-proxy:ro"] caddy: image: caddy:2.11.9 container_name: anythingllm-caddy restart: unless-stopped network_mode: host environment: ACME_CA: "${ACME_CA:-https://acme-v02.api.letsencrypt.org/directory}" volumes: ["./Caddyfile:/etc/caddy/Caddyfile:ro", "./caddy-data:/data", "./caddy-config:/config"] EOFВключите HTTPS и запустите сервис
Замените ваш-домен адресом, указывающим на сервер. Для VPS Fatmetal подойдет IP с дефисами, например 79-133-178-10.fatmetal.net: отдельная запись DNS не нужна. Дождитесь healthy у приложения; затем откройте https://ваш-домен.
cat > Caddyfile <<'EOF' { cert_issuer acme { dir {$ACME_CA} } } ваш-домен { encode gzip reverse_proxy 127.0.0.1:3001 } EOF docker compose up -d docker compose ps
Пароль входа лежит в строке AUTH_TOKEN файла /opt/anythingllm/.env. Посмотрите его в своей SSH-сессии командой ниже. В браузере вводится только пароль без обрамляющих кавычек, имени пользователя нет.
sed -n 's/^AUTH_TOKEN=//p' /opt/anythingllm/.envКоманды установки проверены на отдельной чистой машине с 2 CPU и 4 ГБ памяти. Первый запуск может занять время на загрузку образов и сертификат. Если в браузере ошибка 502, сначала проверьте состояние приложения и его журнал, как показано в разделе диагностики.
Загрузите регламент и проверьте цитату
Войдите по HTTPS с созданным паролем. Такая защита пропускает начальный мастер: откройте Settings, затем AI Providers → LLM, выберите OpenRouter, вставьте свой ключ и модель openai/gpt-4o-mini, сохраните настройки.
В разделе AI Providers → Embedder оставьте AnythingLLM Embedder, а в Vector Database - LanceDB. Прокси уже задан в Compose: вводить адрес прокси вместо URL провайдера не нужно.
Откройте Customization → UI Preferences и выберите Display Language → Russian. Перевод частичный: некоторые подписи, например New Thread и Name, остаются английскими.
Нажмите «+» в левой панели («Новая Рабочая Область») и задайте название workspace. Откройте значок загрузки рядом с ним, перетащите TXT-файл с инструкцией. Выделите его и нажмите «Переместить в рабочее пространство», затем «Сохранить и внедрить» (Save and Embed).
Дождитесь завершения индексации. Загрузка файла в хранилище и добавление в индекс - разные действия; пока документ не добавлен в workspace, чат не получает его как источник.
Сначала задайте вопрос с заранее известным ответом: «За сколько рабочих часов согласовывают поставку и какой код нужен для возврата?» Попросите использовать загруженный регламент и привести источник.
Нажмите «Источники», затем имя документа. Сверьте срок, код и условия применения с оригиналом. Успешная проверка - это совпадение фактов, а не просто наличие кнопки источника.
Что происходит при индексации
Для нагрузки подготовили текстовый справочник из 128 процедур: около 629 КиБ и 42 тысяч слов. Он дал 448 фрагментов поискового индекса; контрольный регламент хранился отдельно.
| Действие | Результат на стенде |
|---|---|
| Первое скачивание и распаковка двух образов | Около 1 минуты 50 секунд |
| Загрузка и разбор справочника | 2,9 с |
| Полная индексация справочника | 1 минута 56 секунд |
| Пиковая память приложения и Caddy | Около 2,1 ГиБ без файлового кэша |
| Рост каталога storage после импорта | Около 6,3 МиБ |
| Ответ по контрольному регламенту | 10,7 с до полного ответа |
| Повторный запуск с сохраненными данными | 11,4 с до готовности HTTP |
Интерфейс принял задачу индексации меньше чем за секунду, но обработчик работал почти две минуты. Не считайте быстрый ответ кнопки признаком готовности документа к вопросам.
Небольшой исходный файл увеличил данные сильнее своего размера: кроме текста сохраняются векторы и кэш. Перед большим импортом смотрите свободный диск через df -h /.
Где может сломаться
Причина. Node.js 18 не применяет NODE_USE_ENV_PROXY к встроенному fetch. Одних HTTP_PROXY и HTTPS_PROXY недостаточно.
Решение. Проверьте подключение bootstrap и пакеты, затем пересоздайте приложение. Код и версии должны совпадать с шагом установки.
cd /opt/anythingllm
docker compose exec anythingllm node -p 'process.env.NODE_OPTIONS'
docker compose exec anythingllm node -p 'require("/opt/fatmetal-proxy/node_modules/undici/package.json").version'
docker compose up -d --force-recreate anythingllmПричина. На стенде замена fetch без согласованного класса Response мешала библиотеке сохранять модель на диск.
Решение. Верните весь bootstrap, включая цикл с Response и другими классами. После индексации проверьте появление файла весов.
find /opt/anythingllm/storage/models -name model_quantized.onnx -lsПричина. Caddy уже отвечает, а приложение еще запускается либо завершилось с ошибкой.
Решение. Сначала прочитайте последние сообщения. Если есть EACCES для storage или .env, восстановите владельца; затем запустите сервис.
cd /opt/anythingllm
docker compose logs --tail=60 anythingllm
chown -R 1000:1000 storage .env
docker compose up -dРезервная копия и обновление
Сохраняйте весь каталог приложения: storage, секретный .env, proxy и конфигурацию. Остановите стек на время копирования, чтобы SQLite и индекс попали в одну согласованную копию.
cd /opt/anythingllm
docker compose down
tar -C /opt -czf /root/anythingllm-backup.tgz anythingllm
chmod 600 /root/anythingllm-backup.tgz
docker compose up -d
Перенесите архив в отдельное защищенное хранилище: в нем лежат документы и ключи. Для восстановления на том же сервере остановите текущую установку и сначала уберите ее каталог.
cd /opt/anythingllm && docker compose down
cd /opt && mv anythingllm anythingllm-before-restore
tar -C /opt -xzf /root/anythingllm-backup.tgz
cd /opt/anythingllm && docker compose up -d
Перед обновлением сделайте такую копию. Укажите проверенный новый тег вместо 1.19.0 в compose.yaml, затем скачайте образ и пересоздайте сервис. Не заменяйте тег на latest.
cd /opt/anythingllm
docker compose pull
docker compose up -d
docker compose ps
docker compose logs --tail=40 anythingllm
После запуска войдите, откройте прежний workspace и задайте контрольный вопрос. При откате возвращайте вместе прежний образ и его копию данных: новая версия может изменить структуру базы.
В этой установке действует один общий пароль. Файл .env имеет права 600; порт 3001 закрыт от внешних подключений. Не публикуйте API-ключи в сообщениях и скриншотах.
Уязвимости прошлых версий
Инструкция выше закрепляет исправленную v1.19.0. Если ваша версия входит в диапазон таблицы, сделайте резервную копию и обновитесь командами из предыдущего раздела.
Здесь собраны закрытые после прежнего разбора проблемы уровня Medium и Low. Диапазон для live-sync указан ровно как в бюллетене: только 1.16.1.
| Бюллетень | Уровень | Затронуты | Исправлено | Риск старой установки |
|---|---|---|---|---|
| GHSA-vv8w-wg6r-hq56 | Medium | 1.0.0-1.15.0 | 1.16.0 | Повторное использование второго кода восстановления доступа. |
| GHSA-rh3m-xv7m-9jhf | Medium | ≤1.16.1 | 1.16.2 | Сохраненный XSS через заголовок страницы или favicon. |
| GHSA-8wh8-3v68-whwj | Medium | 1.13.0-1.16.1 | 1.16.2 | Память одиночного пользователя могла попасть в запрос публичного виджета. |
| GHSA-3f4c-xj8r-h4cr | Medium | 1.16.1 | 1.16.2 | Менеджер мог обратиться к файлам за пределами документов через live-sync. |
| GHSA-p9pc-ccw4-fxc5 | Low | 1.13.0-1.16.1 | 1.16.2 | Автоматическое извлечение памяти позволяло перезаписать другую запись. |
Отключение ненужного публичного виджета уменьшает поверхность доступа, но не заменяет обновление. Новые сообщения проверяйте в разделе Security вендора.
Когда это НЕ ваш выбор
Нужен точный артикул без ручной проверки
В справочнике из 128 процедур вопрос по коду ВК065 не нашел ожидаемый ВЕКТОР9165. Агент обратился к веб-поиску и признал, что нужных данных нет.
Для выдачи точных реквизитов используйте поиск в учетной системе. Запрет «не используй интернет» в вопросе не равен техническому запрету веб-инструментов агента.
Инструкции запрещено передавать внешнему сервису
Файлы и индекс лежат на VPS, но внешняя LLM получает вопрос и найденные фрагменты. Включенные веб-инструменты могут отправить наружу также поисковый запрос.
Нужен полностью локальный готовый ИИ
Рецепт не включает готовую локальную модель. Добавленный в v1.19.0 Lemonade выключен по умолчанию; его включение требует отдельной проверки ресурсов и скорости.
Для доступа сотрудников с отдельными учетными записями нужна другая настройка авторизации. Общий пароль из этой инструкции подходит владельцу установки и доверенному пилоту, а не разграничению прав между отделами.
Частые вопросы
Нужно ли покупать лицензию?
Нет. Серверный AnythingLLM распространяется под MIT; платите за сервер и выбранную модель. Текст лицензии находится в репозитории.
Есть ли русский интерфейс?
Да: Settings → Customization → UI Preferences → Display Language → Russian. Часть коротких подписей остается английской.
Почему после загрузки чат не видит документ?
Перенесите его в документы нужного workspace, нажмите «Сохранить и внедрить» и дождитесь окончания индексации. Простого появления в списке файлов недостаточно.
Какой пароль вводить?
Значение AUTH_TOKEN из /opt/anythingllm/.env. В приведенной ручной установке он генерируется отдельно от SSH-пароля. Имя пользователя не требуется.
Прокси дает ключ и баланс модели?
Нет. Прокси Fatmetal входит в VPS и обеспечивает сетевой маршрут; собственный ключ и доступ к провайдеру настраивает владелец приложения.
Проверено на версии v1.19.0, ноябрь 2026. На новых версиях результаты могут отличаться.
Итог
AnythingLLM дает короткий путь от инструкции до ответа с открываемым источником. Начните с одного регламента и контрольного вопроса; добавляйте корпус после проверки, что цитата действительно подтверждает ответ.
Рекомендуемая конфигурация для установки:
2 vCPU · 4 ГБ RAM · 50 ГБ NVMe
Не хотите устанавливать вручную?
Запустите AnythingLLM на этой конфигурации автоматически - от 585 ₽/мес.
Этот стек у нас запущен на тарифе CPU4-RAM8-DISK100. Нашли баг в гайде - напишите, поправим в течение дня.