AnythingLLMv1.19.0

Чат по документам для команды: загрузка инструкций, вопросы на русском, ответы со ссылками на источники и отдельные пространства для разных тем.

Соберите регламенты и инструкции в рабочее пространство, чтобы сотрудники задавали вопросы по ним в чате. У ответа можно открыть источник и сверить правило с исходным документом. Модель подключается отдельно: при использовании внешнего API найденные фрагменты инструкций передаются провайдеру модели.

После создания сервера установка развернет AnythingLLM 1.19.0 и откроет его по HTTPS. Первый запуск занимает около пяти минут; ход установки и адрес готового приложения придут письмами. Подключение модели и загрузку документов выполните в браузере.

Что внутри

AnythingLLM 1.19.0 с Node.js 18.20.8
чат по документам, рабочие пространства и просмотр источников рядом с ответом.
LanceDB 0.15.0
встроенная векторная база для поиска подходящих фрагментов инструкций.
Xenova/all-MiniLM-L6-v2 и Transformers.js 2.17.2
локальная модель эмбеддингов и ее обработчик: создают поисковые векторы документов без отдельного API эмбеддингов.
SQLite 3.41.2
хранит настройки, пространства и историю разговоров внутри приложения.
Caddy 2.11.9
открывает приложение через HTTPS, получает и продлевает сертификат Let's Encrypt.
Docker Engine 29.9.3 и Compose 5.7.0
запускают приложение и Caddy, сохраняют данные при пересоздании контейнеров.
Прокси Fatmetal с обвязкой global-agent 4.1.7 и undici 6.29.1
направляет запросы Node.js 18 к внешним API моделей; входит в VPS без отдельной платы.

Безопасность

  • Пароль до первого открытия адресавход сразу закрыт паролем сервера; посторонний не сможет пользоваться приложением без него.
  • Внутренний порт закрыт снаружиприложение слушает только 127.0.0.1:3001, доступ идет через Caddy по HTTPS.
  • HTTPS с автопродлениемсертификат защищает пароль и документы при передаче между браузером и сервером; Caddy продлевает его автоматически.
  • fail2ban 1.0.2-3ubuntu0.1блокирует IP на час после пяти неудачных попыток входа по SSH.
  • Свои секреты и выключенная телеметрияключи подписи и шифрования создаются при установке, а отправка событий вендору отключена.
  • Версия 1.19.0 без уязвимости CVE-2026-24477в старых версиях посторонний мог получить ключи внешних векторных баз через первоначальную настройку; исправление вышло еще в 1.10.0.

Как войти

  1. Дождитесь письма о готовности и откройте указанный в нем адрес. Его можно вычислить из IP сервера: замените точки на дефисы и добавьте .fatmetal.net, например https://45-15-159-10.fatmetal.net/.

  2. Введите пароль сервера из личного кабинета Fatmetal, тот же, что используется для SSH. Имя пользователя не требуется, регистрироваться не нужно.

  3. Откройте Settings -> LLM Preference, выберите провайдера, вставьте свой API-ключ и выберите модель. Проверенный пример: OpenRouter, модель openai/gpt-4o-mini; сохраните выбор кнопкой Save changes.

  4. Для русского интерфейса откройте Settings -> Customization -> UI Preferences -> Display Language и выберите Russian. Часть подписей остается английской.

  5. Нажмите плюс рядом с поиском, задайте название рабочего пространства и сохраните его. Для начала добавьте один регламент, по которому сможете проверить ответ.

  6. Наведите курсор на название этого пространства в боковой панели и нажмите его значок загрузки документов. Выберите файл и дождитесь, когда он появится в списке «Мои документы», затем перенесите его кнопкой «Переместить в рабочее пространство» и нажмите «Сохранить и внедрить». Дождитесь завершения индексации.

  7. Задайте вопрос по инструкции. Откройте «Источники» под ответом и выберите документ: проверьте, что показанный фрагмент действительно подтверждает ответ.

Важно

Ключ провайдера и расходы на запросы модели - ваши. Прокси Fatmetal http://api-proxy.fatmetal.net:8080 уже включен в рецепт и входит в VPS; выбирать и оплачивать провайдера вы можете самостоятельно. Готовая локальная языковая модель в этой конфигурации не запускается: встроенный в 1.19.0 движок выключен.

Общий пароль подходит для владельца установки и доверенного пилота. Для сотрудников с разными правами доступа потребуется отдельно настроить многопользовательский режим в приложении.

Проверяйте важные ответы по источнику: при поиске точного кода в большом справочнике чат может не найти нужную запись. Поисковые инструменты агента могут также отправлять запросы внешним сервисам; ввод запрета в тексте вопроса не заменяет отключение инструмента.

Сохраняйте резервные копии документов, индекса и настроек. Перед копированием выполните cd /opt/anythingllm && sudo docker compose stop anythingllm, скопируйте каталог /opt/anythingllm/storage и файл /opt/anythingllm/.env, затем из того же каталога выполните sudo docker compose start anythingllm. В .env находятся в том числе ключи провайдера и шифрования; храните копию как секрет.

Лицензия

Серверная версия AnythingLLM распространяется по лицензии MIT и бесплатна, в том числе для коммерческого использования при сохранении уведомления об авторских правах и текста лицензии. Сервер и запросы выбранной модели оплачиваются отдельно.

Свой домен

  1. Создайте A-запись своего домена на публичный IP этого сервера.
  2. Убедитесь, что ping ваш-домен показывает IP сервера. Если адрес другой, дождитесь обновления DNS.
  3. По SSH выполните sudo nano /etc/anythingllm-mp/params.env и задайте DOMAIN="ваш-домен". Строку SERVER_PASSWORD оставьте без изменений.
  4. Выполните sudo bash /opt/anythingllm/install.sh. Существующие пароль, ключ модели, документы и история сохранятся.
  5. Откройте https://ваш-домен и войдите тем же паролем сервера из личного кабинета, без имени пользователя. Caddy получит сертификат автоматически; если DNS еще не обновился, сертификат появится после того, как A-запись начнет указывать на этот сервер.

Требования

Тариф CPU2-RAM4-DISK50 подходит для начала работы с инструкциями и последовательных вопросов к ним. На версии 1.19.0 прогретые приложение и Caddy занимали около 393 МиБ памяти. Импорт справочника на 42 тысячи слов с локальными эмбеддингами дал пик около 2,7 ГиБ на всем сервере; индексация заняла около двух минут. Чистая установка и ответ с цитатой проверены на этом тарифе.

Для запаса памяти под одновременные загрузки выбирайте CPU4-RAM8-DISK100. Установка рассчитана на Ubuntu 24.04 LTS и процессор с AVX2; рецепт проверяет AVX2 до установки. Порты 80 и 443 должны быть доступны для HTTPS и выпуска сертификата.

Подробный разбор с замерами и скриншотами в Базе знаний →
AnythingLLM585 ₽/месЗапустить →