AnythingLLMv1.19.0
Чат по документам для команды: загрузка инструкций, вопросы на русском, ответы со ссылками на источники и отдельные пространства для разных тем.
Соберите регламенты и инструкции в рабочее пространство, чтобы сотрудники задавали вопросы по ним в чате. У ответа можно открыть источник и сверить правило с исходным документом. Модель подключается отдельно: при использовании внешнего API найденные фрагменты инструкций передаются провайдеру модели.
После создания сервера установка развернет AnythingLLM 1.19.0 и откроет его по HTTPS. Первый запуск занимает около пяти минут; ход установки и адрес готового приложения придут письмами. Подключение модели и загрузку документов выполните в браузере.
Что внутри
- AnythingLLM 1.19.0 с Node.js 18.20.8
- чат по документам, рабочие пространства и просмотр источников рядом с ответом.
- LanceDB 0.15.0
- встроенная векторная база для поиска подходящих фрагментов инструкций.
- Xenova/all-MiniLM-L6-v2 и Transformers.js 2.17.2
- локальная модель эмбеддингов и ее обработчик: создают поисковые векторы документов без отдельного API эмбеддингов.
- SQLite 3.41.2
- хранит настройки, пространства и историю разговоров внутри приложения.
- Caddy 2.11.9
- открывает приложение через HTTPS, получает и продлевает сертификат Let's Encrypt.
- Docker Engine 29.9.3 и Compose 5.7.0
- запускают приложение и Caddy, сохраняют данные при пересоздании контейнеров.
- Прокси Fatmetal с обвязкой global-agent 4.1.7 и undici 6.29.1
- направляет запросы Node.js 18 к внешним API моделей; входит в VPS без отдельной платы.
Безопасность
- Пароль до первого открытия адресавход сразу закрыт паролем сервера; посторонний не сможет пользоваться приложением без него.
- Внутренний порт закрыт снаружиприложение слушает только
127.0.0.1:3001, доступ идет через Caddy по HTTPS. - HTTPS с автопродлениемсертификат защищает пароль и документы при передаче между браузером и сервером; Caddy продлевает его автоматически.
- fail2ban 1.0.2-3ubuntu0.1блокирует IP на час после пяти неудачных попыток входа по SSH.
- Свои секреты и выключенная телеметрияключи подписи и шифрования создаются при установке, а отправка событий вендору отключена.
- Версия 1.19.0 без уязвимости CVE-2026-24477в старых версиях посторонний мог получить ключи внешних векторных баз через первоначальную настройку; исправление вышло еще в 1.10.0.
Как войти
Дождитесь письма о готовности и откройте указанный в нем адрес. Его можно вычислить из IP сервера: замените точки на дефисы и добавьте
.fatmetal.net, напримерhttps://45-15-159-10.fatmetal.net/.Введите пароль сервера из личного кабинета Fatmetal, тот же, что используется для SSH. Имя пользователя не требуется, регистрироваться не нужно.
Откройте
Settings -> LLM Preference, выберите провайдера, вставьте свой API-ключ и выберите модель. Проверенный пример:OpenRouter, модельopenai/gpt-4o-mini; сохраните выбор кнопкойSave changes.Для русского интерфейса откройте
Settings -> Customization -> UI Preferences -> Display Languageи выберитеRussian. Часть подписей остается английской.Нажмите плюс рядом с поиском, задайте название рабочего пространства и сохраните его. Для начала добавьте один регламент, по которому сможете проверить ответ.
Наведите курсор на название этого пространства в боковой панели и нажмите его значок загрузки документов. Выберите файл и дождитесь, когда он появится в списке «Мои документы», затем перенесите его кнопкой «Переместить в рабочее пространство» и нажмите «Сохранить и внедрить». Дождитесь завершения индексации.
Задайте вопрос по инструкции. Откройте «Источники» под ответом и выберите документ: проверьте, что показанный фрагмент действительно подтверждает ответ.
Важно
Ключ провайдера и расходы на запросы модели - ваши. Прокси Fatmetal http://api-proxy.fatmetal.net:8080 уже включен в рецепт и входит в VPS; выбирать и оплачивать провайдера вы можете самостоятельно. Готовая локальная языковая модель в этой конфигурации не запускается: встроенный в 1.19.0 движок выключен.
Общий пароль подходит для владельца установки и доверенного пилота. Для сотрудников с разными правами доступа потребуется отдельно настроить многопользовательский режим в приложении.
Проверяйте важные ответы по источнику: при поиске точного кода в большом справочнике чат может не найти нужную запись. Поисковые инструменты агента могут также отправлять запросы внешним сервисам; ввод запрета в тексте вопроса не заменяет отключение инструмента.
Сохраняйте резервные копии документов, индекса и настроек. Перед копированием выполните cd /opt/anythingllm && sudo docker compose stop anythingllm, скопируйте каталог /opt/anythingllm/storage и файл /opt/anythingllm/.env, затем из того же каталога выполните sudo docker compose start anythingllm. В .env находятся в том числе ключи провайдера и шифрования; храните копию как секрет.
Лицензия
Серверная версия AnythingLLM распространяется по лицензии MIT и бесплатна, в том числе для коммерческого использования при сохранении уведомления об авторских правах и текста лицензии. Сервер и запросы выбранной модели оплачиваются отдельно.
Свой домен
- Создайте
A-запись своего домена на публичный IP этого сервера. - Убедитесь, что
ping ваш-доменпоказывает IP сервера. Если адрес другой, дождитесь обновления DNS. - По SSH выполните
sudo nano /etc/anythingllm-mp/params.envи задайтеDOMAIN="ваш-домен". СтрокуSERVER_PASSWORDоставьте без изменений. - Выполните
sudo bash /opt/anythingllm/install.sh. Существующие пароль, ключ модели, документы и история сохранятся. - Откройте
https://ваш-домени войдите тем же паролем сервера из личного кабинета, без имени пользователя. Caddy получит сертификат автоматически; если DNS еще не обновился, сертификат появится после того, какA-запись начнет указывать на этот сервер.
Требования
Тариф CPU2-RAM4-DISK50 подходит для начала работы с инструкциями и последовательных вопросов к ним. На версии 1.19.0 прогретые приложение и Caddy занимали около 393 МиБ памяти. Импорт справочника на 42 тысячи слов с локальными эмбеддингами дал пик около 2,7 ГиБ на всем сервере; индексация заняла около двух минут. Чистая установка и ответ с цитатой проверены на этом тарифе.
Для запаса памяти под одновременные загрузки выбирайте CPU4-RAM8-DISK100. Установка рассчитана на Ubuntu 24.04 LTS и процессор с AVX2; рецепт проверяет AVX2 до установки. Порты 80 и 443 должны быть доступны для HTTPS и выпуска сертификата.