AnythingLLM превращает ваши документы в чат-ассистента с ответами по вашим данным. Загружаете PDF, DOCX, таблицы или ссылки - приложение строит эмбеддинги, а модель отвечает не из общих знаний, а из ваших файлов, с указанием источника. Это готовый RAG в одном контейнере: загрузка, нарезка, векторная база и чат уже собраны. Поверх - рабочие пространства, мультипользовательский режим с ролями, ИИ-агенты и встраиваемый на сайт чат-виджет.
После создания сервера AnythingLLM ставится автоматически: docker поднимает приложение, а Caddy выпускает Let's Encrypt и открывает доступ по HTTPS. Векторная база (LanceDB) и эмбеддер встроены - эмбеддинг документов идет локально, текст файлов наружу не уходит.
Что внутри
- AnythingLLM (Node.js) - приложение, RAG-движок, агенты и мультиюзер.
- LanceDB - встроенная векторная база (отдельный сервис не нужен).
- Локальный эмбеддер - нарезка документов без внешнего API.
- Caddy - reverse-proxy и авто-TLS (Let's Encrypt).
Безопасность
Инстанс отдается защищенным по умолчанию:
- Пароль из коробки - вход в AnythingLLM закрыт паролем сервера (AUTH_TOKEN), инстанс нельзя занять в первые минуты после запуска.
- fail2ban - банит IP после серии неудачных попыток входа по SSH.
- HTTPS + security-заголовки - Let's Encrypt (авто-продление), HSTS, X-Frame-Options, X-Content-Type-Options, Referrer-Policy. Приложение слушает только localhost, наружу - через Caddy.
Как войти
- Адрес формируется из IP сервера: замените точки на дефисы и добавьте
.fatmetal.net. Пример: IP45.15.159.10->https://45-15-159-10.fatmetal.net/. - Пароль - тот же, что у вашего сервера (машины), он в личном кабинете. Введите его для входа.
- В
Settings -> LLM Preferenceподключите модель: своего провайдера с ключом или локальную через Ollama. Интерфейс английский.
Важно
Модель в комплект не входит - это BYO (bring your own): вы подключаете своего LLM-провайдера или локальную модель. Учтите гео-блок: внешний провайдер (OpenAI, OpenRouter) с российского IP часто отдает 403 - используйте российский LLM-шлюз без блока, свой прокси или локальную модель через Ollama (тогда интернет для инференса не нужен). Данные, документы и ключ шифрования лежат в томе storage (/opt/anythingllm/storage) - бэкапьте его.
Лицензия
AnythingLLM - открытый код под лицензией MIT: можно свободно использовать, в том числе коммерчески, сохранив копирайт.
Свой домен
Наведите CNAME на этот сервер, впишите домен в /opt/Caddyfile и перезапустите anythingllm-caddy - Caddy выпустит Let's Encrypt для вашего домена.
Требования
Ubuntu 24.04, открытые порты 80/443. Минимум 2 ГБ RAM, оптимум 4 ГБ и 2 ядра. Образ весит около 4.8 ГБ - берите диск с запасом. В простое приложение занимает около 0.28 ГБ.