Fatmetal Knowledge Base · AI и языковые модели

AI и языковые модели: обзоры self-hosted решений

LLM-приложения, RAG и ассистенты по документам на своей инфраструктуре.

Хотите развернуть в 1 клик? Готовые приложения в Marketplace→

AI и языковые модели

7 протестированных решений · что за проект, как запускается, какой ключевой замер и когда был последний тест.

● Проверено на Fatmetal11 мин

Open WebUI

Свой чат с ИИ на своем сервере: модели по вашему ключу, история диалогов и ответы по загруженным документам. Развернули 0.12.2, замерили память, проверили диалог и поиск по документу.

AI и языковые моделиRAM idle ~630 MiB
Последний тест15 октября 2026 г.
Открыть →
● Проверено на Fatmetal12 мин

Odysseus

Личный ИИ-ассистент на своем сервере: чат, заметки и документы. Пошаговая установка официального образа, замеры памяти и сохранение рабочего результата.

AI и языковые моделиDocker Compose, официальный закрепленный GHCR-образсреднийRAM idle ~1883 MiB
Последний тест28 октября 2026 г.
Открыть →
● Проверено на Fatmetal8 мин

Experiential

Open-source шлюз и роутер к языковым моделям: один OpenAI-совместимый API поверх ваших провайдеров, свои ключи (BYOK), лимиты расходов и доступа по агентам. Свой слой управления LLM на своем сервере.

AI и языковые моделиpip install experiential (venv, не docker)среднийRAM idle ~130 MiB
Последний тест3 сентября 2026 г.
Открыть →
● Проверено на Fatmetal11 мин

OpenViking

Контекстная база для AI-агентов с открытым кодом: долговременная память, RAG и навыки в одном хранилище namespace viking://, данные на своем сервере. Слой памяти для агентов вместо облачного memory-SaaS.

AI и языковые моделиdocker run + ollama (эмбеддер) + Caddy TLSсреднийRAM idle ~750 MiB
Последний тест14 октября 2026 г.
Открыть →
● Проверено на Fatmetal7 мин

Switchyard

Открытый LLM-роутер от NVIDIA: один API (OpenAI и Anthropic) на все модели, маршрутизация между провайдерами по стоимости и качеству. Легкий Rust-прокси на своем сервере.

AI и языковые моделиcargo install из crates.io на VM + systemd + CaddyсреднийRAM idle ~15 MiB RSS
Последний тест18 августа 2026 г.
Открыть →
● Проверено на Fatmetal12 мин

AnythingLLM

Чат по своим инструкциям с проверяемыми источниками. Развернули v1.19.0 на VPS, замерили индексацию и показали, как подключить модель, загрузить документ и проверить ответ.

AI и языковые моделиDocker ComposeсреднийRAM idle ~393 MiB
Последний тест7 ноября 2026 г.
Открыть →
● Проверено на Fatmetal14 мин

RAGFlow

Чат по техническим PDF на своем сервере: настройка моделей, загрузка документов и проверка ответа по источнику. RAGFlow v1.0.0 с живыми замерами.

AI и языковые моделиdocker compose (тег v1.0.0)сложныйRAM idle ~7329 MiB
Последний тест8 ноября 2026 г.
Открыть →
AI и языковые модели: обзоры self-hosted решений · Fatmetal