AI и языковые модели: обзоры self-hosted решений
LLM-приложения, RAG и ассистенты по документам на своей инфраструктуре.
Хотите развернуть в 1 клик? Готовые приложения в Marketplace→AI и языковые модели
7 протестированных решений · что за проект, как запускается, какой ключевой замер и когда был последний тест.
Open WebUI
Свой чат с ИИ на своем сервере: модели по вашему ключу, история диалогов и ответы по загруженным документам. Развернули 0.12.2, замерили память, проверили диалог и поиск по документу.
Odysseus
Личный ИИ-ассистент на своем сервере: чат, заметки и документы. Пошаговая установка официального образа, замеры памяти и сохранение рабочего результата.
Experiential
Open-source шлюз и роутер к языковым моделям: один OpenAI-совместимый API поверх ваших провайдеров, свои ключи (BYOK), лимиты расходов и доступа по агентам. Свой слой управления LLM на своем сервере.
OpenViking
Контекстная база для AI-агентов с открытым кодом: долговременная память, RAG и навыки в одном хранилище namespace viking://, данные на своем сервере. Слой памяти для агентов вместо облачного memory-SaaS.
Switchyard
Открытый LLM-роутер от NVIDIA: один API (OpenAI и Anthropic) на все модели, маршрутизация между провайдерами по стоимости и качеству. Легкий Rust-прокси на своем сервере.
AnythingLLM
Чат по своим инструкциям с проверяемыми источниками. Развернули v1.19.0 на VPS, замерили индексацию и показали, как подключить модель, загрузить документ и проверить ответ.
RAGFlow
Чат по техническим PDF на своем сервере: настройка моделей, загрузка документов и проверка ответа по источнику. RAGFlow v1.0.0 с живыми замерами.