Experientialv0.7.22

Единый шлюз к нейросетям: один API для OpenAI, Anthropic, Gemini и OpenRouter с вашими ключами, лимитами расходов по сотрудникам и выбором модели по цене и качеству.

Experiential - open-source шлюз и роутер к языковым моделям: один OpenAI-совместимый (и Anthropic Messages) API поверх ваших провайдеров. Подключаете свои ключи (BYOK) к OpenAI, Anthropic, Gemini, Bedrock, Fireworks или OpenRouter и раздаете приложениям и AI-агентам единую точку входа, а не россыпь ключей. Гейт считает и ограничивает расходы, разрешает конкретным пользователям и агентам только нужные модели под нужные задачи, а из production-трафика умеет собирать кастомный роутер, выбирающий модель по цене, скорости и качеству.

После создания сервера Experiential ставится автоматически: пакет разворачивается в изолированном venv, гейт провижинится без интерактивных промптов и поднимается под systemd, а Caddy выпускает Let's Encrypt и открывает OpenAI-совместимый эндпоинт по HTTPS на magic-DNS домене. Ключ гейта для ваших приложений выписывается при установке и лежит в файле с доступами.

Что внутри

Experiential 0.7.22 (Python)
гейт/роутер, OpenAI+Anthropic-совместимый API, слушает только localhost.
exp-gateway-native
компилированный data-plane гейта (маршрутизация запросов).
Caddy
reverse-proxy и авто-TLS (Let's Encrypt) на magic-DNS домене.
systemd-сервис experiential
автозапуск и рестарт гейта.
Egress-канал вне РФ (обход географических ограничений провайдеров)
прошит в окружение сервиса.

Как войти

  1. Адрес формируется из IP сервера: замените точки на дефисы и добавьте .fatmetal.net. Пример: IP 45.15.159.10 -> https://45-15-159-10.fatmetal.net/v1.

  2. Ключ гейта (Bearer для ваших приложений) и краткая инструкция - в /root/experiential-credentials.txt (вход по SSH под паролем сервера из личного кабинета).

  3. Эндпоинт OpenAI-совместимый: указывайте base_url = https://<домен>/v1 и Authorization: Bearer <ключ гейта> в любом OpenAI-SDK.

Важно

BYOM: гейт стартует с плейсхолдер-ключом провайдера (эндпоинт живой, отвечает структурной ошибкой авторизации провайдера). Чтобы пошли реальные ответы моделей, впишите свой ключ провайдера в /etc/experiential/experiential.env (по умолчанию OpenRouter, https://openrouter.ai/keys) и выполните systemctl restart experiential. Провайдеры, алиасы моделей, идентити и лимиты меняются через exp config gateway ... (--root /var/lib/experiential). Модель в алиасе задается без vendor-префикса (gpt-4o, не openai/gpt-4o) - таково требование стабильных ID гейта, апстрим резолвит сам. Зарубежные провайдеры из РФ отвечают 403 - карта прошивает egress-канал вне РФ автоматически.

Лицензия

Experiential - свободное ПО под лицензией Apache-2.0, в том числе для коммерческого использования. Ключи провайдеров и трафик остаются на вашем сервере; анонимную продуктовую телеметрию можно отключить (exp config telemetry disable).

Свой домен

Наведите A-запись на этот сервер, впишите DOMAIN=ваш.домен в /etc/experiential-mp/params.env и перезапустите bash /opt/experiential-mp/install.sh - Caddy выпустит Let's Encrypt на ваш домен.

Требования

Ubuntu 24.04, открытые порты 80/443. Рекомендуемая конфигурация CPU2-RAM4-DISK50 (рантайм легкий, гейт в простое ~130 МБ; RAM2 достаточно). Пакет ставится с PyPI с ретраями.

Подробный разбор с рецептом и замерами →
Experiential585 ₽/месЗапустить →