Команда инженеров · свой ЦОД в РФ · своё железо · своя панель · CloudStack + Linstor · MCP · база знаний по self-hosted

Обработка больших данных с векторизацией

Сложный сценарий обработки больших объемов текста с использованием embeddings, векторного поиска и распределением данных через облачные хранилища.

Показать оригинал (англ.)
Manualtrigger Workflow

Automated workflow: Manualtrigger Workflow. This workflow integrates 26 different services: stickyNote, textSplitterRecursiveCharacterTextSplitter, vectorStoreQdrant, switch, executeWorkflow. It contains 113 nodes and follows best practices for error handling and security.

Комбинированный (Complex)Продвинутый · 88 нодExecutiondataHttprequestSplitinbatchesExecuteworkflow
Как это работает

Схема сценария, как в редакторе n8n: ноды и связи между ними. Кликните, чтобы рассмотреть.

клик - увеличить ⤢◆When clicking‘Test workflow’manualTrigger🌐Web Search For APISchemahttpRequest🌐Scrape WebpageContentshttpRequest◆Results to ListsplitOut◆RecursiveCharacter Text…noOp≡Content Chunking @50k Charsset◆Split Out ChunkssplitOut◆Default DataLoadernoOp≡Set EmbeddingVariablesset◆Execute WorkflowTriggerexecuteWorkflowTrigger◆Execution DataexecutionData⑂EventRouterswitch◆Google Gemini ChatModelnoOp⑂Successful Runsfilter◆For EachDocument...splitInBatches◆Embeddings GoogleGemininoOp◆Has APIDocumentation?noOp◆Store DocumentEmbeddingsnoOp◆Embeddings GoogleGemini1noOp◆Google Gemini ChatModel1noOp◆Extract APIOperationsnoOp◆Search in RelevantDocsnoOp◆Waitwait◆Remove DupesremoveDuplicates⑂Filter Resultsfilter◆ResearchexecuteWorkflow⑂Has Results?if≡Response Emptyset≡Response OKset◆Combine Docsaggregate◆Template to ListsplitOut≡Query Templatesset◆Google Gemini ChatModel2noOp◆For EachTemplate...splitInBatches≡Query & Docsset◆Identify ServiceProductsnoOp≡Extract APITemplatesset◆Embeddings GoogleGemini2noOp◆Search in RelevantDocs1noOp◆Combine Docs1aggregate≡Query & Docs1set◆For EachTemplate...1splitInBatches{}Merge Listscode◆Remove DuplicatesremoveDuplicates▤Append RowgoogleSheets≡Response OK1set⑂Has Operations?if≡Response Empty1set▤Research PendinggoogleSheets▤Research ResultgoogleSheets▤Research ErrorgoogleSheets▤Extract PendinggoogleSheets≡Research Eventset≡Extract Eventset◆ExtractexecuteWorkflow▤Extract ResultgoogleSheets▤Extract ErrorgoogleSheets▤Get API OperationsgoogleSheets{}Contruct JSONSchemacode◆Upload to DrivegoogleDrive≡Set Upload Fieldsset≡Response OK2set≡Generate Eventset▤Generate PendinggoogleSheets◆GenerateexecuteWorkflow▤Generate ErrorgoogleSheets▤Generate ResultgoogleSheets▤Get All ExtractgoogleSheets▤Get All ResearchgoogleSheets◆For EachResearch...splitInBatches◆For EachExtract...splitInBatches◆Wait1wait⑂All Research Done?if⑂All Extract Done?if▤Get All GenerategoogleSheets⑂All Generate Done?if◆For EachGenerate...splitInBatches◆Wait2wait⑂Has Results?1if≡Response ScrapeErrorset⑂Has Results?3if≡Response No APIDocsset
  1. ТриггерExecute Workflow TriggerExecute Workflow
  2. ТриггерWhen clicking ‘Test workflow’Manual
  3. ДействиеExecution DataExecution Data
  4. ДействиеGet All ResearchGoogle Sheets
  5. ДействиеAll Research Done?If
  6. ДействиеEventRouterSwitch
  7. ДействиеFor Each Research...Split In Batches
  8. ДействиеWeb Search For API SchemaHttp Request
  9. ДействиеQuery TemplatesSet
  10. ДействиеGet API OperationsGoogle Sheets
  11. ДействиеResearch PendingGoogle Sheets
  12. ДействиеHas Results?If
  13. ДействиеTemplate to ListSplit Out
  14. ДействиеContruct JSON SchemaCode
  15. ДействиеResearch EventSet
  16. ДействиеResearchExecute Workflow
  17. ДействиеResults to ListSplit Out
  18. ДействиеResponse EmptySet
  19. ДействиеFor Each Template...Split In Batches
  20. ДействиеSet Upload FieldsSet
  21. ДействиеGet All ExtractGoogle Sheets
  22. ДействиеResearch ResultGoogle Sheets
  23. ДействиеResearch ErrorGoogle Sheets
  24. ДействиеFilter ResultsFilter
  25. ДействиеUpload to DriveGoogle Drive
  26. ДействиеIdentify Service ProductsNo Op
  27. ДействиеGoogle Gemini Chat Model2No Op
  28. ДействиеSearch in Relevant DocsNo Op
  29. ДействиеEmbeddings Google Gemini1No Op
  30. ДействиеAll Extract Done?If
  31. ДействиеWaitWait
  32. ДействиеRemove DupesRemove Duplicates
  33. ДействиеResponse OK2Set
  34. ДействиеScrape Webpage ContentsHttp Request
  35. ДействиеFor Each Extract...Split In Batches
  36. ДействиеCombine DocsAggregate
  37. ДействиеSuccessful RunsFilter
  38. ДействиеExtract PendingGoogle Sheets
  39. ДействиеExtract API TemplatesSet
  40. ДействиеQuery & DocsSet
  41. ДействиеHas Results?1If
  42. ДействиеExtract EventSet
  43. ДействиеFor Each Template...1Split In Batches
  44. ДействиеExtractExecute Workflow
  45. ДействиеHas API Documentation?No Op
  46. ДействиеGoogle Gemini Chat ModelNo Op
  47. ДействиеResponse Scrape ErrorSet
  48. ДействиеGet All GenerateGoogle Sheets
  49. ДействиеExtract ResultGoogle Sheets
  50. ДействиеExtract ErrorGoogle Sheets
  51. ДействиеExtract API OperationsNo Op
  52. ДействиеGoogle Gemini Chat Model1No Op
  53. ДействиеSearch in Relevant Docs1No Op
  54. ДействиеEmbeddings Google Gemini2No Op
  55. ДействиеAll Generate Done?If
  56. ДействиеWait1Wait
  57. ДействиеHas Results?3If
  58. ДействиеMerge ListsCode
  59. ДействиеCombine Docs1Aggregate
  60. ДействиеSet Embedding VariablesSet
  61. ДействиеResponse No API DocsSet
  62. ДействиеFor Each Generate...Split In Batches
  63. ДействиеHas Operations?If
  64. ДействиеQuery & Docs1Set
  65. ДействиеGenerate PendingGoogle Sheets
  66. ДействиеFor Each Document...Split In Batches
  67. ДействиеRemove DuplicatesRemove Duplicates
  68. ДействиеResponse Empty1Set
  69. ДействиеGenerate EventSet
  70. ДействиеResponse OKSet
  71. ДействиеContent Chunking @ 50k CharsSet
  72. ДействиеGenerateExecute Workflow
  73. ДействиеAppend RowGoogle Sheets
  74. ДействиеSplit Out ChunksSplit Out
  75. ДействиеGenerate ResultGoogle Sheets
  76. ДействиеGenerate ErrorGoogle Sheets
  77. ДействиеResponse OK1Set
  78. ДействиеEmbeddings Google GeminiNo Op
  79. ДействиеStore Document EmbeddingsNo Op
  80. ДействиеWait2Wait
  81. ДействиеDefault Data LoaderNo Op
  82. ДействиеRecursive Character Text Splitter1No Op

Сценарий «Обработка больших данных с векторизацией» состоит из 82 ноды: Execute Workflow Trigger, When clicking ‘Test workflow’, Execution Data, Get All Research, All Research Done?, EventRouter, For Each Research..., Web Search For API Schema и других. Интеграции: Executiondata, Httprequest, Splitinbatches, Executeworkflow, Removeduplicates, Google Drive, Google Sheets, Splitout.

Что понадобится
ПараметрЗначениеОписание
Учётные данныеExecutiondata · Httprequest · Splitinbatches · Executeworkflow · Removeduplicates · Google Drive · Google Sheets · SplitoutДля каждого сервиса нужен свой ключ/токен - впишете их в n8n после установки.
Объём сценария88 нод · продвинутыйЧисло нод и уровень сложности логики. Больше нод - тоньше настройка.
Форматn8n workflow JSONГотовый воркфлоу. При развороте через кнопку импортируется автоматически.
Установка в один клик

Развернуть n8n с этим сценарием

Готовый сервер с n8n из маркетплейса Fatmetal - воркфлоу уже загружен. Рекомендованная конфигурация уже подставлена в заказ: 2 CPU · 4 ГБ · 50 ГБ. Останется вписать свои ключи, и автоматизация заработает. Нужна помощь с настройкой под нагрузку или сетью? Напишите инженеру.

Защищённый инстанс

n8n отдаём закрытым, а не голым

n8n часто атакуют - поэтому инстанс приезжает уже защищённым, без ручной настройки.

Владелец создан заранее

Аккаунт администратора настроен автоматически при развёртывании. Окно самостоятельной регистрации закрыто - никто не перехватит ваш инстанс в первые минуты после запуска (частый вектор атаки на self-hosted n8n).

Единый пароль с сервером

Логин в n8n - тот же пароль, что у вашей машины. Не нужно искать отдельные креды в файлах, меньше шансов оставить дефолт.

fail2ban против перебора

Автоматически банит IP после серии неудачных попыток входа по SSH. Защита от брутфорса из коробки.

HTTPS и security-заголовки

Трафик шифруется (Let's Encrypt, авто-обновление), выставлены HSTS, X-Frame-Options, X-Content-Type-Options, Referrer-Policy - защита от кликджекинга, MIME-снифинга и downgrade-атак.

Что дальше

После оплаты - сервер с готовым сценарием

Сервер создаётся автоматически за несколько минут. Ничего настраивать вручную не нужно - n8n поднимется сам, а этот сценарий уже будет внутри.

1

Сервер создаётся

После оплаты сервер разворачивается автоматически за несколько минут: ставится n8n, база данных и HTTPS. Дождитесь готовности в личном кабинете.

2

Открываете адрес

Адрес формируется из IP сервера: замените точки на дефисы и добавьте .fatmetal.net. Например IP 45.15.159.10 → https://45-15-159-10.fatmetal.net/. HTTPS уже настроен. Готовый адрес также есть в личном кабинете - можно просто скопировать его оттуда.

3

Входите готовыми данными

Аккаунт владельца уже создан - регистрировать ничего не нужно. Логин: admin@<адрес вашего сервера> (тот же адрес, что открыли на шаге 2 - например admin@45-15-159-10.fatmetal.net). Пароль - тот же, что у вашего сервера: он в личном кабинете и в /root/n8n-credentials.txt на сервере. Войдите и при желании сразу смените пароль в настройках. Интерфейс английский - у n8n нет русской локализации.

4

Сценарий уже внутри

Этот сценарий уже импортирован - найдёте его в разделе Workflows. Останется вписать свои ключи для интеграций (Executiondata, Httprequest, Splitinbatches) в Credentials и включить сценарий.

Важно: сохраните ключ шифрования. Ключ (N8N_ENCRYPTION_KEY) и пароль базы лежат на сервере в /root/n8n-credentials.txt. Этим ключом зашифрованы учётные данные интеграций - берегите его и сделайте резервную копию: без ключа их не восстановить даже из бэкапа базы.
Оригинал сценария (англ.): «Manualtrigger Workflow». Источник: коллекция Zie619/n8n-workflows (лицензия MIT).
Спросить инженера в TelegramМы на связи