Як бізнесу побудувати власні AI агенти без залежності від фронтальних лабораторій - Aitematic

Більшість компаній сьогодні повністю залежать від OpenAI, Anthropic або Google — і кожне підвищення цін чи зміна умов API одразу б’є по бізнесу. Цей туторіал покаже, як побудувати власного AI агента на відкритих моделях, якого ви контролюєте повністю: від інфраструктури до даних. Весь процес займе від 4 до 8 годин залежно від вашого технічного досвіду. Вам не потрібно бути програмістом — достатньо базового розуміння роботи з терміналом і хмарними сервісами.

🛠️ Що знадобиться

Ollama — безкоштовний рушій для запуску відкритих LLM-моделей локально або на сервері; замінює API OpenAI
LlamaIndex або LangChain — безкоштовні Python-фреймворки для побудови агентської логіки, пам’яті та інструментів агента
n8n (self-hosted) — безкоштовна no-code платформа для автоматизації; дозволяє зв’язати агента з CRM, email, Telegram без коду
Supabase або PostgreSQL — безкоштовна (до певного ліміту) база даних для зберігання векторних ембедингів і пам’яті агента
Hetzner або DigitalOcean VPS — хмарний сервер від €6/місяць для розгортання всього стеку; краще ніж AWS чи Azure для початку
Docker + Docker Compose — безкоштовний інструмент контейнеризації, щоб зібрати все в єдине середовище

📋 Покрокова інструкція

Крок 1: Орендуйте сервер і встановіть базове середовище

Зайдіть на hetzner.com, оберіть Cloud → Create Server → локація Нюрнберг або Гельсінкі, тип CPX31 (4 CPU, 8 GB RAM, €13/міс) або CPX51 якщо плануєте запускати моделі 13B+. У розділі Image оберіть Ubuntu 24.04. Після створення підключіться через термінал командою ssh root@ВАШ_IP. Виконайте оновлення системи: apt update && apt upgrade -y, потім встановіть Docker одною командою: curl -fsSL https://get.docker.com | sh. Перевірте установку: docker --version — має з’явитися версія 25+.

Крок 2: Розгорніть Ollama і завантажте модель

На тому ж сервері виконайте: curl -fsSL https://ollama.com/install.sh | sh. Після установки запустіть Ollama як сервіс: systemctl enable ollama && systemctl start ollama. Тепер завантажте модель — для бізнес-агентів добре підходить Mistral або Llama 3.1: введіть ollama pull llama3.1:8b (4.7 GB) для легкої версії або ollama pull llama3.1:70b-q4 (40 GB) для потужнішої. Перевірте, що модель працює: ollama run llama3.1:8b "Привіт, хто ти?" — агент має відповісти в терміналі. Важливо: відкрийте порт 11434 у файрволі командою ufw allow 11434, щоб n8n міг звертатися до Ollama.

Крок 3: Налаштуйте базу даних з векторним сховищем

Створіть файл docker-compose.yml командою nano docker-compose.yml і вставте конфігурацію з PostgreSQL та розширенням pgvector. Додайте такий блок: вкажіть image: pgvector/pgvector:pg16, змінні середовища POSTGRES_USER, POSTGRES_PASSWORD, POSTGRES_DB — запишіть їх, вони знадобляться пізніше. Додайте також сервіс n8n з image: n8nio/n8n:latest, прокиньте порт 5678:5678 і вкажіть змінну N8N_BASIC_AUTH_PASSWORD для захисту. Запустіть усе командою docker compose up -d. Зайдіть у браузері на http://ВАШ_IP:5678 — має відкритися інтерфейс n8n із формою входу.

Крок 4: Побудуйте агентську логіку через n8n

У інтерфейсі n8n натисніть + New Workflow → додайте тригер Webhook (це точка входу для вашого агента). Натисніть + → знайдіть вузол HTTP Request → у полі URL вкажіть http://localhost:11434/api/chat, метод POST. У тілі запиту (Body) оберіть JSON і вставте структуру: model — назва вашої моделі, messages — масив з роллю system (тут опишіть призначення агента, наприклад “Ти — агент підтримки клієнтів компанії X”) і роллю user з динамічним полем з попереднього вузла. Додайте вузол Supabase для збереження діалогу — натисніть +, знайдіть Supabase, підключіть через API-ключ і вкажіть таблицю conversations. Натисніть Save → Activate — агент активний і приймає запити.

Крок 5: Підключіть агента до реальних бізнес-каналів і додайте інструменти

Щоб агент міг не лише відповідати, а й діяти — додайте інструменти. У n8n натисніть + після вузла Ollama → додайте IF вузол, який перевіряє, чи є в відповіді агента ключове слово “ПОШУК_CRM” або “НАДІСЛАТИ_EMAIL”. Якщо так — підключіть відповідний вузол: для CRM використайте вузол HubSpot або Pipedrive (в n8n є вбудована інтеграція), для email — вузол Gmail або SMTP. Це і є “інструменти агента”: він сам вирішує коли їх викликати через спеціальні маркери в системному промпті. Для підключення Telegram-бота: додайте тригер Telegram Trigger у n8n, вкажіть Bot Token із @BotFather — і ваш агент вже відповідає клієнтам у месенджері. Фінальний результат: повноцінний AI агент, що живе на вашому сервері, використовує відкриту модель, пам’ятає контекст діалогів і може виконувати реальні дії в бізнес-системах.

⚠️ Типові помилки та як їх уникнути

Вибір занадто великої моделі для слабкого сервера — модель 70B потребує мінімум 48 GB RAM; починайте з 8B або 13B на стандартних серверах, а потім масштабуйте
Відкритий порт Ollama без автентифікації — за замовчуванням Ollama не має захисту; одразу після установки закрийте порт 11434 через ufw deny 11434 і звертайтесь лише через localhost або через nginx з Basic Auth
Відсутність обмеження контексту в промпті — без чіткого системного промпту агент “гуляє” і видає нерелевантні відповіді; завжди описуйте роль, обмеження і формат відповіді в system message
Збереження всього діалогу без очищення — необмежена пам’ять агента сповільнює відповіді та збільшує витрати на токени; налаштуйте sliding window — зберігайте лише останні 10-20 повідомлень
Запуск без моніторингу — агент може зависнути або почати видавати помилки без вашого відома; відразу налаштуйте UptimeRobot (безкоштовно) для пінгу вашого webhook кожні 5 хвилин

💡 Поради для кращого результату

По-перше, використовуйте техніку few-shot в системному промпті: замість опису “відповідай ввічливо” додайте 3-5 конкретних прикладів у форматі “Запит: … → Відповідь: …” — якість одразу зростає на 40-60%. По-друге, якщо агент працює з документами компанії, не завантажуйте весь текст у контекст — замість цього налаштуйте RAG (Retrieval-Augmented Generation): розбийте документи на чанки по 512 токенів, збережіть ембединги в pgvector через LlamaIndex, і агент сам знайде потрібний фрагмент. По-третє, для production-середовища поставте nginx як реверс-проксі перед n8n і додайте SSL через Certbot — це займе 15 хвилин, але захистить ваші дані. По-четверте, регулярно тестуйте агента через n8n вбудований тест-режим: натисніть “Test Workflow” і пропускайте через нього нові граничні сценарії — “що якщо клієнт пише матом”, “що якщо запит порожній” — це дозволяє виявити провали в логіці до того, як їх побачать клієнти.

❓ Часті запитання (FAQ)

1. Чи можна запустити все це локально, без хмарного сервера?
Так, Ollama чудово працює на Mac M2/M3 або Windows з RTX 3080+. Але для бізнес-застосунків, до яких потрібен постійний доступ 24/7, хмарний VPS є надійнішим варіантом. Локальний запуск підходить для тестування та розробки.

2. Наскільки відкриті моделі поступаються GPT-4o за якістю?
Llama 3.1 70B та Mistral Large 2 у 2026 році показують результати на рівні GPT-4o у більшості бізнес-завдань — підтримка клієнтів, класифікація, генерація документів. Різниця відчутна лише в дуже складних аналітичних задачах або мультимодальних сценаріях. Для 80% бізнес-випадків відкриті моделі є цілком достатніми.

3. Скільки реально коштує утримання такого агента?
Сервер Hetzner CPX31 коштує близько €13/місяць, Supabase — безкоштовно до 500 MB, n8n self-hosted — безкоштовно. Тобто повний стек обходиться в €13-30/місяць проти сотень доларів на API OpenAI при активному використанні.

4. Як захистити корпоративні дані, якщо модель працює на сторонньому сервері?
Якщо Hetzner видається ненадійним, розгорніть те саме рішення на власному фізичному сервері в офісі або в українському дата-центрі. Ключова перевага open-source підходу саме в тому, що жодні дані не покидають вашу інфраструктуру — на відміну від API OpenAI, де всі запити проходять через американські сервери.

5. Чи потрібен програміст для підтримки такого агента?
Для початкового налаштування достатньо спеціаліста з DevOps або технічно підготовленого менеджера, який пройде цей туторіал. Для подальшого розвитку — додавання нових інструментів, RAG, інтеграцій — знадобиться Python-розробник на часткову зайнятість або хороший промпт-інженер для роботи безпосередньо в n8n.

🏁 Підсумок

Після виконання всіх кроків у вас є повноцінний AI агент на відкритій моделі, який живе на вашому сервері, інтегрований із бізнес-системами через n8n і не залежить від жодної зовнішньої лабораторії. Ви контролюєте модель, дані, вартість і можете масштабувати або змінювати систему в будь-який момент.

Починайте прямо зараз з найпростішого: зареєструйтеся на Hetzner, запустіть сервер і встановіть Ollama — весь перший крок займе 20 хвилин. Як тільки побачите першу відповідь моделі в терміналі, решта процесу стане значно зрозумілішою і мотивація не згасне.