AI asistenti pro B2B
Jak stavíme bezpečné, užitečné a architektonicky odlišné AI asistenty pro B2B a fintech
Nasazení generativní AI do mobilních aplikací už dávno není jen marketingová ozdoba. Aby chatbot přinášel skutečnou hodnotu, snižoval náklady na zákaznickou podporu a nikdy neohrozil reputaci značky halucinacemi, musí mít precizně navrženou architekturu.
Tato případová studie ukazuje dva zásadně odlišné technické a architektonické přístupy, které jsme realizovali pro naše klienty: 2N, globálního lídra v oblasti přístupových systémů, a FlexiFin, rychle rostoucí fintech.
AI asistent „Lennie“
Sémantický vyhledávač nad rozsáhlou technickou dokumentací postavený na RAG (Retrieval-Augmented Generation).
Zrychlit práci instalačních techniků v terénu, kteří potřebují okamžitou technickou radu bez zdlouhavého listování stovkami stran PDF, a ulevit přetížené interní technické podpoře 2N.
Tech stack a architektura
Stovky manuálů převedených do vektorových dat. Chatbot porozumí dotazu technika, i když nepoužije přesný technický termín.
U technických zařízení může chybná rada AI (např. špatné zapojení pinů) zničit hardware v hodnotě desítek tisíc korun. Proto model neodpovídá ze svých obecných znalostí. Funguje jako inteligentní vyhledávač – každá odpověď vychází z výsledků v embedding databázi manuálů 2N a je podložená zdrojem.
Chatbot je softwarově uzamčený pouze na technickou podporu produktů 2N. Pokusy stočit konverzaci k jiným tématům se okamžitě odfiltrují.
Chatbot jen neodpovídá – technika navádí rovnou na konkrétní kapitolu manuálu integrovaného v aplikaci (zobrazeného v optimalizovaném offline WebView). Právě tuto funkci uživatelé v praxi oceňují nejvíc. Když řeší problém a potřebují informace rychle, dostanou se přímo k relevantní části zdroje.
Klíčové funkce chatbota Lennie od 2N
Použitý LLM model
Běží na OpenAI gpt-4o, který nabídl ideální poměr ceny, kvality a jednoduchosti použití. Aplikace je ale připravená v budoucnu přejít na jiný model, pokud se změní podmínky služby nebo potřeby klienta.
Vektorová databáze
Databáze Qdrant umožňuje rychlé ukládání a vyhledávání embeddingů.
Orchestrace
Používáme framework LangChain, který oproti vlastnímu řešení ušetřil čas.
Dělení dokumentů na chunky
Manuály dělíme podle kapitol na menší textové bloky (chunky), aby AI neztratila kontext tabulek a schémat zapojení.
Transakční a asistenční AI bot
Orchestrátor standardních API nezávislý na konkrétním modelu, s přísnou ochranou dat v EU pro fintech regulovaný Českou národní bankou.
Snížit zátěž call centra (méně hovorů o stavu účtu, splátkách apod.) a komunikovat nové funkce aplikace přímo přirozeným jazykem, bez neustálého vývoje složitého nového UI.
Tech stack a architektura
Architektura nezávislá na modelu
Bot není svázaný s jedním poskytovatelem. Architektura umožňuje LLM modely na pozadí snadno vyměnit (pilot startuje se standardním OpenAI, produkce má přejít na modely s garantovaným hostingem v EU, např. Claude nebo lokální open-source modely).
Chytrá orchestrace API místo plýtvání tokeny
Bot je orchestrovaný tak, aby s tokeny zacházel úsporně: informace si vyžádá a načte až ve chvíli, kdy je skutečně potřebuje. Místo neustálého posílání celého kontextu klienta do LLM (což by bylo extrémně náročné na tokeny) bot nejdřív zavolá interní standardní API aplikace a získá konkrétní informace (např. o kartách nebo údajích klienta). Když se třeba klient chatbota zeptá na výši splátky, bot si vyžádá jen tuto informaci a nenačítá další data o uživateli, službách, které využívá, a podobně – provoz tak zůstává co nejšetrnější k tokenům.
GDPR a regulatorní soulad (ČNB)
Velký důraz na datovou suverenitu v regulovaném fintech prostředí. Celá historie konverzací se ukládá a loguje na serverech v EU pro případné budoucí audity.
Plynulá integrace do UX
Uživatelé mohou začít konverzaci přímo z interaktivních bannerů v aplikaci, což výrazně snižuje bariéry (počet kliknutí).
Hlasové ovládání
Aplikace je připravená na budoucí hlasové ovládání chatbota (voice-control ready).
Klíčové funkce chatbota FlexiFin
Anonymizace dat
Databáze ukládá veškerá data anonymně a zároveň umožňuje budoucí analýzy pro zlepšování odpovědí a výkonu chatbota.
Jak pracujeme s historií chatů?
Uživatelé mohou mít rozjetých více chatů najednou a všechny se anonymně ukládají do databáze. Kvůli přehlednosti, a aby chatbot vždy ukazoval nejaktuálnější data a nemátl uživatele staršími informacemi z předchozích konverzací (např. výší splátek, která se v čase mění), vidí uživatelé jen své nejnovější chaty z posledních pár hodin.
Hosting a DevOps
Backend bota běží v prostředí klienta kvůli maximální bezpečnosti a spolehlivosti.
5 | RYCHLÉ SROVNÁNÍ
Dva naprosto odlišné světy. U 2N šlo o absolutní přesnost technického vyhledávání, u FlexiFinu o bezpečnou orchestraci dat.
Univerzální AI neexistuje. Stavíme řešení na míru.
Ukázali jsme dva naprosto odlišné světy. U 2N šlo o absolutní přesnost technického vyhledávání, u FlexiFinu o bezpečnou orchestraci dat.
Neklonujeme jedno krabicové řešení pro všechny. Vždy začínáme analýzou vašeho byznysu, dat a uživatelů. Teprve pak stavíme technologii, která dává smysl – bez zbytečného hypu a vyhozeného rozpočtu.