Prípadová štúdia
Podniková znalostná platforma s RAG a AI agentmi
Návrh znalostnej platformy, ktorá z interných dokumentov, kódu a prevádzkových znalostí robí kontrolované AI procesy. Stojí na RAG, MCP nástrojoch, orchestrácii v LangGraph a monitoringu v LangSmith.
- RAG
- MCP
- LangGraph
- LangSmith
Kontext
Veľká firma potrebovala AI asistenta nad internými znalosťami – no tak, aby sa prototyp chatbota nezamenil za hotovú architektúru.
Výzva
Užitočné informácie boli roztrúsené naprieč internými portálmi, dokumentmi a repozitármi kódu. Samotné vyhľadávanie nestačilo a všeobecnému asistentovi sa nedalo veriť, kým jeho odpovede neboli podložené zdrojmi, nemal jasne ohraničené nástroje, priebežné vyhodnocovanie a kým nebolo vidieť, čo v prevádzke robí.
Obmedzenia
- viaceré interné zdroje znalostí s odlišnou štruktúrou a aktuálnosťou
- podniková autentifikácia a hranice prístupov
- odpovede, ktoré potrebovali dohľadateľné zdroje, nie vierohodne znejúce zhrnutia
- procesy riadené agentmi, ktoré sa museli dať sledovať, testovať a po chybe obnoviť
Prístup
- Načítavanie a vyhľadávanie znalostí som navrhol ako riadený proces, nie ako jednorazový import do vektorovej databázy.
- Prístup k znalostiam som rozdelil do úzko zameraných MCP nástrojov, aby agenti vyhľadávali, načítavali a skúmali kontext len cez jasne definované rozhrania.
- Viackrokové uvažovanie a prácu s nástrojmi riadi LangGraph, pričom jednotlivé kroky procesu zostali viditeľné.
- Doplnil som sledovanie behov (tracing) a vyhodnocovanie v štýle LangSmith, aby sa prompty, vyhľadávanie aj správanie agentov dali zlepšovať na základe dát, nie odhadu.
Architektúra
Riadené načítavanie znalostí zásobuje vyhľadávacie služby a MCP nástroje. Tie používajú agenti v LangGraph, dostupní cez API, a celý chod sleduje LangSmith: priebeh jednotlivých behov, vyhodnocovanie kvality aj monitoring prevádzky.
V skratke: Odpovedá len z vašich dokumentov, ukáže, odkiaľ každá odpoveď pochádza, a pred dôležitým krokom sa opýta.
- Vaše dokumentyManuály, zmluvy a súbory, ktoré už máte.
- UsporiadanéVšetko sa rozdelí na malé časti, v ktorých sa dá ľahko hľadať.
- Nájdu sa správne častiKu každej otázke sa vyberú najrelevantnejšie pasáže.
- Odpoveď sa napíšeAI napíše odpoveď len z týchto pasáží.
- Dvakrát skontrolovanéPravidlá odpoveď overia; čokoľvek riskantné počká na človeka.
- Odpoveď so zdrojomDostanete odpoveď aj s odkazom, odkiaľ pochádza.
Kľúčové rozhodnutia
- RAG chápaný ako produkčný znalostný systém, nie ako funkcia chatbota
- MCP nástroje ako hranica medzi agentmi a podnikovými dátami
- orchestrácia v LangGraph a monitoring v LangSmith, aby sa správanie agentov dalo skúmať a zlepšovať
Detaily sú anonymizované. Ďalší kontext je dostupný pod NDA.
Súvisiaca expertíza
Zaujíma vás, čo by AI dokázala vo vašej firme?
Prineste otázky – aj tie, ktoré vám pripadajú príliš základné. Za 30 minút si prejdeme, ako dnes pracujete, vyberieme úlohu s najväčším prínosom a načrtneme, čo by jej otestovanie obnášalo. Žiadne presviedčanie, žiadny záväzok.
Radšej email? hello@nxtinno.com