Vyberte overené zdroje a testovacie otázky, obsah rozdeľte podľa významu s metadátami a vytvorte vyhľadávanie kombinujúce vhodné signály. Kandidátov filtrujte podľa oprávnení, zoraďte podľa relevancie, modelu poskytnite iba potrebný kontext a vyžadujte citácie aj stav, keď odpoveď nemožno podložiť.
Retrieval-Augmented Generation spája jazykový model s vyhľadaním relevantných firemných podkladov v čase otázky. Model tak nemusí niesť všetky znalosti vo svojich parametroch a odpoveď môže ukázať zdroje. RAG však nie je automatickou opravou neaktuálnej dokumentácie ani zárukou pravdy. Zlé vyhľadanie dodá presvedčivému modelu nesprávny kontext.
Kvalitný návrh začína konkrétnymi otázkami, oprávnenými zdrojmi a spôsobom hodnotenia. Potom rieši spracovanie obsahu, delenie na pasáže, index, filtre, výber kandidátov a zostavenie kontextu. Odpoveď má vedieť citovať, priznať chýbajúci podklad a rešpektovať prístupové práva v každom kroku, nie iba v používateľskom rozhraní.
Začnite otázkami a autoritatívnymi zdrojmi
Zozbierajte skutočné otázky od podpory, obchodu alebo interných tímov a priraďte k nim očakávaný typ zdroja. Rozlíšte vyhľadanie faktu, vysvetlenie postupu a porovnanie viacerých dokumentov. Každá úloha potrebuje hranice. Systém pre technickú dokumentáciu nemá bez osobitného návrhu poskytovať právne alebo personálne rozhodnutia.
Pri zdrojoch určte vlastníka, stav schválenia, platnosť, jazyk a cieľové publikum. Duplicitné smernice a staré prílohy môžu obsahovať konflikty, ktoré index iba znásobí. Zaveďte pravidlo priority a zobrazte konflikt namiesto náhodného výberu. Obsah bez vlastníka alebo jasného dátumu nemusí byť vhodný na odpoveď, hoci sa dobre vyhľadáva.
Delte obsah podľa významu a zachovajte metadáta
Pasáž má niesť ucelenú myšlienku a dostatok kontextu na pochopenie. Pevný počet znakov môže rozdeliť tabuľku, krok postupu alebo podmienku od výnimky. Využite nadpisy, odseky, sekcie a štruktúru dokumentu a podľa potreby pridajte krátky nadradený kontext. Prekryv pomáha na hraniciach, ale vytvára podobných kandidátov.
Ku každej pasáži uložte dokument, verziu, nadpisovú cestu, dátum platnosti, jazyk, typ obsahu a prístupové atribúty. Citácia musí smerovať na miesto, ktoré oprávnený človek otvorí. Pri aktualizácii odstráňte alebo označte staré kúsky, aby sa nemiešali s novou verziou. Spracovanie potrebuje stabilný identifikátor a opakovateľný pôvod.
- identifikátor a verzia zdrojového dokumentu
- nadpisová cesta a hranice významovej pasáže
- platnosť, jazyk a stav schválenia
- prístupové atribúty prenesené do indexu
Kombinujte vyhľadávacie signály a filtre
Sémantické vyhľadávanie zachytí podobný význam, kľúčové vyhľadávanie zasa presný kód, názov alebo skratku. Hybridný prístup môže spojiť ich silné stránky. Najprv aplikujte oprávnené filtre a vhodný rozsah kolekcie. Vyhľadávanie v celej firemnej knižnici pri každej otázke znižuje presnosť a zvyšuje riziko úniku kontextu.
Získajte viac kandidátov, než sa zmestí do konečného kontextu, a následne ich preraďte podľa otázky. Odstráňte takmer totožné pasáže a zachovajte rozmanitosť zdrojov, ak úloha potrebuje porovnanie. Prah relevancie overte na otázkach bez odpovede. Nízke skóre nemá viesť k použitiu najbližšieho textu iba preto, že systém vždy niečo našiel.
Zostavte odpoveď s citáciami a priznanou neistotou
Kontext oddeľte od systémových pravidiel a označte ho ako nedôveryhodný obsah. Model dostane úlohu odpovedať len z poskytnutých zdrojov, rozlišovať tvrdenie od odporúčania a citovať konkrétne pasáže. Citáciu technicky overte, aby identifikátor existoval a používateľ mal prístup. Dlhý kontext bez poradia môže dôležitý dôkaz skôr ukryť než pomôcť.
Ak podklady nestačia alebo si odporujú, odpoveď to má povedať a ponúknuť bezpečný ďalší krok. Nevyplňujte medzeru všeobecnou znalosťou modelu, ak používateľ očakáva firemnú politiku. Pri citlivej otázke môže systém vrátiť relevantné zdroje bez generovania záveru. História konverzácie sa nesmie stať neovereným zdrojom faktov.
Vyhodnocujte vyhľadanie oddelene od generovania
Pri testovacej otázke najprv overte, či správna pasáž prišla medzi kandidátmi a na vhodnom mieste. Až potom hodnoťte vernosť odpovede, úplnosť a citácie. Ak chýba zdroj, úprava promptu problém nevyrieši. Sada obsahuje synonymá, presné identifikátory, konfliktné dokumenty, otázky bez odpovede a prípady s rozdielnymi oprávneniami.
V prevádzke sledujte neúspešné hľadania, otvorenie citácií, hlásené nepresnosti, zastarané zdroje, oneskorenie a náklady podľa krokov. Nový embedding, delenie alebo reranker porovnajte na rovnakej sade. Vlastník obsahu rieši kvalitu zdrojov, technický tím index a produktový vlastník hranice použitia; žiadna jedna metrika nenahradí túto koordináciu.
Časté otázky
Zabráni RAG halucináciám AI?
Nie úplne. Zlepší dostupnosť relevantných podkladov, ale vyhľadávanie môže zlyhať a model môže zdroj nesprávne interpretovať. Potrebujete citácie, odmietnutie nepodloženej odpovede a evaluácie.
Musí sa pri každej zmene dokumentu preučiť model?
Zvyčajne nie. Aktualizuje sa spracovaný obsah a index. Treba však odstrániť starú verziu, zachovať metadáta a otestovať, že nové pasáže sa správne vyhľadajú.
Je vektorové vyhľadávanie pre RAG vždy potrebné?
Nie. Pri presných identifikátoroch alebo malej štruktúrovanej kolekcii môže stačiť klasické vyhľadávanie. Výber signálov má vychádzať z otázok a overených výsledkov.
Zdroje a ďalšie čítanie
Web developer zo Spišskej Novej Vsi. Venuje sa WordPressu, WooCommerce, vlastným pluginom, API integráciám, webovým aplikáciám a praktickým AI automatizáciám.
