Prenášajte overenú identitu a tenant kontext do každej dátovej operácie, oprávnenia filtrujte ešte pred retrievalom a znovu overujte pri otvorení citácie či volaní nástroja. Izolujte konverzácie a cache, minimalizujte servisné práva, auditujte citlivé prístupy a pravidelne testujte odobratie aj pokusy o cudzie objekty.
AI asistent môže spájať dokumenty, históriu konverzácie a údaje z viacerých systémov. To zvyšuje užitočnosť, ale aj riziko, že odpoveď prezradí informáciu, ktorú používateľ v pôvodnom zdroji nevidel. Prihlásenie do chatu preto nestačí. Oprávnenie sa musí preniesť do vyhľadávania, cache, nástrojov, citácií aj exportu.
Základom je overená identita používateľa a presný kontext organizácie, role a prípadu. Model nemôže rozhodovať o prístupe podľa textu ani si vyžiadať širšie dáta pre lepšiu odpoveď. Server filtruje pred načítaním, kontroluje každý objekt a vracia minimum. Odobratie práva sa prejaví aj v odvodených indexoch a uložených pracovných stavoch.
Určte identity a hranice dôvery
Rozlíšte koncového používateľa, servisnú identitu AI aplikácie, vlastníka zdroja a administrátora. Používateľ sa autentifikuje cez schválený mechanizmus a server z relácie odvodí organizáciu a roly. Modelový text, parameter nástroja ani hlavička z nedôveryhodného klienta nesmú túto identitu prepísať. Zastupovanie musí byť viditeľné, časovo obmedzené a auditované.
Servisná identita dostane najmenšie práva potrebné na vykonanie dotazu, ideálne v delegovanom kontexte používateľa. Jeden široký účet pre všetky kolekcie a akcie sťažuje izoláciu aj vyšetrovanie. Prostredia oddeľte a produkčné poverenia nevkladajte do vývojového asistenta. Vlastník každého prístupu pozná spôsob rotácie a okamžitého odvolania.
Filtrujte zdroje pred vyhľadaním a generovaním
Oprávnenia zo zdrojového systému preneste do indexu ako bezpečné identifikátory skupín, tenantov alebo objektov. Filter sa aplikuje pred výberom kandidátov, aby zakázaná pasáž nevstúpila do modelového kontextu. Následné odstránenie výsledku je neskoro, pretože model mohol informáciu použiť v súhrne. Predvolený stav pri chybe synchronizácie je odmietnutie.
Práva sa menia, preto index a cache potrebujú spoľahlivú aktualizáciu a meranie oneskorenia. Pri odobratí citlivého prístupu zvážte okamžité zneplatnenie odvodených výsledkov. Verejná a interná verzia dokumentu majú samostatnú identitu. Citácia pri otvorení znovu overí aktuálne oprávnenie, aj keď odpoveď vznikla skôr.
- overená identita a tenant z aplikačnej relácie
- filter oprávnení pred získaním kandidátov
- aktuálna kontrola pri otvorení zdroja
- bezpečné zneplatnenie indexu, cache a odvodených výstupov
Izolujte konverzácie, pamäť a exporty
Konverzácia patrí konkrétnemu používateľovi alebo oprávnene zdieľanému pracovnému priestoru. Odkaz s hádateľným identifikátorom nesmie sprístupniť cudziu históriu. Dlhodobá pamäť ukladá iba schválené typy informácií a používateľ vie, čo sa zachová. Súhrn staršej diskusie nie je automaticky autoritatívny zdroj ani trvalé oprávnenie k pôvodným dokumentom.
Cache kľúč zahŕňa identitu, tenant, roly, verziu práv a rozsah zdrojov podľa architektúry. Zdieľaná odpoveď bez týchto hraníc môže preniesť citlivý obsah medzi ľuďmi. Export a kopírovanie odpovede sú samostatné schopnosti s pravidlami, označením zdrojov a auditom. Diagnostické záznamy redigujte a prístup podpory časovo obmedzte.
Autorizujte nástroje a každú cieľovú akciu
Pri tool callingu server overí, či používateľ smie použiť schopnosť a či smie čítať alebo meniť konkrétny objekt. Model nemôže rozšíriť rozsah argumentom admin true ani výberom iného nástroja. Hromadný dotaz má limit a filter na dátovej vrstve. Výsledok obsahuje iba polia potrebné pre aktuálny krok.
Zápisné a citlivé akcie môžu vyžadovať dodatočné potvrdenie alebo oddelenú rolu. Potvrdenie sa viaže na konkrétny cieľ a hodnoty. Ak sa právo medzi návrhom a vykonaním zmení, operácia sa znovu autorizuje a môže byť odmietnutá. Chyba neprezrádza, či cudzí objekt existuje, ale oprávnenému človeku dá bezpečný identifikátor na podporu.
Testujte izoláciu a auditujte citlivý prístup
Testy používajú viac organizácií, rolí, zdieľaných aj súkromných dokumentov a zmeny oprávnenia počas relácie. Skúste vyhľadať cudzí názov, uhádnuť identifikátor, otvoriť starú citáciu, použiť cache a zavolať nástroj s cudzím objektom. Overte aj administráciu, export a chybové hlásenia. Úspech znamená, že zakázané dáta neboli načítané.
Audit zaznamená citlivé vyhľadanie, otvorenie zdroja, export, zmenu práv a vykonanú akciu s identitou a výsledkom. Nemá kopírovať celý obsah otázky bez potreby. Monitoring upozorní na opakované zamietnutia, neobvyklý objem a oneskorenú synchronizáciu skupín. Pravidelná recertifikácia odoberie staré účty a práva, ktoré už nemajú pracovný dôvod.
Časté otázky
Stačí skontrolovať oprávnenie až po vygenerovaní odpovede?
Nie. Zakázaný obsah už mohol ovplyvniť text. Filter sa musí uplatniť pred retrievalom a prístup sa znovu overí pri citácii, exporte alebo akcii.
Môže AI používať jeden servisný účet pre všetkých?
Technicky môže, ale široké práva zvyšujú dopad chyby. Preferujte delegovaný kontext alebo úzke servisné identity a vždy vynucujte používateľské aj objektové oprávnenie na serveri.
Čo s odpoveďou po odobratí prístupu k zdroju?
Zneplatnite príslušnú cache a obmedzte ďalšie otvorenie zdroja či histórie podľa pravidiel. Citlivé prípady môžu vyžadovať odstránenie odvodeného uloženého výstupu.
Zdroje a ďalšie čítanie
Web developer zo Spišskej Novej Vsi. Venuje sa WordPressu, WooCommerce, vlastným pluginom, API integráciám, webovým aplikáciám a praktickým AI automatizáciám.
