AI bot napojený na firemní znalostní bázi pomáhá vyhledávat a vysvětlovat informace z dokumentů společnosti. Může odpovídat na opakující se otázky, navrhovat postup a předávat složité dotazy pracovníkovi.
Jeho možnosti závisí na kvalitě zdrojů, pravidlech přístupu a nastaveném procesu. Samotné nahrání dokumentů nezaručuje přesné odpovědi a neopravňuje bota slibovat individuální podmínky.
Určete okruh otázek pro první verzi
Začněte opakujícími se dotazy, na které již existují schválené odpovědi:
- co zahrnuje služba nebo balíček;
- jaké podklady jsou potřeba před zahájením práce;
- jak probíhá schvalování;
- kde najít návod;
- jak kontaktovat podporu;
- jaká obecná omezení platí.
Pro cenu, dostupnost a stav objednávky určete samostatný zdroj aktuálních dat. Statický dokument nesmí nahrazovat kontrolu v systému, pokud se informace mění.
Vyberte způsob interakce: konverzačního bota nebo rozhraní aplikace. Rozdíly vysvětluje článek o Telegram botovi, Mini App a webu.
Připravte bázi, o kterou se lze opřít
U každého materiálu uveďte téma, vlastníka, datum kontroly, jazyk, trh a okruh uživatelů. Odstraňte duplicity a vyřešte rozpory: bot nesmí vybírat mezi starým ceníkem a novou prezentací bez pravidla přednosti.
Ve znalostní bázi je užitečné oddělit:
- schválené veřejné podmínky;
- návody pro zaměstnance;
- údaje konkrétního zákazníka;
- pracovní a archivní verze, které se nesmějí používat v odpovědích.
Při více jazycích ověřte shodu podmínek mezi verzemi. Překlad dokumentu nepotvrzuje, že služba je na všech trzích dostupná za stejných podmínek.
Častým přístupem je vyhledání vhodných částí dokumentů před sestavením odpovědi, označované jako RAG. Bot dostane materiály k otázce a vytvoří vysvětlení. V požadavcích na systém stanovte kontrolu, že nalezené části skutečně souvisejí s otázkou a odpověď nepřidává nedoložené podmínky.
Nastavte pravidla odpovědí a vyhnutí se odhadům
Na začátku dialogu sdělte, že odpovídá AI asistent, a ukažte způsob kontaktování pracovníka. Pro typické otázky stanovte srozumitelný formát: krátká odpověď, důležité omezení a zdroj dostupný uživateli.
Pokud informace chybí, dokumenty si odporují nebo otázka vyžaduje individuální rozhodnutí, má bot upřesnit dotaz nebo nabídnout předání člověku. Pěkně formulovaná odpověď není důkazem správnosti.
NIST řadí sebejistě podané nesprávné informace mezi rizika generativní AI. Proto je nutné ověřovat zdroje a odpovědi před spuštěním i během dalšího provozu. Rizikový profil NIST.
Vlastní hodnocení jistoty modelu nepoužívejte jako jediné oprávnění k odpovědi. Ověřujte existenci vhodného zdroje, jeho aktuálnost a přípustnost obsahu pro uživatele.
Nesvěřujte modelu kontrolu přístupu
Veřejný asistent nesmí dostávat interní dokumenty ani záznamy jiných zákazníků. Ověření uživatele a oprávnění musí proběhnout před předáním materiálů modelu. Tento přístup popisují doporučení OWASP pro RAG.
Nahraný dokument nebo zpráva mohou obsahovat příkazy, které se snaží změnit chování bota. OWASP uvádí, že RAG tyto útoky neodstraňuje, a doporučuje omezit oprávnění systému a samostatně kontrolovat významné operace. Doporučení k prompt injection.
V praxi oddělujte odpověď a akci. Vysvětlení pravidel vrácení peněz nesmí automaticky zahájit refundaci a odpověď o slevách nesmí změnit cenu. Pokud potřebujete operace v CRM, stanovte povolené akce, kontrolu oprávnění, potvrzení a záznam provedení.
Kdy je potřeba pracovník
Předávejte dotaz člověku, pokud:
- zákazník žádá individuální cenu, výjimku nebo příslib termínu;
- otázka se týká sporné platby, reklamace nebo nestandardní situace;
- v bázi není ověřená odpověď;
- dokumenty si odporují nebo mohou být neaktuální;
- je potřeba odborné rozhodnutí nad rámec schválených instrukcí;
- uživatel požádá o pracovníka.
Pracovník má dostat otázku, podstatný kontext, použité zdroje a důvod předání. Nenuťte zákazníka opakovat celý rozhovor. Zobrazujte skutečný stav: žádost je uložená, přidělená nebo čeká na zpracování. Mimo pracovní dobu neslibujte okamžité připojení.
Modelový příklad odpovědi o službě
Zákazník se ptá: „Dokážete projekt spustit do pátku?“ Báze popisuje standardní fáze, ale neobsahuje potvrzenou dostupnost týmu ani rozsah konkrétního projektu.
Bot může vysvětlit, jaké podklady jsou potřeba pro odhad, získat popis úkolu a předat otázku obchodníkovi. Nesmí proměnit obecný orientační údaj z dokumentu v příslib spuštění do pátku.
Pokud samostatná integrace ukazuje volné termíny konzultace, bot může podle dohodnutých pravidel nabídnout dostupné možnosti. Dostupnost konzultace však nepotvrzuje termín dokončení projektu.
Ověřte odpovědi a určete aktualizaci báze
Pro převzetí sestavte sadu otázek s očekávanou odpovědí, povoleným zdrojem a podmínkou předání pracovníkovi. Zařaďte běžné formulace, chyby, různé jazyky, chybějící informace a pokusy získat neveřejná data.
Ověřujte:
- zda odpověď odpovídá zdroji a otázce;
- zda není vymyšlená cena, termín nebo možnost;
- zda se dodržují přístupová oprávnění;
- zda správně probíhá předání pracovníkovi;
- zda se poptávka uloží při chybě integrace;
- zda po aktualizaci báze zmizí zastaralé informace.
Určete vlastníky dokumentů a postup publikace změn. Aktualizace původního souboru se musí promítnout do vyhledávacího indexu a odpovědí. Po změně modelu, vyhledávání nebo pravidel opakujte příslušné kontroly.
Vyhodnocujte ověřenou užitečnost odpovědí, chyby, kvalitu předání a náklady na dialogy. Nízký počet žádostí o pracovníka není úspěch, pokud bot pomoc jednoduše nenabízí.
Při jednání o Telegram botovi s AI funkcemi připravte znalostní bázi, typické otázky a hranice pravomocí. Na základě obchodní nabídky dohodněte vývoj a podporu; model, externí API a aktualizace materiálů zohledněte samostatně. Scénáře a kritéria ověření lze zpracovat podle šablony zadání bota.