Řešení založené na RAG

Výzva

Firma již měla rozsáhlé interní znalosti, které však byly rozdělené mezi více systémů a typů dokumentů:

  • interní dokumentace
  • informace o produktech
  • provozní postupy
  • technická dokumentace
  • FAQ
  • školicí materiály
  • firemní aplikace
  • sdílené dokumenty

Problémem nebyl nedostatek informací, ale nalezení správné informace ve chvíli, kdy byla potřeba.

Zaměstnanci často ručně prohledávali dokumenty nebo se ptali kolegů na relativně jednoduché otázky.

Firma potřebovala AI asistenta, který zpřístupní stávající znalosti, aniž by se AI stala nespolehlivým zdrojem smyšlených informací.

Architektura znalostního asistenta

Implementovali jsme AI asistenta využívajícího architekturu Retrieval-Augmented Generation (RAG).

Aplikace se nespoléhá na obecné znalosti jazykového modelu. Nejprve vyhledá autorizované zdroje firmy a relevantní obsah předá modelu jako kontext pro vytvoření odpovědi.

Proces zpracování převádí firemní dokumenty na vyhledatelné části, vytváří embeddingy a ukládá je do vektorového indexu. Při dotazu se otázka zaměstnance převede na vyhledatelnou reprezentaci, relevantní obsah se načte a předá LLM.

Zaměstnanec
   |
   v
AI asistent
   |
   v
Vyhledání znalostí
   |
   v
Relevantní kontext
   |
   v
Odpověď se zdroji

Klíčové funkce

1

Vyhledávání přirozeným jazykem napříč interními znalostmi

2

Odpovědi založené na RAG s oporou v dokumentaci

3

Citace zdrojů pro ověření odpovědí

4

Vyhledávání podle oprávnění uživatele

5

Hranice relevance při nedostatku podkladů

6

Napojení na firemní systémy přes řízená rozhraní

Výsledek

Předtím

Zaměstnanci prohledávali několik systémů a dokumentů nebo se na informace ptali kolegů.

Poté

Zaměstnanci mohou klást otázky přirozeně a získat odpovědi založené na autorizovaných informacích včetně zdrojů.

Hlavní přínosy

  • Méně času stráveného hledáním informací
  • Méně opakovaných dotazů na kolegy
  • Snazší přístup k interní dokumentaci
  • Konzistentnější přístup k firemním znalostem
  • Jednodušší onboarding nových zaměstnanců
  • Základ pro další AI asistované firemní procesy

Zdroj uvádí vhodné metriky dopadu, například čas hledání informací, úspěšnost vyřešení dotazu, míru citací, nezodpovězené dotazy, zpětnou vazbu a předání člověku, ale neposkytuje číselné výsledky těchto metrik.

Hlavní poznatek

Důležitým technickým rozhodnutím bylo vnímat AI jako rozhraní k firemním znalostem, nikoli jako zdroj pravdy. Vyhledávání opřené o zdroje, reference, řízení přístupu a hranice relevance pomáhají poskytovat spolehlivé odpovědi, pokud existují dostatečné podklady.

Domluvte si konzultaci

Často kladené otázky

Může AI asistent používat interní dokumenty?

Ano. RAG vyhledá relevantní části dokumentů a předá je modelu jako kontext.

Musí se model trénovat na firemních dokumentech?

Ne nutně. RAG může firemní informace zpřístupnit v okamžiku dotazu bez dotrénování modelu.

Mohou zaměstnanci vidět zdroj odpovědi?

Ano. Asistent může vrátit odkazy na použité dokumenty nebo záznamy.

Mohou mít zaměstnanci rozdílný přístup?

Ano. Vyhledávání lze filtrovat podle oprávnění jednotlivých uživatelů.

Lze asistenta napojit na firemní systémy?

Ano. Autorizované informace mohou zpřístupnit řízená API a integrační služby.

Technologie

Velké jazykové modely · Retrieval-Augmented Generation · Vektorové vyhledávání · Embeddingy · REST API · Vue · TypeScript · PHP · Integrace ERP / CRM · Zpracování dokumentů

Související služby

AI asistenti · Enterprise AI · Implementace RAG · Informační systémy na míru · Integrace ERP · Integrace CRM · Automatizace firemních procesů