RAG

AI odpowiadająca tylko z dokumentów Waszej firmy

Model pytany wprost zgaduje. Model dostający Wasze dokumenty jako jedyne źródło odpowiada z nich albo przyznaje, że nie wie. Ta różnica decyduje o tym, czy da się tego używać zawodowo.

Technologia
RAG na Waszych dokumentach
Zasada
odpowiedź z podaniem źródła
Gdy brak danych
przyznaje się, nie zgaduje
Start
od audytu dokumentów

Różnica, która decyduje o wszystkim

Model językowy zapytany wprost o warunki Waszej gwarancji odpowie. Odpowie płynnie, pewnie i przekonująco - i całkiem możliwe, że nieprawdziwie, bo Waszej gwarancji nigdy nie widział. W obsłudze klienta, kancelarii czy biurze rachunkowym to nie jest usterka, tylko dyskwalifikacja.

Rozwiązaniem jest odwrócenie układu: model nie odpowiada z pamięci, tylko dostaje Wasze dokumenty jako jedyne dopuszczalne źródło i ma wskazać, z którego z nich pochodzi odpowiedź. Kiedy odpowiedzi tam nie ma, ma to powiedzieć.

Ta technologia nazywa się RAG i opisaliśmy ją od podstaw, bez żargonu.

Czego nie obiecujemy

Nie obiecujemy, że model przestanie się mylić. Ryzyko spada wyraźnie, ale nie znika, i każdy, kto twierdzi inaczej, albo nie robił tego na produkcji, albo sprzedaje. Dlatego zawsze konfigurujemy podawanie źródła - żeby weryfikacja zajmowała dwie sekundy, a nie żeby była niemożliwa.

Zebraliśmy nasze obserwacje w raporcie o RAG na danych firmowych, łącznie z opisem sytuacji, w których to podejście zawodzi.

Problem, o którym mało kto mówi

Dokumenty się zmieniają. Cennik z marca, regulamin po nowelizacji, procedura po audycie. System, który tego nie przewiduje, po pół roku zaczyna pewnie odpowiadać z nieaktualnych treści - i jest to gorsze niż brak systemu, bo nikt nie podejrzewa problemu.

Sposób aktualizacji projektujemy od początku. To jeden z powodów, dla których odradzamy zaczynanie od gotowego pudełka kupionego bez rozmowy o tym, jak wyglądają Wasze dokumenty i jak często się zmieniają.

Gdzie to się sprawdza

Wszędzie tam, gdzie odpowiedź musi być zgodna z konkretnym dokumentem, a nie tylko brzmieć sensownie.

Obsługa klienta

Odpowiedzi zgodne z Waszym regulaminem i cennikiem, a nie z tym, co model uznał za prawdopodobne. Szczególnie istotne przy zwrotach i reklamacjach.

Wewnętrzna baza wiedzy

Procedury, instrukcje i wcześniejsze ustalenia dostępne przez pytanie po polsku, zamiast przez szukanie w folderze albo pytanie najstarszego pracownika.

Dokumentacja techniczna

Pytania o parametry, kompatybilność i warunki gwarancji, z odpowiedzią wskazującą konkretny dokument i miejsce.

Akta i umowy

Wyszukiwanie ustaleń w dużych zbiorach dokumentów, z przypisaniem odpowiedzi do źródła.

Onboarding

Nowa osoba pyta agenta zamiast przerywać pracę trzem innym osobom.

Jak wygląda współpraca

  1. Krok 1

    Rozmowa

    30 minut o tym, gdzie w firmie ucieka czas. Bez prezentacji handlowej.

  2. Krok 2

    Zakres

    Wybieramy 2-3 procesy, od których zaczynamy, i ustalamy formę: online, warsztat u Was albo jedno i drugie.

  3. Krok 3

    Warsztat

    Dzień pracy na Waszych danych. Każdy uczestnik uruchamia narzędzie u siebie.

  4. Krok 4

    Po warsztacie

    Zostają materiały, nagranie i kontakt. Jeśli chcecie iść dalej - przechodzimy do wdrożenia.

Najczęstsze pytania

Czym to się różni od wklejenia dokumentu do czatu?
Skalą i powtarzalnością. Wklejanie działa przy jednym dokumencie i przestaje działać przy dwustu. System wyszukuje właściwy fragment w całym zbiorze, podaje, skąd pochodzi odpowiedź, i robi to tak samo za każdym razem - niezależnie od tego, kto pyta.
Czy model nadal będzie zmyślał?
Ryzyko spada wyraźnie, ale nie do zera i nie twierdzimy inaczej. Dlatego konfigurujemy podawanie źródła przy każdej odpowiedzi - żeby dało się sprawdzić w dwie sekundy. Opisaliśmy to uczciwie w raporcie o RAG na danych firmowych, łącznie z tym, gdzie ta technologia zawodzi.
Ile dokumentów trzeba mieć, żeby to miało sens?
Przy kilkunastu - nie ma sensu, wystarczy dobry folder i wyszukiwarka. Przy kilkuset i więcej, zwłaszcza gdy pytania są powtarzalne, różnica staje się wyraźna.
Czy dokumenty wychodzą na zewnątrz?
Zależy od konfiguracji i to jest jedna z pierwszych rzeczy, które ustalamy. Da się postawić rozwiązanie w całości na Waszej infrastrukturze - kosztuje więcej, ale przy dokumentach objętych tajemnicą bywa jedyną opcją.
Co z dokumentami, które się zmieniają?
To realny problem i warto o nim wiedzieć przed wdrożeniem. System musi mieć zdefiniowany sposób aktualizacji, inaczej po pół roku odpowiada z nieaktualnego cennika. Projektujemy to od razu, bo doklejenie później jest droższe.

Porozmawiajmy o AI w Twojej firmie

30 minut rozmowy o tym, gdzie w Twojej firmie ucieka czas. Bez prezentacji handlowej - jeśli AI nie ma tu sensu, powiemy to wprost.