RAG co to jest w praktyce? Retrieval augmented generation to sposób pracy, w którym chatbot przed odpowiedzią wyszukuje fragmenty twoich dokumentów i przekazuje je modelowi razem z pytaniem. Trenowanie modelu, czyli fine-tuning, działa inaczej: zmienia sam model na podstawie przykładów. Obie metody bywają opisywane jako „nauczenie AI o firmie”, choć rozwiązują różne problemy.
Ten poradnik pomaga wybrać architekturę, zanim zaczniesz rozmawiać z dostawcą lub programistą. Nie opisuje redagowania dokumentów; tym zajmuje się poradnik o tym, jak przygotować bazę wiedzy dla chatbota. Tutaj porównasz, gdzie trafia wiedza, jak się ją zmienia i co da się sprawdzić po odpowiedzi.
RAG co to jest: wyszukanie przed odpowiedzią
Model językowy zna to, co było w danych treningowych. Nie zna twojego cennika, godzin pracy ani nowej procedury zwrotów. RAG nie próbuje wpisać tych informacji do modelu na stałe. Zamiast tego aplikacja przy każdym pytaniu odnajduje pasujące fragmenty w bazie wiedzy i dokleja je do polecenia, a model formułuje odpowiedź na ich podstawie.
- Wyszukanie.Pytanie klienta trafia do indeksu z twoimi treściami. System wybiera fragmenty, które najlepiej pasują do pytania.
- Uzupełnienie polecenia.Wybrane fragmenty są dołączane do pytania jako materiał, na którym model ma się oprzeć.
- Generowanie odpowiedzi.Model pisze odpowiedź z dostarczonego materiału. Aplikacja może dołączyć wskazanie źródeł, z których skorzystała.
Dokumentacja Microsoft opisuje RAG jako trzy kroki: wyszukanie, uzupełnienie polecenia i generowanie odpowiedzi opartej na pobranych treściach, z możliwością cytowania źródeł. Nie dowodzi to jakości konkretnego wdrożenia: Microsoft Learn, RAG w Microsoft Foundry.
Najważniejsza konsekwencja jest prosta: wiedza jest przechowywana poza modelem. Gdy zmieniasz dokument i publikujesz nową wersję bazy, kolejna odpowiedź może już korzystać z nowej treści.
Co naprawdę zmienia trenowanie modelu
Fine-tuning to dodatkowe trenowanie gotowego modelu na zestawie przykładów: wejście i oczekiwane wyjście. Po treningu model częściej odpowiada w pokazanym stylu, formacie lub sposobie rozwiązywania zadania. To narzędzie do zmiany zachowania, a nie do prowadzenia rejestru faktów, który co tydzień się zmienia.
Przewodnik OpenAI zaleca kolejność: najpierw testy oceniające wynik, potem praca nad poleceniem, a fine-tuning dopiero w części przypadków, na przykład gdy odpowiedzi mają mieć spójny format. Źródło nie porównuje fine-tuningu z RAG: OpenAI, model optimization.
Trening wymaga przygotowania zbioru przykładów, oceny wyniku i ponowienia procesu po każdej istotnej zmianie. Jeśli przykłady zawierały stary cennik, model może dalej go powtarzać, dopóki nie przygotujesz nowego zbioru. Nie zobaczysz też w odpowiedzi, z którego przykładu pochodzi dana informacja. Microsoft ujmuje to krótko: RAG wybierasz dla prywatnych i często zmieniających się danych, fine-tuning dla stylu, zachowania i jakości zadania.
RAG i fine-tuning obok siebie
Poniższa tabela porównuje obie metody z perspektywy firmy, która chce, by czat odpowiadał zgodnie z aktualną ofertą.
Przesuń tabelę w bok, aby zobaczyć wszystkie kolumny.
| Kryterium | RAG | Trenowanie modelu |
|---|---|---|
| Co się zmienia | Materiał przekazany modelowi przy pytaniu | Sam model i jego zachowanie |
| Zmiana faktu | Podmiana źródła i publikacja nowej wersji | Nowe przykłady i kolejny trening |
| Wycofanie informacji | Usunięcie źródła z bazy | Brak prostego usunięcia z modelu |
| Sprawdzenie odpowiedzi | Można wskazać użyte fragmenty | Brak wskazania pochodzenia faktu |
| Główny koszt | Porządek w źródłach i jakość wyszukiwania | Zbiór przykładów, trening i ocena |
| Dobre zastosowanie | Ceny, terminy, procedury, oferta | Stały format, ton, typ zadania |
Metody nie wykluczają się. Jeśli zmiana zachowania jest naprawdę potrzebna, możesz je połączyć: model po fine-tuningu nadal może korzystać z wyszukiwania. W małej firmie zwykle jednak problem brzmi „chatbot nie zna naszych zasad”, a na niego odpowiada wyszukiwanie we własnych źródłach.
Dlaczego wiedza o firmie pasuje do wyszukiwania
Przykład: fikcyjna szkoła językowa zmienia cennik kursów dwa razy w roku i co miesiąc dodaje nowe terminy grup. Przy RAG zmiana polega na zastąpieniu jednego dokumentu i opublikowaniu bazy. Przy trenowaniu każdy nowy termin wymagałby nowych przykładów, a stary cennik mógłby zostać w modelu do następnego treningu.
Druga przewaga to możliwość kontroli. Gdy odpowiedź opiera się na fragmencie dokumentu, możesz go otworzyć i porównać z treścią zdania. Jak robić to rzetelnie, zdanie po zdaniu, opisuje poradnik o tym, czy cytaty źródeł w odpowiedzi AI potwierdzają twierdzenie. Przy modelu po treningu takiego punktu odniesienia po prostu nie ma.
Trzecia sprawa to utrzymanie. Wiedza w RAG wymaga właściciela, przeglądu i świadomej publikacji, ale te czynności wykonuje zespół, który zna ofertę. Proces po zmianie oferty, od wycofania starego zdania po sprawdzenie wyniku, opisuje aktualizacja wiedzy chatbota.
Czego RAG nie załatwi sam
RAG nie gwarantuje poprawnej odpowiedzi. Jeżeli wyszukiwanie zwróci nieistotny albo niepełny fragment, model nadal może napisać zdanie, które brzmi pewnie i jest błędne. Microsoft wprost wymienia to ograniczenie i zaleca cytowanie oraz jasne instrukcje, by model trzymał się pobranych treści. Typowe przyczyny takich błędów zebraliśmy w tekście o tym, dlaczego chatbot zmyśla odpowiedzi.
Jakość zależy od źródeł. Dwa dokumenty z różnymi zasadami zwrotu dadzą modelowi sprzeczny materiał, a zdanie wyrwane z kontekstu straci warunek. Pobrane treści traktuj też jak dane z zewnątrz: dokument może zawierać polecenie, którego model nie powinien wykonać. To zagadnienie opisuje poradnik o tym, jak prompt injection może zmienić zasady chatbota.
Wreszcie dostęp. Jeżeli do bazy trafi dokument wewnętrzny, wyszukiwanie może go podać klientowi. Wybór metody nie zwalnia z decyzji, które materiały w ogóle mogą zasilać publiczne odpowiedzi.
Jak podjąć decyzję w swojej firmie
Zbierz kilkanaście prawdziwych pytań klientów i przy każdym zapisz, co poszło nie tak w obecnych odpowiedziach. Jeśli brakuje faktu, problemem jest wiedza. Jeśli fakt jest poprawny, ale forma nie pasuje, problemem jest zachowanie. Odpowiedz na poniższe pytania przed rozmową z dostawcą.
- Czy błędne odpowiedzi wynikają z braku lub nieaktualności informacji o firmie?
- Jak często zmieniają się ceny, terminy i zasady, o które pytają klienci?
- Czy musisz wskazać dokument, na którym oparto odpowiedź?
- Czy masz duży zbiór sprawdzonych przykładów rozmów, które pokazują pożądany styl?
- Kto w zespole będzie właścicielem źródeł i ich publikacji?
Skopiuj przed rozmową: „Skąd chatbot bierze fakty: z wyszukiwania w naszych źródłach czy z wytrenowanego modelu? Ile trwa, zanim zmiana dokumentu trafi do odpowiedzi? Czy widzimy, z którego źródła pochodzi zdanie? Co chatbot robi, gdy w źródłach nie ma odpowiedzi? Jak usuniemy informację, która nie powinna już padać?”
W Meet AI wiedza działa w modelu wyszukiwania: asystent i podpowiedzi Copilota opierają fakty na aktywnej bazie wiedzy witryny, a nie na trenowaniu modelu. Źródłami mogą być ręczne FAQ, pliki, strona WWW lub sitemap. Gdy w bazie brakuje wiarygodnego fragmentu, asystent nie generuje odpowiedzi, tylko informuje, że nie ma tej informacji, i proponuje przekazanie pytania zespołowi. Prywatny test pokazuje cytaty faktycznie użytych źródeł; Meet AI wymaga właściwego planu i aktywnej aplikacji.
Przed uruchomieniem przejdź zestaw pytań kontrolnych z poradnika o testowaniu chatbota przed wdrożeniem. Sprawdź także pytania, na które baza celowo nie ma odpowiedzi.
Pytania o RAG i trenowanie modelu
Czy RAG oznacza, że chatbot uczy się z moich dokumentów? Nie w sensie trenowania. Dokumenty są przeszukiwane przy każdym pytaniu, a model dostaje tylko wybrane fragmenty jako materiał do odpowiedzi. Po usunięciu źródła i publikacji bazy fragment przestaje być dostępny. Model nie zapamiętuje go na stałe.
Kiedy trenowanie modelu ma sens w obsłudze klienta? Gdy odpowiedzi muszą mieć stały, specyficzny format albo model źle radzi sobie z określonym typem zadania mimo dobrego polecenia. Zacznij od testów i pracy nad poleceniem, a trening rozważ dopiero wtedy, gdy masz duży zbiór sprawdzonych przykładów. Aktualne fakty i tak warto trzymać w źródłach poza modelem.
