Shadow AI w obsłudze klienta to sytuacja, w której operator używa narzędzia AI spoza zatwierdzonego zestawu: prywatnego konta w czatbocie, rozszerzenia przeglądarki albo aplikacji na telefonie. Kłopot polega na tym, że razem z poleceniem do narzędzia trafia treść rozmowy: imię klienta, numer zamówienia, opis reklamacji. Firma nie wie wtedy, gdzie te dane są przechowywane, kto ma do nich dostęp i czy dostawca może je wykorzystać do własnych celów.
Ten poradnik dotyczy pracowników zespołu, nie klientów. Jeśli to klient wysyła na czacie dane, których nie powinien, procedurę opisuje artykuł o danych wrażliwych na czacie. Tekst nie jest poradą prawną; szczegóły ustal z osobą odpowiedzialną za ochronę danych w twojej firmie.
Shadow AI w obsłudze: skąd się bierze i co ryzykujesz
Shadow AI rzadko zaczyna się od złej woli. Zwykle poprzedza go presja kolejki, brak zatwierdzonego narzędzia albo niejasna zasada w rodzaju „uważaj z AI”. Zakaz bez alternatywy przesuwa takie użycie w miejsca, których nikt nie widzi, ale go nie usuwa.
Ryzyko ma kilka warstw. Pierwsza to dane: rozmowa z klientem prawie zawsze zawiera informacje o konkretnej osobie, nawet gdy nie ma w niej nazwiska. Druga to warunki usługi: prywatne konto podlega regulaminowi zaakceptowanemu przez pracownika, a nie umowie firmy. Trzecia to jakość: odpowiedź z narzędzia, które nie zna twojej oferty, może brzmieć pewnie i być błędna. Czwarta to brak śladu: gdy klient zakwestionuje odpowiedź, nikt nie wie, skąd wzięło się sporne zdanie.
Hamburski organ ochrony danych w liście kontrolnej dla chatbotów LLM z listopada 2023 r. zaleca konta firmowe zamiast prywatnych, spisane zasady użycia i niewprowadzanie danych osobowych, gdy dostawca może je przetwarzać do własnych celów. To wytyczne niemieckiego organu, nie przepis obowiązujący w każdym kraju, a opisane tam ustawienia narzędzi mogły się od tego czasu zmienić.
Inwentaryzacja: zapytaj zespół, zamiast go śledzić
Zanim napiszesz zasady, dowiedz się, czego ludzie faktycznie używają i do czego. Najprościej zrobić to krótką ankietą lub rozmową na spotkaniu zespołu, z jasną zapowiedzią, że odpowiedzi służą wyborowi narzędzi, a nie ocenie pracowników. Nie instaluj oprogramowania monitorującego na prywatnych telefonach i nie przeglądaj prywatnych kont.
Pytaj o zadania, nie o marki. „Do czego ostatnio użyłeś AI przy odpowiedzi klientowi?” powie więcej niż „Czy korzystasz z ChatGPT?”. Poniższy przykład dotyczy fikcyjnego sklepu z pięcioosobowym zespołem obsługi.
Przesuń tabelę w bok, aby zobaczyć wszystkie kolumny.
| Zadanie | Co trafiało do narzędzia | Decyzja |
|---|---|---|
| Tłumaczenie wiadomości klienta | Pełna treść z danymi kontaktowymi | Tylko w zatwierdzonym narzędziu |
| Łagodzenie tonu odpowiedzi | Szkic operatora z numerem zamówienia | Dozwolone po usunięciu danych sprawy |
| Streszczenie długiego wątku | Cała historia rozmowy | Wstrzymane do czasu wyboru narzędzia |
| Pomysł na nowy szablon | Ogólny opis sytuacji | Dozwolone bez danych klienta |
Każdy wiersz z decyzją „wstrzymane” oznacza, że zespół ma realną potrzebę bez dobrej odpowiedzi. Jeśli streszczenia są potrzebne codziennie, sam zakaz nie wystarczy; trzeba wskazać sposób pracy, który daje podobną korzyść.
Zasady na jedną stronę: co wolno, czego nie, kogo zapytać
Zasady muszą dać się zastosować w trakcie rozmowy, bez przeszukiwania dokumentów. Hamburska lista kontrolna radzi podawać konkretne przykłady dozwolonych i zakazanych zastosowań, bo ogólne „korzystaj rozsądnie” nie pomaga operatorowi pięć minut przed końcem zmiany.
- Lista narzędzi zatwierdzonych do pracy z treścią rozmów, używanych na koncie firmowym, nie prywatnym.
- Zakaz wklejania do innych narzędzi danych klienta, numerów zamówień, załączników i całych wątków.
- Przykład dozwolonego użycia bez danych: „Zaproponuj uprzejme zdanie odmowy zwrotu po terminie”.
- Przykład zakazanego użycia: „Odpisz pani Annie z zamówienia 4821, która pisze tak…”.
- Obowiązek sprawdzenia faktów, cen i terminów przed wysłaniem, niezależnie od narzędzia.
- Kanał zgłoszenia pomyłki i osoba kontaktowa w sprawach ochrony danych.
Ta sama granica dotyczy materiałów, które zespół chce dodać do wiedzy asystenta. Dokumenty z danymi konkretnych klientów nie powinny trafiać ani do prywatnego czatbota, ani do wspólnej bazy; kryteria wyboru źródeł opisuje poradnik jakie dane dodać do wiedzy chatbota.
Bezpieczna procedura szkicu odpowiedzi
Zasady działają lepiej, gdy obok zakazu istnieje prosta ścieżka, z której wolno korzystać. Poniższa procedura zakłada, że firma ma zatwierdzone narzędzie z kontem służbowym i wiedzą opartą na własnych źródłach.
- Nazwij cel odpowiedzi.Jednym zdaniem określ, co wiadomość ma rozstrzygnąć. To ogranicza pokusę wklejania całej rozmowy „dla kontekstu”.
- Użyj zatwierdzonego narzędzia w panelu.Szkic powstaje tam, gdzie toczy się rozmowa i gdzie obowiązują firmowe uprawnienia oraz umowa z dostawcą.
- Sprawdź fakty i obietnice.Ceny, terminy i wykonane czynności porównaj ze źródłem lub systemem, zanim zostawisz je w tekście.
- Popraw i wyślij ręcznie.Operator odpowiada za całą wiadomość, także za zdania dopisane po wstawieniu szkicu.
- Zapisz brak w wiedzy.Gdy narzędzie nie miało informacji, przekaż temat właścicielowi źródła, zamiast szukać odpowiedzi w prywatnej aplikacji.
W Meet AI Copilot przygotowuje prywatną sugestię dla operatora, który prowadzi rozmowę i ma prawo odpowiedzi. Sugestia opiera fakty na aktywnej wiedzy witryny i nigdy nie wysyła się sama: operator wstawia ją do edytora, poprawia i wysyła ręcznie. Przy instalacji administrator akceptuje informację o dostawcy modelu i przekazywaniu treści rozmów, więc decyzja zapada na poziomie firmy, a nie pojedynczego pracownika. Nie zastępuje to własnej oceny zgodności. Codzienną kontrolę szkicu opisuje poradnik o zatwierdzaniu odpowiedzi AI. Co firma powinna sprawdzić przed akceptacją dostawcy modelu, opisuje checklista AI a RODO dla małej firmy.
Gdy rozmowa już trafiła do prywatnego narzędzia
Zgłoszenie musi być proste i nie może automatycznie oznaczać kary. Pracownik powinien wiedzieć, że jego zadaniem jest szybko poinformować wskazaną osobę, a nie samodzielnie oceniać, czy doszło do naruszenia. Ocena skutków i ewentualnych obowiązków wobec organu nadzorczego należy do osoby odpowiedzialnej za ochronę danych.
„Dziś o [godzina] wkleiłem fragment rozmowy [numer sprawy w panelu] do [nazwa narzędzia] na prywatnym koncie. Fragment zawierał [rodzaj danych, bez ich powtarzania]. Historia czatu w narzędziu jest [włączona/wyłączona]. Odpowiedź z tego narzędzia [nie została wysłana / została wysłana o godzinie…].”
Zgłoszenie opisuje rodzaj danych, a nie ich treść. Nie przeklejaj ponownie poufnej wiadomości klienta do e-maila, komunikatora zespołu ani notatki, bo tworzysz w ten sposób kolejną kopię. Jeśli odpowiedź z prywatnego narzędzia zawierała błąd, poprawkę dla klienta przygotuj według poradnika o sprostowaniu błędnej odpowiedzi.
Szkolenie zamiast jednorazowego maila
Zasady przeczytane raz, w dniu podpisania umowy, szybko wylatują z pamięci. Krótka rozmowa o konkretnych przykładach działa lepiej: pokaż dwa szkice, jeden z danymi klienta, drugi bez nich, i zapytaj, który wolno wkleić do jakiego narzędzia.
Według pytań i odpowiedzi Komisji Europejskiej art. 4 AI Act o kompetencjach w zakresie AI obowiązuje od 2 lutego 2025 r., nie wymaga certyfikatu i obejmuje także pracowników korzystających w pracy z narzędzi takich jak ChatGPT. Źródło nie określa, jak długie ma być szkolenie, ani nie rozstrzyga, czy konkretna firma spełnia ten obowiązek.
Temat włącz do pierwszego tygodnia nowej osoby, obok zasad dotyczących danych klientów. Plan takiego startu opisuje poradnik o wdrożeniu nowego operatora. Prowadź prosty zapis, kto i kiedy przeszedł omówienie zasad; Komisja wskazuje, że wewnętrzna ewidencja szkoleń może zastąpić certyfikat.
Pytania o shadow AI w zespole obsługi
Czy wystarczy zakazać prywatnych narzędzi AI? Sam zakaz zwykle przesuwa użycie poza pole widzenia. Hamburska lista kontrolna ostrzega, że bez spisanych zasad trzeba zakładać niekontrolowane korzystanie z takich narzędzi przez pracowników. Skuteczniej działa zakaz połączony z zatwierdzoną alternatywą, przykładami i prostym kanałem zgłoszeń.
Czy usunięcie imienia i nazwiska wystarczy przed wklejeniem rozmowy? Nie zawsze. Ten sam dokument zwraca uwagę, że usunięcie imion i adresów nie wystarcza, bo osobę można rozpoznać z kontekstu. W obsłudze takim kontekstem bywa opis zamówienia, miejsce i czas zdarzenia. Jeśli fragment opisuje konkretną sprawę klienta, traktuj go jak dane osobowe i pracuj na nim wyłącznie w zatwierdzonym narzędziu.
