Chatbot może odpowiadać na pytania, przyjmować zgłoszenia i samodzielnie załatwiać proste sprawy według ustalonych reguł. Pracownik powinien przejmować przede wszystkim sprawy sporne, nietypowe i wymagające indywidualnej oceny. Granicy automatyzacji nie wyznacza jednak samo podejmowanie decyzji przez AI, lecz charakter czynności, jej skutki dla klienta oraz związane z nią ryzyko.
Kiedy automatyzacja jest bezpieczna?
Bezpieczna automatyzacja wymaga nie tylko zgodności z przepisami, ale również odpowiedniego ograniczenia samodzielności chatbota. Przedsiębiorca powinien powierzać mu przede wszystkim czynności oparte na aktualnych i wiarygodnych danych, wykonywane według jasno określonych zasad.
Istotne jest wyznaczenie granic uprawnień systemu oraz ocena potencjalnych skutków jego błędnego działania. Jeżeli pomyłka może istotnie wpłynąć na sytuację klienta albo sprawa wymaga oceny wykraczającej poza ustalone reguły, warto ograniczyć rolę chatbota do czynności pomocniczych, pozostawiając rozstrzygnięcie pracownikowi.
Co można powierzyć chatbotowi?
Najłatwiej zautomatyzować czynności powtarzalne, w których odpowiedź wynika z aktualnych danych lub jasno opisanej procedury. Chatbot może m.in.:
1) odpowiadać na pytania o ofertę, ceny, regulaminy i godziny pracy;
2) informować o statusie zamówienia, przesyłki lub reklamacji po odpowiedniej weryfikacji klienta;
3) przekazywać komunikaty o awariach i planowanych przerwach w usługach;
4) przypominać o płatnościach i umówionych wizytach;
5) przyjmować reklamacje i wnioski oraz potwierdzać ich otrzymanie;
6) umawiać terminy i wprowadzać proste zmiany danych po uwierzytelnieniu;
7) rozpoznawać temat zgłoszenia i kierować je do właściwego działu.
Chatbot nie musi ograniczać się do informowania. Może także przyznawać rabaty zgodne z promocją, korygować oczywiste błędy w opłatach czy uznawać niesporne reklamacje, jeśli przedsiębiorca ustalił jednoznaczne warunki takich działań i zweryfikował ich zgodność z prawem. System nie powinien przekraczać przyznanych mu uprawnień.
Co powinno pozostać po stronie pracownika?
Pracownik powinien co do zasady rozpatrywać sprawy, których wynik zależy od indywidualnej oceny, interpretacji wyjątków lub rozstrzygnięcia sporu. Dotyczy to zwłaszcza:
1) skomplikowanych reklamacji, gdy strony różnią się w ocenie faktów lub zasadności roszczenia;
2) wniosków o indywidualne ustępstwa, np. umorzenie opłaty lub niestandardowe rozłożenie długu na raty;
3) spraw związanych z odmową dostępu do ważnej usługi, blokadą konta lub rozwiązaniem umowy, jeśli mogą istotnie wpłynąć na sytuację klienta;
4) sytuacji szczególnych, w których standardowa procedura może okazać się niewystarczająca;
5) zgłoszeń niejednoznacznych, których chatbot nie potrafi wiarygodnie rozstrzygnąć.
Nie jest to ustawowa lista czynności zakazanych dla AI, lecz praktyczny sposób ograniczenia ryzyka. Przedsiębiorca może np. upoważnić chatbota do uznawania niespornych reklamacji do określonej kwoty, a sprawy sporne lub przekraczające ten limit pozostawić pracownikowi. Sam próg kwotowy nie przesądza jednak o dopuszczalności automatycznej decyzji.
Jakie ograniczenia prawne trzeba uwzględnić?
Decyzje oparte wyłącznie na zautomatyzowanym przetwarzaniu danych osobowych
Art. 22 ust. 1 RODO dotyczy decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu danych osobowych, które wywołują skutki prawne lub w podobny sposób istotnie wpływają na osobę. Nie każda decyzja chatbota spełnia te przesłanki. Przykładowo standardowy rabat czy uznanie drobnej reklamacji nie muszą mieć takich skutków.
Jeżeli art. 22 RODO ma zastosowanie, automatyczne rozstrzygnięcie wymaga spełnienia warunków przewidzianych w art. 22 ust. 2 RODO oraz odpowiednich zabezpieczeń. W przypadku decyzji niezbędnych do zawarcia lub wykonania umowy albo opartych na wyraźnej zgodzie klient musi mieć m.in. możliwość uzyskania rzeczywistej interwencji człowieka, przedstawienia stanowiska i zakwestionowania decyzji.
Systemy AI wysokiego ryzyka
Trzeba także ocenić przeznaczenie i obszar wykorzystania chatbota w świetle AI Act. Niektóre zastosowania mogą prowadzić do uznania go za system AI wysokiego ryzyka.
Choć szczególne wymogi dotyczące systemów z załącznika III będą zasadniczo stosowane od 2.12.2027 r., już teraz dobrą praktyką jest wdrażanie odpowiednich zabezpieczeń, w szczególności nadzoru człowieka.
Samo rozstrzyganie spraw klientów nie przesądza jednak o kwalifikacji systemu jako AI wysokiego ryzyka. W przypadku zastosowań objętych załącznikiem III do AI ACT należy uwzględnić art. 6 ust. 3 AIAct, który pod określonymi warunkami przewiduje możliwość wyłączenia takiej kwalifikacji, np. gdy system wykonuje wąsko określone zadania proceduralne lub przygotowawcze, nie stwarzając znaczącego ryzyka dla praw podstawowych. Wyłączenie to nie obejmuje systemów z załącznika III dokonujących profilowania osób fizycznych. Nadzór człowieka sam w sobie nie przesądza o możliwości zastosowania wyłączenia, gdyż jedynie środkiem zarzadzania ryzykiem.
Prośba o rozłożenie należności na raty
Klient dostawcy internetu informuje chatbota, że stracił pracę, i prosi o rozłożenie zaległości na raty. System może zweryfikować jego tożsamość, sprawdzić wysokość zadłużenia i przedstawić standardowe warianty spłaty. Jeśli klient spełnia ustalone warunki, a automatyczne rozstrzygnięcie jest prawnie dopuszczalne, chatbot może zaakceptować wniosek. Jeżeli jednak klient prosi o dodatkową ulgę lub indywidualne warunki spłaty, sprawę powinien przejąć pracownik.
Samo przyjęcie wniosku nie oznacza jego rozpatrzenia. Chatbot powinien działać wyłącznie w granicach przyznanych uprawnień, a w przypadku wątpliwości co do możliwości samodzielnego rozstrzygnięcia sprawy przekazać ją pracownikowi.
Jak podzielić zadania przed wdrożeniem?
Przedsiębiorca powinien przygotować katalog uprawnień chatbota, określając:
1) czynności informacyjne wykonywane na podstawie zatwierdzonych źródeł;
2) proste operacje i decyzje dopuszczone do automatycznej realizacji, wraz z warunkami i limitami;
3) sprawy wymagające oceny pracownika, np. sporne, nietypowe lub o istotnych skutkach;
4) sytuacje, w których chatbot powinien zakończyć samodzielną obsługę.
Warto sprawdzić ten podział na przykładach: pytaniu o fakturę, prostej reklamacji i prośbie o indywidualne ustępstwo. Zasadą powinno być powierzanie chatbotowi czynności przewidywalnych, zgodnych z prawem i opartych na sprawdzonych informacjach, a pracownikowi spraw, których nie można bezpiecznie rozstrzygnąć według standardowych reguł.
