Błąd popełniony przez pojedynczego rekrutera co do zasady oddziałuje na konkretną decyzję i konkretną osobę. W przypadku systemu sztucznej inteligencji sytuacja może przedstawiać się odmiennie. Jeżeli system został zaprojektowany, wytrenowany lub wdrożony w sposób prowadzący do błędnych albo dyskryminujących rezultatów, mechanizm ten może być stosowany automatycznie wobec wszystkich osób poddawanych jego działaniu. W konsekwencji pojedyncza wada systemowa może prowadzić do wielokrotnego powielania tego samego rodzaju naruszenia.
Czym jest efekt skali?
Żeby zrozumieć efekt skali, trzeba najpierw zrozumieć, czym jest uprzedzenie algorytmu (algorithmic bias) – bo to właśnie ono jest źródłem całego problemu, a efekt skali to jego konsekwencja, nie osobne zjawisko.
Systemy AI mogą być trenowane z wykorzystaniem danych historycznych, obejmujących m.in. informacje zawarte w CV, wyniki wcześniejszych procesów rekrutacyjnych czy dane dotyczące przebiegu karier zawodowych pracowników. Jeżeli dane te odzwierciedlają utrwalone nierówności lub praktyki prowadzące do nierównego traktowania określonych grup, system może odtworzyć takie zależności w swoich wynikach.
System wykorzystywany do wstępnej selekcji CV analizuje dane z przeszłych rekrutacji na dane stanowisko. Jeżeli w tych danych określone stanowiska były istotnie częściej powierzane mężczyznom, model może uznać tę zależność za statystycznie istotną cechę prawidłowego wyniku rekrutacyjnego.
U człowieka takie uprzedzenie objawia się nieregularnie – jeden rekruter może mieć jakieś nieświadome skłonności, ale ocenia każdego kandydata trochę inaczej, bo jest zmęczony, w dobrym albo złym humorze, zna kontekst danej osoby. System AI działa inaczej – raz wyuczone uprzedzenie stosuje identycznie do każdego kolejnego przypadku, bez wyjątku.
To samo uprzedzenie, które u człowieka dotknęłoby tylko jednej osoby w jednej sytuacji, w systemie AI działa masowo – bo system stosuje tę samą (wadliwą) logikę do każdego kolejnego przypadku. Dodatkowo w systemach AI mogą pojawiać się tzw. pętle sprzężenia zwrotnego (feedback loops) – mechanizm, przez który uprzedzenie nie tylko się powtarza, ale z czasem samo siebie wzmacnia.
System odrzuca kandydatów z określonej grupy, więc w kolejnych danych ta grupa jest jeszcze rzadziej reprezentowana wśród zatrudnionych, a system „utwierdza się” w swoim błędnym wzorcu.
To zmienia charakter całego problemu prawnego. Dyskryminacja algorytmiczna przestaje być sprawą jednej osoby przeciwko jednemu pracodawcy – staje się zjawiskiem systemowym. Komisja Europejska w Białej Księdze wskazała właśnie ten powód, dla którego wykorzystanie AI w rekrutacji powinno być traktowane jako wysokie ryzyko.
Ryzyka związane z zastosowaniem systemów AI w zatrudnieniu wykraczają poza zakres tradycyjnych przepisów antydyskryminacyjnych i obejmują również prawa pracownicze o charakterze zbiorowym — prawo do informacji i konsultacji oraz prawo do rokowań i działań zbiorowych (art. 27 i 28 Karty praw podstawowych UE). Naruszenie tych praw może wystąpić w szczególności wtedy, gdy pracownicy nie są informowani o stosowaniu wobec nich systemu AI albo nie otrzymują wyjaśnienia zasad jego działania.
Jak prawo odpowiada na ten problem?
AI Act odpowiada na efekt skali konkretnym przepisem – art. 15 AI Act nakłada na systemy wysokiego ryzyka wymogi dokładności, solidności i cyberbezpieczeństwa przez cały cykl ich życia, a nie tylko w momencie wdrożenia. To ważne, bo ze skalą wiąże się dodatkowe ryzyko: system, który działał poprawnie na starcie, może z czasem tracić trafność, jeśli napływające dane zaczynają się różnić od tych, na których był trenowany. Metodologia HUDERIA, przyjęta przez Radę Europy, wymaga w związku z tym regularnej oceny systemów pod kątem stronniczości oraz mechanizmów monitorowania i korygowania w czasie rzeczywistym – bo raz sprawdzony system nie zostaje bezpieczny na zawsze.
Wniosek
Skutki błędu popełnionego przez człowieka ogranicza się do jednej decyzji. Skutki błędu zaimplementowanego w systemie AI rozciągają się na wszystkie decyzje podjęte przy jego użyciu. Z tego względu rozstrzygnięcie sprawy indywidualnej nie wyczerpuje problemu – konieczny może okazać się przegląd całego zbioru decyzji podjętych przez system od chwili jego wdrożenia.
Artykuł pochodzi z Systemu Legalis Księgowość Kadry Biznes. Zaloguj się po więcej lub kup dostęp →
