Systemy AI w procesach rekrutacyjnych
Unia Europejska, dostrzegając te wyzwania, przyjęła Rozporządzenie 2024/1689, zwane AI Act, którego pierwsze przepisy obowiązują od 2.2.2025 r. Celem tego rozporządzenia jest ustanowienie jednolitych ram prawnych dla rozwoju i stosowania AI w państwach członkowskich, z uwzględnieniem ochrony praw podstawowych, w tym przeciwdziałania dyskryminacji w zatrudnieniu. AI Act klasyfikuje systemy AI według poziomu ryzyka i nakłada na dostawców oraz użytkowników określone obowiązki, zwłaszcza w przypadku systemów wysokiego ryzyka, do których zalicza się m.in. te stosowane w procesach rekrutacyjnych. Jest to związane z ich specyfiką i zastosowaniem.
AI w rekrutacji i zarządzaniu pracownikami – wysokie ryzyko zgodnie z AI Act
Zgodnie z Załącznikiem III ust. 4 lit. a) i b) do AI Act systemy AI wykorzystywane w zatrudnieniu są zaliczane do systemów wysokiego ryzyka, jeżeli spełniają poniższe kryteria:
a) systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów;
b) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach.
Pracodawca powinien zapewnić o realizacji elementów takich jak:
- Przejrzystość: Pracodawcy są zobowiązani informować kandydatów o stosowaniu AI w procesie rekrutacji oraz o głównych parametrach działania takich systemów.
- Nadzór ludzki: Decyzje podejmowane przez AI powinny być monitorowane przez odpowiednio przeszkolonych pracowników, którzy mają możliwość interwencji w przypadku wykrycia nieprawidłowości.
- Ocena ryzyka: Przed wdrożeniem systemu AI pracodawcy muszą przeprowadzić analizę ryzyka pod kątem potencjalnej dyskryminacji i wdrożyć środki zapobiegawcze.
Zakaz wszelkiej dyskryminacji w stosowaniu AI
Ponadto, Karta Praw Podstawowych Unii Europejskiej zakazuje wszelkiej dyskryminacji, w tym ze względu na rasę, pochodzenie etniczne, religię, przekonania, niepełnosprawność, wiek czy orientację seksualną. Wykorzystanie AI w sposób naruszający te prawa może prowadzić do odpowiedzialności pracodawcy. Warto mieć na względzie, że proces rekrutacyjny jest obarczony ryzykiem podejmowania zautomatyzowanych decyzji faworyzujących określone grupy społeczne. Rekrutacja pracowników powinna być oparta jedynie o obiektywne przesłanki umożliwiające selekcję, takie jak wykształcenie, kwalifikacje czy doświadczenie zawodowe.
W Polsce trwają prace nad dostosowaniem krajowego prawa do wymogów AI Act. Proponowane zmiany w ustawie o związkach zawodowych przewidują obowiązek informowania przedstawicieli pracowników o funkcjonowaniu algorytmów i systemów AI wpływających na warunki zatrudnienia. Takie działania mają na celu zwiększenie transparentności i umożliwienie skutecznego monitorowania potencjalnych naruszeń praw pracowniczych.
Podsumowanie
Aby zapobiegać dyskryminacji w zatrudnieniu związanej z wykorzystaniem AI, niezbędne jest:
- Wprowadzenie i egzekwowanie stosowania odpowiednich regulacji prawnych, takich jak AI Act, które określają obowiązki pracodawców i dostawców systemów AI.
- Zapewnienie przejrzystości w stosowaniu AI poprzez informowanie kandydatów i pracowników o wykorzystaniu takich technologii oraz zasadach ich działania.
- Monitorowanie i audytowanie systemów AI w celu wykrywania i eliminowania potencjalnych uprzedzeń i dyskryminujących praktyk.
- Szkolenie personelu odpowiedzialnego za rekrutację i zarządzanie zasobami ludzkimi w zakresie etycznego i zgodnego z prawem wykorzystania AI.
Tylko poprzez skoordynowane działania legislacyjne, organizacyjne i edukacyjne możliwe jest skuteczne przeciwdziałanie dyskryminacji w obszarze zatrudnienia w erze rosnącego wpływu sztucznej inteligencji.
