Sztuczna inteligenta dynamicznie wkracza w najróżniejsze aspekty życia i działalności człowieka, niosąc z jednej strony wiele technologicznych udogodnień, z drugiej – niekontrolowane działania mogą stwarzać wiele zagrożeń. W związku z potencjalnymi niebezpieczeństwami UE postanowiła wziąć pod kontrolę ten aspekt, koncentrując się na przejrzystości i bezpieczeństwie systemów AI, a także ich identyfikowalności i przyjazności dla środowiska
Zgodnie z założeniami nowego unijnego aktu poszczególne systemy AI zostały podzielone grupy, w zależności od poziomu ryzyka, jakie niosą ze sobą: oprogramowanie wysokiego ryzyka, technologie ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą w UE zakazane (z pewnymi wyjątkami, służącymi do egzekwowania prawa).
Zakazane systemy AI niedopuszczalnego ryzyka (niosące zagrożenie dla ludzi) to np. manipulacja poznawczo-behawioralna ludźmi (np. zabawki aktywowane głosem zachęcające do niebezpiecznych zachowań), klasyfikacja obywateli na podstawie ich cech osobistych, statusu społeczno-ekonomicznego, zachować (tzw. scoring), identyfikacja biometryczna i kategoryzacja osób fizycznych.
Systemy AI wysokiego ryzyka to z kolei systemy, które negatywnie wpływają na podstawowe prawa i bezpieczeństwo, podzielono na dwie kategorie:
1) stosowane w produktach objętych unijnymi przepisami dotyczącymi bezpieczeństwa produktów (np. zabawki, samochody, lotnictwo);
2) dotyczące 8 obszarów, które będą musiały zostać zarejestrowane w unijnej bazie danych (np. zatrudnianie, zarządzanie pracownikami i dostęp do samozatrudnienia, edukacja i szkolenia zawodowe, pomoc w interpretacji prawnej i stosowaniu prawa, ściganie przestępstw).
Systemy, które nie niosą ze sobą wysokiego poziomu ryzyka to tzw. generatywna sztuczna inteligencja, czyli systemy tworzące nowe treści (np. ChatGPT). Będą one podlegały przede wszystkim wymogom przejrzystości oraz praw autorskich (tj. ujawnienie, że wyprodukowane zostały przez AI, niegenerowanie nielegalnych treści, respektowanie praw autorskich).
Przepisy rozporządzenia wejdą w życie 20 dni po publikacji w Dzienniku Urzędowym UE. W pełni będą obowiązywać za dwa lata. Jednakże przedsiębiorstwa stosujące rozwiązania AI powinny już rozpocząć przygotowania do nowego otoczenia prawnego związanego z AI w zakresie wdrażania nowych procedur związanych z oceną ryzyka i przygotowywania potrzebnej dokumentacji.
Źródło: https://www.europarl.europa.eu/portal/pl
