W piątek, 8 grudnia 2023 r. Parlament Europejski i Rada osiągnęły porozumienie polityczne w ramach procedury trilogu co do ram przyszłego rozporządzenia unijnego dotyczącego sztucznej inteligencji (AI Act). O tym, co wynika z tego porozumienia oraz jaka jest dalsza ścieżka ustawodawcza, opowiem w tym artykule. 

Przyjęcie porozumienia wstępnego ws. AI Act w dniu 8 grudnia 2023 r. było pewnym zaskoczeniem. Zza kulis rozmów dochodziły bowiem sygnały o znacznych rozbieżnościach stanowisk Parlamentu Europejskiego i przedstawicieli części państw członkowskich, w szczególności jeśli chodzi o regulację tzw. modeli fundamentalnych. Ostatecznie jednak osiągnięto porozumienie w tym i innych punktach spornych, co umożliwiło zamknięcie procesu trilogu. 

Podsumowanie wybranych ustaleń:

  • Przyjęto definicję systemu AI opartą na założeniach OECD. Wskazano przy tym wyraźnie, że wynikiem działania takiego systemu mogą być także treści (content), co rozwiewa wątpliwości odnośnie tego, czy zakresem tej definicji jest objęta generatywna sztuczna inteligencja. 
  • Uzgodniono, jaki będzie zakres zakazu stosowania systemów sztucznej inteligencji. Uzgodnienia są oparte o dotychczasowe propozycje (m.in. zakaz wykorzystywania słabości określonych grup osób, zakaz manipulacji, zakaz scoringu społecznego), przy czym ostatecznie zezwolono na wykorzystywanie systemów identyfikacji biometrycznej w czasie rzeczywistym dla celów policyjnych w ograniczonych przypadkach oraz dopuszczono wykorzystanie systemów rozpoznających emocje zarówno w celach policyjnych jak i ochrony granic. Co istotne, o ile systemów zakazanych przez AI Act nie będzie można stosować w UE, o tyle nie będzie przeszkód, by je w UE tworzyć i eksportować za granicę (dotychczas rozważany był zakaz takiego eksportu). 
  • Nie zmieniono zakresu głównych obowiązków mających zastosowanie do wszystkich systemów AI, których katalog został zaproponowany przez Parlament Europejski. W dużej mierze zachowano również dotychczasowe uregulowania dotyczące systemów AI wysokiego ryzyka. Zachowano także obowiązek przeprowadzania analizy wpływu na prawa podstawowe (fundamental rights’ impact assessment) przez podmioty wdrażające systemy AI w kluczowych obszarach życia społecznego (ochrona zdrowia, edukacja, bankowość, ubezpieczenia). 
  • Przewidziano katalog wyjątków, które będą powodować, że systemy AI w obszarach uznanych typowo za generujące wysokie ryzyko, nie będą uznawane za systemy AI wysokiego ryzyka. Wyjątki dotyczą sytuacji, kiedy (i) system wykonuje jedynie wąsko zakreślone zadanie proceduralne, (ii) celem systemu jest przegląd lub poprawienie rezultatów uprzedniej aktywności ludzkiej, (iii) celem systemu jest wyłącznie wykrywanie pewnych wzorców podejmowania decyzji lub przypadków odejścia od takich wzorców, (iv) system jest wykorzystywany jedynie w ramach czynności przygotowawczych. 
  • Osoby fizyczne będą miały prawo do wniesienia skarg na systemy AI oraz do uzyskiwania wyjaśnień odnośnie decyzji podejmowanych przez systemy AI wysokiego ryzyka, które to decyzje wpływają na ich prawa. 
  • AI Act będzie regulował AI ogólnego zastosowania (general purpose AI – GPAI), a w jej ramach również modele fundamentalne, których regulacji domagał się Parlament Europejski. Będą obowiązywać wymogi minimalne dla wszystkich systemów GPAI, w tym w zakresie dokumentacji technicznej oraz dzielenia się informacjami z podmiotami wykorzystującymi takie systemy jako bazę do tworzenia własnych rozwiązań. Ponadto, wprowadzone zostaną dodatkowe wymogi dla GPAI, która generuje ryzyko systemowe, przy czym wyróżnikiem tego rodzaju systemów będzie moc obliczeniowa wykorzystywana do trenowania modeli. W zasadzie kategoria ta obejmie jedynie największych działających na rynku graczy. 
  • Ustalono zakres, w jakim AI Act będzie stosować się do systemów AI dostępnych w modelu open source. W obecnym stanie rzeczy AI Act ma objąć jedynie GPAI generujące ryzyko systemowe, o którym mowa powyżej. 
  • Kary pieniężne za naruszenia obowiązków wynikających z AI Act utrzymano na zbliżonych poziomach.

Prace nad finalną redakcją a następnie uchwaleniem AI Act będą trwały jeszcze w pierwszych miesiącach 2024 r. Przewidywana data wejścia w życie tej regulacji to okolice czerwca 2024 r.

Informacje zawarte w niniejszym artykule oparte są na doniesieniach medialnych i innych dostępnych publicznie informacjach dotyczących przebiegu trilogu ws. AI Act i dokonanych w jego ramach ustaleń. W chwili pisania tego tekstu nie był dostępny tekst jednolity rozporządzenia ani oficjalny wykaz dokonanych w ramach trilogu uzgodnień.