Zakazane praktyki w zakresie sztucznej inteligencji (AI)

Systemy używające sztucznej inteligencji odgrywają coraz większą rolę w naszym codziennym życiu. Wiąże się z nimi jednak również szereg zagrożeń, które wymagają ustanowienia określonych reguł.

Od 2 lutego 2025 r. obowiązują przepisy dotyczące zakazanych praktyk związanych z użyciem technologii sztucznej inteligencji (AI) wprowadzone przez Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji (AI Act).

Celem wprowadzonych zakazów jest ochrona podstawowych praw człowieka oraz zapewnienie bezpiecznego i etycznego stosowania sztucznej inteligencji.

Jakie praktyki są zakazane przy stosowaniu systemów AI?

Przepisy dotyczące zakazanych praktyk obejmują osiem głównych kategorii praktyk uznanych za szczególnie nieetyczne lub niebezpieczne.

1. Stosowanie technik podprogowych, manipulacyjnych i wprowadzających w błąd

Po pierwsze zakazane jest stosowanie systemów AI wykorzystujących techniki podprogowe, celowo manipulacyjne lub wprowadzające w błąd, które mogą spowodować istotną szkodę i zakłócenie świadomych decyzji jednostek. Przykładem mogą być ukryte przekazy w treściach wideo lub dźwiękach wpływające na decyzje zakupowe konsumentów bez ich świadomej zgody.

2. Wykorzystywanie słabości osób fizycznych lub grup osób

Kolejną zakazaną praktyką jest nieetyczne wykorzystywanie ludzkich „słabości”. Systemy AI nie mogą wykorzystywać cech psychologicznych lub fizycznych jednostek (np. wiek, niepełnosprawność, szczególna sytuacja społeczna lub ekonomiczna) w sposób, który prowadzi do ich manipulacji lub wyzysku.

3. Scoring społeczny

Zakazane jest wykorzystywanie systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób na podstawie ich zachowań społecznych lub cech osobistych lub cech osobowości.  Takie traktowanie musi występować poza kontekstem, w którym zebrano użyte dane po raz pierwszy lub być nieuzasadnione czy nieproporcjonalne w stosunku do uwzględnianego zachowania społecznego lub jego wagi.

4. Profilowanie osoby fizycznej

Sztuczna inteligencja nie może być wykorzystywana do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną jedynie na podstawie profilowania takiej osoby czy oceny jej cech. Należy jednak zaznaczyć, że zakaz ten nie obejmuje używania AI przy dokonywaniu przez człowieka oceny udziału określonej osoby w działalności przestępczej na podstawie obiektywnych i weryfikowalnych faktów.

5. Scraping

Kolejną zakazaną praktyką jest tzw. scraping, czyli proces pozyskiwania danych z internetu lub telewizji przemysłowej i ich używanie do rozpoznawania twarzy.

6. Rozpoznawanie emocji

Systemy AI nie mogą być także wykorzystywane do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych. Wyjątkiem są systemy wdrażane ze względów medycznych czy bezpieczeństwa.

7. Kategoryzacja biometryczna

Rozporządzenie unijne zakazuje stosowania systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej. Wyjątkiem od zakazu jest etykietowanie oraz filtrowanie pozyskanych zgodnie z prawem zbiorów danych biometrycznych w oparciu o dane, a także kategoryzacja danych biometrycznych w obszarze ścigania przestępstw.

8. Zdalna identyfikacja biometryczna

Nie jest dopuszczalne również wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Jednakże AI Act przewiduje określone sytuacje dopuszczające tego typu działania. Należy do nich ukierunkowane poszukiwanie ofiar przestępstw lub osób zaginionych, zapobieżenie konkretnemu zagrożeniu czy atakowi terrorystycznemu, jak również lokalizowanie i identyfikowanie osób podejrzanych o popełnienie szczególnie poważnych przestępstw.

Kogo obowiązują ustanowione zakazy?

Zawarte w Rozporządzeniu AI regulacje mają zastosowanie zarówno do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub modele ogólnego przeznaczenia AI (niezależnie czy pochodzą z UE czy spoza UE), podmiotów stosujących systemy AI z siedzibą w UE, importerów i dystrybutorów systemów AI czy dostawców lub producentów, jeśli wyniki wytworzone przez system AI wykorzystywane są w Unii Europejskiej.

Jakie są konsekwencje stosowania zakazanych praktyk dotyczących AI?

Rozporządzenie dot. sztucznej inteligencji przewiduje administracyjne kary pieniężne za nieprzestrzeganie stosowania zakazanych praktyk w zakresie AI. Kara pieniężna wynosić może do 35 mln EUR lub w przypadku przedsiębiorstwa – w wysokości do 7% jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.

Państwa członkowskie mają obowiązek wprowadzenia przepisów dotyczących administracyjnych kar pieniężnych i podejmowania wszelkich działań niezbędnych do zapewnienia ich właściwego i skutecznego wdrożenia.

W Polsce projekt ustawy o systemach sztucznej inteligencji przygotowany przez Ministerstwo Cyfryzacji znajduje się obecnie (marzec 2025 r.) na etapie prac legislacyjnych (opiniowanie).