Deepfake, sztuczna inteligencja i nowe prawa konsumenta

Sztuczna inteligencja nie będzie decydować o przyjęciu na studia, przyznaniu kredytu i zatrudnieniu pracownika. Przyjęty przez UE dokument AI Act ma istotne znaczenie dla obywateli i wzmocni ich ochronę. I to jest bardzo dobra część tej regulacji.

Unia Europejska wprowadziła prawo dotyczące wykorzystywania sztucznej inteligencji, to pierwsza na świecie tak kompleksowa i rozbudowana regulacja kwestii sztucznej inteligencji, a pod nazwą AI Act (czyli Akt w sprawie sztucznej inteligencji) kryje się „Rozporządzenie w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji”.

Przede wszystkim nowe przepisy wprowadzą ograniczenia lub wręcz zakaz wykorzystywania najbardziej niebezpiecznych czy inwazyjnych zastosowań AI.

- Zakazane będzie wykorzystanie sztucznej inteligencji do podprogowego, behawioralnego wpływania na decyzje osób fizycznych czy zakaz prognozowania ryzyka popełnienia przestępstwa – mówi w rozmowie z MarketNews24 Marcin Ręgorowicz, Managing Associate, Kancelaria Traple Konarski Podrecki i Wspólnicy.

Takie wykorzystywanie sztucznej inteligencji trafnie kojarzyć może się nam ze słynnym filmem „Raport mniejszości”.

Jednocześnie wprowadzane są ograniczenia w bardziej powszechnych zastosowaniach sztucznej inteligencji, a jako systemy wysokiego ryzyka będą traktowane systemy, które stosowane są do podejmowania decyzji w edukacji, zatrudnieniu czy dostępie do istotnych usług (takich jak finansowe).

Podmioty wykorzystujące takie systemy będą nie tylko miały szereg obowiązków np. w zakresie zapewnienia prawidłowości działania, dokumentacji czy „wyjaśnialności” decyzji podjętych przez te systemy. Przykładem regulacji jest obowiązek nadzoru człowieka nad działaniem systemu czy prawo żądania weryfikacji i wydania decyzji przez człowieka.

Dodatkowo AI Act wprowadza szereg obowiązków informacyjnych wobec wszystkich systemów AI. Zasadą będzie, że osoba co do której jest stosowany dany system będzie musiała być poinformowana zaraz na wstępnie, że wchodzi w interakcję z systemem AI, a nie z człowiekiem.

Jeżeli będziemy dzwonili na infolinię i będziemy rozmawiali z botem AI, to taką informację w sposób jasny musimy dostać na wstępie rozmowy.

Będą też obowiązki informacyjne w zakresie deepfake, co jest istotne ze względu na coraz bardziej rozpowszechnione  techniki obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji.

- Kolejne wzmocnienie pozycji konsumenta i obywatela to na przykład prawo wniesienia skargi do organu nadzorczego czy prawo do uzyskania informacji o zasadach podejmowania decyzji z udziałem AI w indywidualnej sprawie – wyjaśnia Marcin Ręgorowicz, Kancelaria Traple Konarski Podrecki i Wspólnicy. - Na podstawie AI Act będą powołane też urzędy (unijne i krajowe), które będą nadzorowały wykorzystanie narzędzi AI. I będą one mogły nakładać kary, nawet bardzo wysokie (do 35 mln euro lub 7% rocznego światowego obrotu) za naruszanie przepisów, a najwyższe kary związane są z naruszeniem przepisów dot. praktyk zakazanych).

Należy jednak pamiętać, że przepisy AI Act mają szereg wyłączeń, np. ograniczenia i zakazy nie mają zastosowania do systemów wykorzystywanych w celach wojskowych czy na potrzeby bezpieczeństwa narodowego.