AI Act w branży finansowej: regulacje dotyczące sztucznej inteligencji

AI Act to jedno z najnowszych rozporządzeń Unii Europejskiej mające na celu regulację technologii sztucznej inteligencji (AI). Jego głównym celem jest zapewnienie, że systemy AI są wprowadzane i stosowane w sposób odpowiedzialny, przejrzysty oraz zgodny z wartościami europejskimi, ustanawiając ramy prawne i regulacyjne dla technologii AI, co ma zapewnić ochronę konsumentów oraz usprawnić funkcjonowanie rynków finansowych.

Najważniejszą zmianą jest uznanie systemów AI oceniających zdolność kredytową za systemy wysokiego ryzyka. To oznacza, że te technologie będą poddawane surowym testom zgodności i muszą spełniać rygorystyczne wymagania, aby mogły być używane w UE. Rada Unii Europejskiej przyjęła te przepisy, aby zapewnić klarowność i spójność regulacji sztucznej inteligencji.

Nowe prawo dzieli różne rodzaje AI na cztery grupy, w tym także systemy, które są zakazane w UE. Regulacje te w pełni wejdą w życie za trzy lata, jednak już teraz dostawcy AI muszą przygotować się na spełnienie nowych wymogów. Celem tych regulacji jest nie tylko zapewnienie bezpieczeństwa, ale także promowanie innowacyjności w sektorze finansowym.

Regulacje w kontekście branży finansowej mają ogromne znaczenie. Instytucje finansowe intensywnie korzystają ze sztucznej inteligencji do ulepszania swoich usług, optymalizacji procesów operacyjnych oraz zarządzania ryzykiem. Wprowadzenie AI Act ma na celu nie tylko ochronę konsumentów, ale również zapewnienie, że technologie AI będą wykorzystywane zgodnie z określonymi standardami etycznymi i prawnymi.

Celem tego artykułu jest omówienie kluczowych aspektów AI Act oraz ich wpływu na branżę finansową. Przedstawię historię powstania tego rozporządzenia, jego główne cele, a także wyzwania związane z jego implementacją w sektorze finansowym.

AI Act – ogólny zarys

Rozporządzenie o Sztucznej Inteligencji (AI Act), ustanowione przez Unię Europejską (UE), jest jednym z najbardziej ambitnych i kompleksowych zestawów regulacji dotyczących sztucznej inteligencji (AI). Jego celem jest stworzenie jednolitych ram prawnych, które będą zarządzać rozwojem i wdrażaniem technologii AI w różnych sektorach gospodarki.

Znaczenie i cel AI Act

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, znane również jako “Akt w sprawie sztucznej inteligencji“, ma na celu ustanowienie zharmonizowanych przepisów dotyczących rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (AI) w Unii Europejskiej.  Dokument ten ma kluczowe znaczenie dla branży bankowej i finansowej, ponieważ wprowadza nowe obowiązki i regulacje, które mają na celu zapewnienie bezpieczeństwa, przejrzystości i zgodności z prawem w kontekście wykorzystania AI.

Głównym celem rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego poprzez ustanowienie jednolitych ram prawnych dla systemów AI. Dokument ten ma za zadanie promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji, jednocześnie zapewniając wysoki poziom ochrony zdrowia, bezpieczeństwa, praw podstawowych, demokracji, praworządności i ochrony środowiska. 

Główne założenia AI Act obejmują:

• Ochrona praw osób fizycznych: Zapewnienie, że technologie AI są rozwijane i stosowane w sposób respektujący prawa człowieka.
• Przejrzystość i odpowiedzialność: Wprowadzenie wymogów przejrzystości dla systemów AI oraz ustanowienie mechanizmów odpowiedzialności.
• Zarządzanie ryzykiem: Kategoryzacja aplikacji AI według poziomu ryzyka (np. niskie, średnie, wysokie), z odpowiednimi regulacjami dla każdej kategorii.
• Promowanie innowacji: Stworzenie warunków sprzyjających innowacjom w zakresie AI przy jednoczesnym zachowaniu bezpieczeństwa użytkowników.

Akt ma także za zadanie wzmocnienie pozycji Unii Europejskiej jako lidera w dziedzinie zaawansowanych technologii. Przełomowe przepisy zawarte w dokumencie odnoszą się do ryzyk związanych z AI, co ma na celu zwiększenie zaufania społecznego do tych technologii.

Kluczowe aspekty Rozporządzenia w sprawie sztucznej inteligencji

Zharmonizowane przepisy

Rozporządzenie wprowadza zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej. Przepisy te mają na celu zapewnienie spójności i jednolitości w całej Unii, co jest szczególnie istotne dla branży bankowej i finansowej, która działa na rynku transgranicznym.

Systemy AI wysokiego ryzyka

Rozporządzenie definiuje systemy AI wysokiego ryzyka i wprowadza specjalne przepisy dotyczące ich stosowania. Systemy te muszą spełniać określone wymogi dotyczące bezpieczeństwa, przejrzystości i zgodności z prawem. W kontekście branży bankowej i finansowej, systemy AI wysokiego ryzyka mogą obejmować narzędzia do oceny ryzyka kredytowego, systemy wykrywania oszustw oraz algorytmy do zarządzania portfelami inwestycyjnymi.

Dokumentacja techniczna

Dostawcy systemów AI wysokiego ryzyka są zobowiązani do sporządzania i aktualizowania dokumentacji technicznej, która musi zawierać szczegółowe informacje na temat rozwoju, testowania i walidacji systemu AI. Dokumentacja ta jest niezbędna do oceny zgodności systemu z wymogami rozporządzenia i musi być przechowywana przez okres co najmniej 10 lat od dnia wprowadzenia systemu do obrotu.

Rejestry zdarzeń

Systemy AI wysokiego ryzyka muszą automatycznie generować i przechowywać rejestry zdarzeń, które są niezbędne do monitorowania ich działania i zgodności z przepisami. Rejestry te muszą być przechowywane przez okres co najmniej 6 miesięcy, chyba że prawo Unii lub prawo krajowe stanowi inaczej.

Ocena skutków dla praw podstawowych

Podmioty stosujące systemy AI wysokiego ryzyka, w tym instytucje finansowe, są zobowiązane do przeprowadzania oceny skutków dla praw podstawowych przed wprowadzeniem tych systemów do użytku. Ocena ta ma na celu zidentyfikowanie ryzyka dla praw osób fizycznych lub grup osób fizycznych oraz określenie środków, które należy podjąć w celu minimalizacji tego ryzyka.

Wpływ na różne sektory gospodarki

Rozporządzenie będzie miało szeroki wpływ na różne sektory gospodarki:

• Sektor finansowy: Instytucje finansowe będą musiały dostosować swoje systemy do nowych wymogów przejrzystości i zarządzania ryzykiem.
• Opieka zdrowotna: Technologie AI używane w diagnostyce medycznej będą podlegać rygorystycznym testom i certyfikacji.
• Transport: Systemy autonomicznych pojazdów będą musiały spełniać określone standardy bezpieczeństwa.

AI Act stanowi istotny krok w kierunku uregulowania technologii sztucznej inteligencji, mając na celu minimalizację ryzyka oraz maksymalizację korzyści płynących z jej zastosowania.

Harmonogram wdrożenia AI Act

Inicjatywa stworzenia AI Act wynikała z rosnącej potrzeby uregulowania dynamicznego rozwoju technologii sztucznej inteligencji. Prace nad rozporządzeniem rozpoczęły się w 2018 roku, kiedy to Komisja Europejska zaproponowała założenie grupy roboczej do opracowania zasad etycznych i prawnych dla AI. Po serii konsultacji publicznych i eksperckich, oficjalny projekt AI Act został przedstawiony w kwietniu 2021 roku.

Harmonogram wprowadzania AI Act jest szczegółowo rozpisany, co umożliwia firmom i instytucjom publicznym dostosowanie się do nowych wymogów prawnych w odpowiednim czasie. Pozwala to na stopniowe wprowadzanie koniecznych zmian oraz zapewnia, że wszystkie podmioty działające na jednolitym rynku UE będą miały wystarczająco dużo czasu na adaptację do nowych przepisów.

AI Act został przyjęty w grudniu 2023 r. przez Parlament Europejski i Radę. Wszedł w życie 1 sierpnia 2024 r., ale będzie w pełni obowiązywać dopiero 36 miesięcy później.

Poniżej tabela przedstawiająca szczegółowe etapy wprowadzania AI Act:

Przykłady zastosowania AI w branży bankowej i finansowej

AI jest kluczowa w zarządzaniu ryzykiem finansowym, umożliwiając błyskawiczną analizę dużych zbiorów danych oraz identyfikację anomalii i zagrożeń.

• Wykrywanie oszustw: AI może wykrywać nieprawidłowości i oszustwa finansowe szybciej i dokładniej niż tradycyjne metody, chroniąc instytucje przed stratami.
• Ocena ryzyka: Algorytmy AI pomagają w ocenie ryzyka kredytowego oraz inwestycyjnego, co jest nieocenione w procesie podejmowania decyzji finansowych.
• Regulacje i zgodność: Instytucje muszą dostosować się do przepisów takich jak DORA (Digital Operational Resilience Act) oraz rekomendacji KNF, aby zapewnić bezpieczeństwo systemów AI.

Przepisy te mają na celu minimalizowanie ryzyka systemowego i zapewnienie, że mechanizmy AI działają zgodnie z wymaganiami regulacyjnymi, co jest kluczowe dla stabilności sektora finansowego.

Ocena ryzyka kredytowego

Sztuczna inteligencja może być zastosowana do oceny ryzyka kredytowego klientów poprzez analizę danych finansowych, historii kredytowej oraz innych elementów. Algorytmy AI umożliwiają szybką i precyzyjną ocenę zdolności kredytowej klienta, co w efekcie pozwala na podejmowanie bardziej trafnych decyzji kredytowych.

Systemy AI mogą analizować ogromne ilości danych w krótkim czasie, co pozwala na bardziej kompleksową ocenę ryzyka kredytowego. Algorytmy uczenia maszynowego mogą identyfikować wzorce i zależności, które mogą być niewidoczne dla ludzkiego analityka. AI może analizować dane z mediów społecznościowych, transakcji bankowych, a nawet zachowań online, aby lepiej zrozumieć profil kredytowy klienta.

Wykrywanie oszustw

Oszustwa finansowe są poważnym problemem dla banków i instytucji finansowych. Tradycyjne metody wykrywania często są niewystarczające, aby skutecznie identyfikować i zapobiegać oszustwom. AI oferuje zaawansowane narzędzia do wykrywania oszustw, które mogą znacznie poprawić skuteczność tych działań.

Algorytmy uczenia maszynowego mogą być trenowane na danych historycznych, aby nauczyć się rozpoznawać różne ich typy. AI może wykrywać nietypowe transakcje, które odbiegają od normalnych wzorców zachowań klienta.

Zarządzanie portfelami inwestycyjnymi

Zarządzanie portfelami inwestycyjnymi jest kluczowym elementem działalności instytucji finansowych. Tradycyjnie, zarządzanie portfelami opierało się na analizie danych rynkowych i intuicji zarządzających. AI oferuje nowe możliwości w zakresie analizy danych i optymalizacji strategii inwestycyjnych.

Systemy AI mogą analizować ogromne ilości danych rynkowych, prognozować trendy i optymalizować strategie inwestycyjne. Algorytmy uczenia maszynowego mogą identyfikować wzorce i zależności, które mogą być niewidoczne dla ludzkiego analityka. Na przykład, AI może analizować dane historyczne, wiadomości rynkowe i inne czynniki, aby przewidzieć przyszłe ruchy rynkowe i dostosować portfel inwestycyjny.

Obsługa klienta

Chatboty i asystenci wirtualni zasilani przez sztuczną inteligencję mogą być stosowani w bankach i instytucjach finansowych do obsługi klienta. Te systemy są w stanie samodzielnie odpowiadać na pytania klientów, dostarczać informacji o produktach i usługach oraz pomagać w rozwiązywaniu problemów, co przyczynia się do poprawy efektywności obsługi i podniesienia satysfakcji klientów.

Korzyści i wyzwania AI w sektorze finansowym

Wpływ AI Act na branżę bankową i finansową

Sztuczna inteligencja (AI) znacząco wpłynęła na sektor finansowy, wprowadzając nowe możliwości i wyzwania. Kluczowe aspekty dotyczące wykorzystania AI obejmują wpływ na finanse oraz zarządzanie ryzykiem.

Zwiększenie przejrzystości i zaufania

Rozporządzenie wprowadza wymogi dotyczące przejrzystości i dokumentacji, które mają na celu zwiększenie zaufania do systemów AI stosowanych w branży bankowej i finansowej. Instytucje finansowe będą musiały dostarczać szczegółowe informacje na temat działania swoich systemów AI, co pozwoli na lepsze zrozumienie i ocenę ryzyka związanego z ich stosowaniem.

Wzmocnienie ochrony praw podstawowych

Wprowadzenie obowiązku przeprowadzania oceny skutków dla praw podstawowych ma na celu zapewnienie, że systemy AI stosowane w branży bankowej i finansowej nie naruszają praw klientów. Instytucje finansowe będą musiały uwzględniać ryzyko związane z dyskryminacją, naruszeniem prywatności oraz innymi potencjalnymi zagrożeniami dla praw podstawowych.

Zwiększenie kosztów związanych ze zgodnością

Wprowadzenie nowych wymogów dotyczących dokumentacji, rejestrów zdarzeń oraz oceny skutków dla praw podstawowych może wiązać się z dodatkowymi kosztami dla instytucji finansowych. Koszty te mogą obejmować zarówno koszty administracyjne, jak i koszty związane z wdrożeniem nowych systemów i procedur.

Wsparcie dla innowacji

Rozporządzenie przewiduje również wsparcie dla innowacji poprzez ustanowienie piaskownic regulacyjnych (sandbox). Piaskownice regulacyjne w zakresie AI są innowacyjnym narzędziem, które umożliwia dostawcom i potencjalnym dostawcom systemów AI rozwijanie, trenowanie, walidację i testowanie ich systemów w kontrolowanym środowisku doświadczalnym. Te piaskownice są ustanawiane przez właściwe organy krajowe i działają pod ich nadzorem regulacyjnym.

Piaskownice te mogą być szczególnie korzystne dla małych i średnich przedsiębiorstw (MŚP) oraz start-upów działających w branży finansowej, ponieważ umożliwiają im testowanie i rozwijanie innowacyjnych rozwiązań bez ryzyka naruszenia przepisów.

Współpraca z organami nadzoru

Instytucje finansowe będą musiały współpracować z organami nadzoru rynku oraz innymi właściwymi organami w celu zapewnienia zgodności z przepisami rozporządzenia. Współpraca ta może obejmować dostarczanie dokumentacji, udział w testach systemów AI oraz informowanie o wszelkich niezgodnościach i podejmowanych działaniach naprawczych.

Klasyfikacja systemów AI i ich ryzyko

W dobie rosnącej obecności sztucznej inteligencji (AI) w różnych sektorach, klasyfikacja systemów AI oraz ocena związanych z nimi ryzyk staje się kluczowym elementem zarządzania technologią. Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 stanowi ważny krok w kierunku regulacji i nadzoru nad systemami AI, zwracając szczególną uwagę na systemy wysokiego ryzyka.

Rozporządzenie wprowadza klasyfikację systemów AI na podstawie poziomu ryzyka, związanego z ich użytkowaniem, jakie mogą one stwarzać. Oto klasyfikacja systemów AI według tego rozporządzenia:

Przypadki niedopuszczalnego ryzyka AI

Unijny prawodawca kładzie nacisk na prewencję przed wykorzystywaniem systemów, które mogłyby powodować nieodwracalne szkody. 

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 wprowadza szereg zakazów dotyczących praktyk w zakresie sztucznej inteligencji (AI), które mają na celu ochronę praw podstawowych i interesu publicznego. W AI Act jasno określono przypadki i przykłady zastosowań AI, które są uznawane za niedopuszczalne.

W sektorze finansowym, gdzie AI może mieć znaczący wpływ na decyzje ekonomiczne i osobiste, te zakazy są szczególnie istotne.

Manipulacyjne techniki podprogowe i wprowadzające w błąd

Zakazane jest wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie systemów AI, które stosują techniki podprogowe lub celowo manipulacyjne, które mogą wpływać na decyzje osób poprzez ograniczenie ich zdolności do podejmowania świadomych wyborów. W kontekście finansowym, takie praktyki mogłyby wpływać na decyzje kredytowe, inwestycyjne lub inne ważne decyzje finansowe klientów.

Wykorzystywanie słabości osobistych

Zakazane jest również wykorzystywanie systemów AI, które celowo wykorzystują słabości indywidualne osób ze względu na ich wiek, niepełnosprawność, sytuację społeczną lub ekonomiczną, w celu wpływania na ich zachowanie w sposób, który może wyrządzić im poważną szkodę. W sektorze finansowym, takie praktyki mogłyby obejmować nieuczciwe strategie marketingowe skierowane na osoby szczególnie wrażliwe.

Scoring społeczny

Zakazane jest stosowanie systemów AI do oceny lub klasyfikacji osób na podstawie ich zachowań społecznych lub przewidywanych cech osobowości, jeśli wyniki takiego scoringu mogą prowadzić do dyskryminacji lub niekorzystnego traktowania osób. W sektorze finansowym, takie praktyki mogłyby wpływać na zdolność kredytową osób na podstawie niezwiązanych z finansami czynników.

Systemy oceny społecznej, jak te stosowane w Chinach, oceniają obywateli na podstawie różnych kryteriów, wpływając na ich dostęp do usług publicznych czy kredytów bankowych. Takie praktyki budzą obawy o inwigilację oraz nadużycia władzy.

Ocena ryzyka przestępczego

Zakazane jest wykorzystywanie systemów AI do oceny ryzyka popełnienia przestępstwa przez osobę wyłącznie na podstawie profilowania tej osoby. Chociaż to może być mniej bezpośrednio związane z sektorem finansowym, ma to implikacje dla praktyk oceny ryzyka i profilowania klientów.

Nieukierunkowane pozyskiwanie wizerunków

Zakazane jest wykorzystywanie systemów AI do tworzenia baz danych rozpoznawania twarzy poprzez nieukierunkowane pozyskiwanie wizerunków z internetu lub nagrań z monitoringu wizyjnego. To ma znaczenie dla praktyk związanych z bezpieczeństwem i monitorowaniem w sektorze finansowym.

Zakazane praktyki w zakresie AI, określone w Rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1689, mają na celu ochronę konsumentów i zapewnienie, że wykorzystanie AI w sektorze finansowym jest transparentne, etyczne i zgodne z prawem. Instytucje finansowe muszą dostosować swoje praktyki do tych wymogów, aby uniknąć poważnych konsekwencji prawnych i finansowych.

Wymogi dla systemów wysokiego ryzyka

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 ustanawia szczegółowe wymogi dla systemów AI wysokiego ryzyka, które mają kluczowe znaczenie dla zapewnienia ich bezpieczeństwa, niezawodności i zgodności z prawami podstawowymi. W branży finansowej, w tym w bankach, te wymogi są szczególnie istotne ze względu na potencjalne ryzyko dla stabilności finansowej, prywatności danych i praw konsumentów.

Systemy AI klasyfikowane jako wysokiego ryzyka muszą spełniać określone wymogi, aby były dopuszczone do użytku. Te wymogi obejmują ocenę zgodności z przepisami oraz przejrzystość działania. Kluczowe jest, aby systemy te były zaprojektowane w sposób umożliwiający nadzór i możliwość poprawy. Dzięki temu można zmniejszyć potencjalne zagrożenia. Instytucje finansowe muszą przeprowadzać regularne testy i audyty systemów AI, aby minimalizować ryzyko.

Solidność techniczna

Systemy AI wysokiego ryzyka muszą być odporne na szkodliwe lub niepożądane zachowania, które mogą wynikać z ograniczeń systemowych lub środowiskowych, takich jak błędy, usterki czy nieoczekiwane sytuacje. W kontekście finansowym, solidność tych systemów jest kluczowa, aby zapobiegać błędnym decyzjom, które mogłyby prowadzić do znaczących strat finansowych dla instytucji lub jej klientów.

Cyberbezpieczeństwo

Systemy AI w sektorze finansowym muszą być wyposażone w zaawansowane mechanizmy cyberbezpieczeństwa, aby chronić przed atakami zewnętrznymi i wewnętrznymi, które mogą zagrozić integralności finansowej i danych klientów. Obejmuje to ochronę przed zatruwaniem danych, atakami kontradyktoryjnymi i innymi formami manipulacji, które mogą wpływać na działanie systemów AI.

Dokumentacja i rejestry zdarzeń

Dostawcy systemów AI wysokiego ryzyka muszą prowadzić szczegółową dokumentację techniczną i rejestry zdarzeń, które umożliwiają monitorowanie działania systemu i weryfikację jego zgodności z wymogami rozporządzenia. W sektorze finansowym, gdzie decyzje mogą mieć dalekosiężne konsekwencje, transparentność i możliwość audytu tych systemów są niezbędne.

Ocena zgodności

Przed wprowadzeniem systemu AI wysokiego ryzyka do obrotu lub oddaniem go do użytku, musi on przejść przez procedurę oceny zgodności, aby upewnić się, że spełnia wszystkie ustanowione wymogi. W branży finansowej, ta ocena zgodności jest kluczowa dla utrzymania zaufania i stabilności rynkowej.

Nadzór ze strony człowieka

Systemy AI wysokiego ryzyka muszą być zaprojektowane tak, aby umożliwić skuteczny nadzór ludzki w trakcie ich wykorzystywania. W sektorze finansowym, gdzie decyzje mogą wpływać na życie ekonomiczne wielu osób, nadzór ludzki jest niezbędny do zapewnienia, że systemy działają zgodnie z etycznymi i prawnymi standardami.

Ocena skutków dla praw podstawowych

Podmioty stosujące systemy AI wysokiego ryzyka w sektorze finansowym, takie jak banki, muszą przeprowadzić ocenę skutków dla praw podstawowych przed wprowadzeniem tych systemów do użytku. Ocena ta ma na celu zidentyfikowanie i zminimalizowanie potencjalnych ryzyk dla praw osób fizycznych.

Wymogi dla systemów AI wysokiego ryzyka w branży finansowej są kluczowe dla zapewnienia, że te potężne narzędzia są wykorzystywane w sposób odpowiedzialny i zgodny z prawem. Solidność techniczna, cyberbezpieczeństwo, dokumentacja, ocena zgodności, nadzór ludzki i ocena skutków dla praw podstawowych to fundamenty, które pomagają zabezpieczyć sektor finansowy przed ryzykiem związanym z wykorzystaniem AI.

Obowiązki i ramy prawne dla dostawców AI

Wymagania wobec dostawców AI koncentrują się głównie na obowiązkach związanych z przejrzystością oraz ocenie zgodności i nadzorze. Każdy dostawca musi spełniać określone standardy, aby zapewnić bezpieczeństwo i poszanowanie praw użytkowników.

Obowiązki transparentności

Dostawcy systemów AI mają obowiązek zapewnienia pełnej przejrzystości swoich produktów. Muszą jednoznacznie informować użytkowników o możliwości interakcji z systemem AI.

W tym celu należy dostarczyć dokumentację, która klarownie opisuje działanie systemu. Powinna ona obejmować takie aspekty jak cel systemu, zasady jego funkcjonowania, oraz potencjalne ryzyka.

Dostawcy są także zobligowani do ujawniania wszelkich wbudowanych uprzedzeń w swoich algorytmach. Dodatkowo muszą dostarczać informacje o stosowanych środkach bezpieczeństwa i metodach ochrony prywatności.

Ocena zgodności i nadzór

Ocena zgodności systemów AI to kluczowy element regulacji. Dostawcy muszą regularnie przeprowadzać audyty zgodności swoich produktów z obowiązującymi przepisami.

Systemy uznane za wysoce ryzykowne muszą przejść szczegółowe procedury oceny zgodności. To obejmuje także kontrolę nad implementacją kodów praktyk oraz regularne testy bezpieczeństwa.

Regulatory framework wymaga również stałego nadzoru ze strony organów nadzoru, które będą monitorować zgodność systemów AI z regulacjami oraz nałożonymi obowiązkami. Dostawcy są odpowiedzialni za regularne raportowanie i ścisłą współpracę z regulatorami.

Nadzór i egzekwowanie prawa

Efektywne nadzorowanie i egzekwowanie prawa AI Act jest kluczowe dla zapewnienia bezpieczeństwa i etyczności technologii sztucznej inteligencji.

Rejestracja i oznakowanie CE

Systemy AI wysokiego ryzyka muszą posiadać oznakowanie CE, które wskazuje na ich zgodność z rozporządzeniem, co umożliwia ich swobodny przepływ na rynku wewnętrznym. Dostawcy są zobowiązani do rejestracji tych systemów w unijnej bazie danych, co ułatwia monitorowanie ich zgodności i zapewnia przejrzystość w stosunku do organów nadzorczych i konsumentów.

Egzekwowanie i nadzór

Organy nadzoru rynku wraz z Komisją Europejską mają uprawnienia do prowadzenia wspólnych działań mających na celu promowanie zgodności, wykrywanie niezgodności i zapewnianie wytycznych dotyczących rozporządzenia. W przypadkach nadzwyczajnych, związanych z bezpieczeństwem publicznym lub ochroną zdrowia, organy nadzoru rynku mogą zezwolić na wprowadzenie do obrotu lub oddanie do użytku systemów AI, które nie przeszły oceny zgodności.

Współpraca z organami nadzoru

Dostawcy systemów AI wysokiego ryzyka są zobowiązani do współpracy z właściwymi organami, w tym przestrzegania wytycznych tych organów oraz podejmowania działań w celu ograniczenia wszelkiego zidentyfikowanego znaczącego ryzyka.

Rola władz krajowych i AI Office

Rozporządzenie w sprawie Sztucznej Inteligencji, określa szczegółowe role i obowiązki dla władz krajowych oraz Urzędu ds. AI (AI Office), które są kluczowe w procesie nadzoru i egzekwowania przepisów tego rozporządzenia.

Władze krajowe

Wyznaczenie właściwych organów krajowych

Każde państwo członkowskie musi wyznaczyć co najmniej jedną jednostkę notyfikującą i co najmniej jeden organ nadzoru rynku jako właściwe organy krajowe do celów sprawowania nadzoru nad stosowaniem i wykonywaniem rozporządzenia.

Zadania nadzorcze

Właściwe organy krajowe są odpowiedzialne za monitorowanie zgodności systemów AI z wymogami rozporządzenia, w tym przeprowadzanie ocen zgodności i reagowanie na naruszenia. Mają również obowiązek informowania Komisji Europejskiej o wszelkich nieprawidłowościach oraz podejmowaniu działań naprawczych.

Współpraca międzynarodowa

W przypadku stwierdzenia, że niezgodność systemu AI wykracza poza terytorium jednego państwa, organy krajowe muszą informować inne państwa członkowskie oraz Komisję, aby zapewnić spójne działania na poziomie Unii.

Urząd ds. AI (AI Office)

Rola zadzorcza

Urząd ds. AI, działający pod egidą Komisji Europejskiej, odgrywa centralną rolę w monitorowaniu i nadzorowaniu systemów AI ogólnego przeznaczenia. Urząd ten ma uprawnienia do prowadzenia dochodzeń, żądania informacji od dostawców, a także nakładania sankcji w przypadku stwierdzenia naruszeń.

Współpraca z władzami krajowymi

Urząd ds. AI współpracuje z właściwymi organami krajowymi, zapewniając wsparcie techniczne i doradcze, a także koordynując działania na poziomie Unii. Jest to kluczowe dla zapewnienia jednolitego stosowania rozporządzenia w różnych państwach członkowskich.

Panel naukowy

Urząd ds. AI wspierany jest przez panel naukowy, który składa się z niezależnych ekspertów. Panel ten doradza Urzędowi w kwestiach technicznych i naukowych, co pomaga w skutecznym monitorowaniu i ocenie systemów AI.

Udział społeczeństwa obywatelskiego i podmiotów trzecich

Społeczeństwo obywatelskie, w tym organizacje pozarządowe oraz interesariusze, odgrywają istotną rolę w nadzorze nad zastosowaniami sztucznej inteligencji. Ich udział polega na monitorowaniu działań instytucji oraz sygnalizowaniu potencjalnych naruszeń prawa. Włączenie tych grup do procesu nadzoru zapewnia większą przejrzystość i odpowiedzialność.

Parlament oraz inne organy legislacyjne również mają ważną funkcję w procesie nadzoru i kontroli AI Act. Parlament Europejski może inicjować działania mające na celu poprawę regulacji oraz reagować na zgłoszenia od społeczeństwa obywatelskiego. Koordynacja tych działań z narodowymi organami nadzoru i AI Office pozwala na wszechstronne egzekwowanie prawa i ochronę interesów obywateli.

Zaangażowanie różnych stron zapewnia zrównoważony nadzór nad technologiami AI, pomagając w identyfikacji i niwelowaniu potencjalnych zagrożeń.

Kary i sankcje w Rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1689

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 wprowadza rygorystyczne kary i sankcje mające na celu zapewnienie przestrzegania przepisów dotyczących sztucznej inteligencji. Kary te są zaprojektowane tak, aby były skuteczne, proporcjonalne i odstraszające, co ma na celu ochronę zdrowia, bezpieczeństwa i praw podstawowych obywateli Unii Europejskiej.

Aby uniknąć takich konsekwencji, instytucje finansowe muszą skupić się na praktycznym wdrażaniu obowiązków wynikających z AI Act. Poniżej przedstawiam kluczowe aspekty dotyczące kar i sankcji zawartych w tym rozporządzeniu.

Rodzaje kar i sankcji

1. Administracyjne kary pieniężne
   • Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub, jeżeli sprawcą naruszenia jest przedsiębiorstwo, w wysokości do 7% jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.
   • Nieprzestrzeganie innych przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub, jeżeli sprawcą naruszenia jest przedsiębiorstwo, w wysokości do 3% jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego.
2. Kary dla instytucji, organów i jednostek organizacyjnych Unii
   • Europejski Inspektor Ochrony Danych może nakładać administracyjne kary pieniężne na instytucje, organy i jednostki organizacyjne Unii objęte zakresem stosowania niniejszego rozporządzenia. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości, uwzględnia się wszystkie istotne okoliczności danej sytuacji.
3. Ochrona sygnalistów
   • Osoby działające w charakterze sygnalistów w związku z naruszeniami niniejszego rozporządzenia są chronione na mocy prawa Unii. Do zgłaszania naruszeń przepisów niniejszego rozporządzenia oraz ochrony osób zgłaszających takie naruszenia stosuje się przepisy dyrektywy.

Procedury i zabezpieczenia proceduralne

Wykonywanie uprawnień na podstawie niniejszego rozporządzenia podlega odpowiednim zabezpieczeniom proceduralnym zgodnie z prawem Unii i prawem krajowym, obejmującym prawo do skutecznych środków zaskarżenia i rzetelnego postępowania sądowego.

Rola Komisji i państw członkowskich

Państwa członkowskie są zobowiązane do ustanowienia przepisów dotyczących kar i innych środków egzekwowania prawa, które muszą być skuteczne, proporcjonalne i odstraszające. Muszą również niezwłocznie powiadamiać Komisję o przepisach dotyczących kar i wszelkich ich późniejszych zmianach.

Przyszłość regulacji dotyczących sztucznej inteligencji w sektorze finansowym

Zastosowanie sztucznej inteligencji w sektorze finansowym niesie ze sobą ogromne możliwości, ale również wyzwania. AI Act odgrywa kluczową rolę w kształtowaniu bezpiecznego i transparentnego środowiska dla innowacji technologicznych. Regulacje te mają na celu:

• Ochronę konsumentów poprzez zapewnienie przejrzystości i odpowiedzialności instytucji finansowych.
• Minimalizowanie ryzyka związanego z wykorzystaniem zaawansowanych algorytmów AI.

W przyszłości regulacje dotyczące sztucznej inteligencji będą ewoluować, aby lepiej odpowiadać na zmieniające się potrzeby rynku oraz nowe technologie. Kluczowe będzie:

• Dostosowywanie przepisów do dynamicznych zmian technologicznych.
• Szkolenie kadr w zakresie nowych regulacji i technologii AI.

Implementacja AI Act stanowi fundament dla zrównoważonego rozwoju sektora finansowego, gdzie innowacje mogą prosperować w ramach jasno określonych zasad i norm.

Dzięki tym regulacjom, przyszłość AI w finansach staje się bezpieczniejsza i bardziej zrównoważona. Przedsiębiorstwa mogą liczyć na wsparcie w odpowiedzialnym wykorzystaniu technologii, co przyniesie korzyści zarówno dla firm, jak i ich klientów.

Ministerstwo Cyfryzacji pracuje nad projektami ustaw wdrażających AI Act w Polsce. To zapewni, że transformacja w ramach nowego prawa będzie płynna i skuteczna.

Często zadawane pytania dotyczące AI Act w branży finansowej

Poniżej znajdują się odpowiedzi na najczęściej zadawane pytania dotyczące AI Act w kontekście branży finansowej i ich regulacji w tym przygotowanie instytucji, wyzwania oraz korzyści związane z implementacją sztucznej inteligencji w usługach finansowych.