(3)W związku z tym konieczne są ukierunkowane zmiany w rozporządzeniu (UE) 2024/1689, których wprowadzenie pozwoli sprostać niektórym wyzwaniom w zakresie wdrażania i zapewnić skuteczne stosowanie odpowiednich przepisów.

(4)Przedsiębiorstwa wykraczające poza definicję mikroprzedsiębiorstw oraz małych i średnich przedsiębiorstw („MŚP”) – „małe spółki o średniej kapitalizacji” – odgrywają kluczową rolę w gospodarce Unii. W porównaniu z MŚP małe spółki o średniej kapitalizacji wykazują zwykle wyższe tempo wzrostu oraz poziom innowacji i cyfryzacji. Stoją one jednak przed podobnymi wyzwaniami związanymi z obciążeniem administracyjnym jak MŚP, co powoduje konieczność zachowania proporcjonalności przy wdrażaniu rozporządzenia (UE) 2024/1689 i ukierunkowanego wsparcia. Aby umożliwić sprawne przejście przedsiębiorstw z segmentu MŚP do segmentu małych spółek o średniej kapitalizacji, istotne jest spójne uwzględnienie wpływu, jaki regulacje mogą mieć na ich działalność, gdy przedsiębiorstwa te wykroczą poza definicję MŚP i będą musiały przestrzegać przepisów mających zastosowanie do dużych przedsiębiorstw. W rozporządzeniu (UE) 2024/1689 przewidziano szereg środków dla drobnych dostawców, które należy rozszerzyć na małe spółki o średniej kapitalizacji. Aby lepiej wyjaśnić, jak w rozporządzeniu (UE) 2024/1689 traktowane są MŚP i małe spółki o średniej kapitalizacji, należy wprowadzić definicje MŚP i małych spółek o średniej kapitalizacji, które powinny odpowiadać definicji określonej w załączniku do zalecenia Komisji 2003/361/WE4 i w załączniku do zalecenia Komisji 2025/3500/WE5.

__________________

(5)W art. 4 rozporządzenia (UE) 2024/1689 nałożono obecnie na wszystkich dostawców i podmioty stosujące systemy AI obowiązek zapewnienia ich personelowi kompetencji w zakresie AI. Rozwój kompetencji w zakresie AI, począwszy od kształcenia i szkolenia po uczenie się przez całe życie, ma kluczowe znaczenie dla wyposażenia dostawców, podmiotów stosujących systemy AI i innych zainteresowanych stron w niezbędną wiedzę do podejmowania świadomych decyzji dotyczących wdrażania systemów AI. Z doświadczeń zainteresowanych stron wynika jednak, że uniwersalne rozwiązanie nie jest odpowiednie dla wszystkich rodzajów dostawców i podmiotów stosujących systemy AI w odniesieniu do promowania kompetencji w zakresie AI, co sprawia, że taki horyzontalny obowiązek jest nieskuteczny w osiąganiu celu tego przepisu. Ponadto dane wskazują, że nałożenie takiego obowiązku stwarza dodatkowe obciążenie regulacyjne, zwłaszcza dla mniejszych przedsiębiorstw, podczas gdy kompetencje w zakresie AI powinny być priorytetem strategicznym, niezależnie od obowiązków regulacyjnych i potencjalnych sankcji. W związku z tym należy zmienić art. 4 rozporządzenia (UE) 2024/1689, aby zobowiązać państwa członkowskie i Komisję, bez uszczerbku dla ich odpowiednich kompetencji, do indywidualnego, zbiorowego i w ramach współpracy z odpowiednimi zainteresowanymi stronami zachęcania dostawców i podmiotów stosujących systemy AI do zapewnienia wystarczającego poziomu kompetencji w zakresie AI ich personelu i innych osób zajmujących się eksploatacją i wykorzystywaniem systemów AI w ich imieniu, w tym poprzez oferowanie możliwości szkoleniowych, zapewnianie zasobów informacyjnych oraz umożliwianie wymiany dobrych praktyk i innych niewiążących prawnie inicjatyw. Europejska Rada ds. Sztucznej Inteligencji („Rada”) zapewni regularną wymianę informacji na ten temat między Komisją a państwami członkowskimi, natomiast sojusz na rzecz stosowania AI umożliwi dyskusję z szerszą społecznością. Zmiana ta pozostaje bez uszczerbku dla szerszych środków wprowadzanych przez Komisję i państwa członkowskie w celu promowania umiejętności i kompetencji w zakresie AI wśród ogółu społeczeństwa, w tym osób uczących się, studentów i obywateli w różnym wieku, w szczególności za pośrednictwem systemów kształcenia i szkolenia.

(6)Wykrywanie i korygowanie stronniczości stanowi istotny interes publiczny, ponieważ chroni osoby fizyczne przed niekorzystnymi skutkami stronniczości, w tym dyskryminacją. Dyskryminacja może wynikać ze stronniczości modeli AI i systemów AI innych niż systemy AI wysokiego ryzyka, dla których rozporządzenie (UE) 2024/1689 zapewnia już podstawę prawną zezwalającą na przetwarzanie szczególnych kategorii danych osobowych na podstawie art. 9 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/6796. Biorąc pod uwagę, że dyskryminacja może wynikać również ze stosowania innych systemów i modeli AI, w rozporządzeniu (UE) 2024/1689 należy zatem przewidzieć podstawę prawną przetwarzania szczególnych kategorii danych osobowych również przez dostawców innych systemów i modeli AI i podmioty je stosujące, a także przez podmioty stosujące systemy AI wysokiego ryzyka. Podstawa prawna została ustanowiona zgodnie z art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679, art. 10 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/17257, a art. 10 lit. a) dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/6808 zapewnia podstawę prawną umożliwiającą, gdy jest to konieczne w celu wykrywania i eliminowania stronniczości, przetwarzanie szczególnych kategorii danych osobowych przez dostawców wszystkich systemów i modeli AI i podmioty je stosujące, z zastrzeżeniem odpowiednich zabezpieczeń uzupełniających odpowiednio rozporządzenie (UE) 2016/679, rozporządzenie (UE) 2018/17257 i dyrektywę (UE) 2016/6808.

__________________

6 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz.U. L 119 z 4.5.2016, s. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).

7 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1725 z dnia 23 października 2018 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych przez instytucje, organy i jednostki organizacyjne Unii i swobodnego przepływu takich danych oraz uchylenia rozporządzenia (WE) nr 45/2001 i decyzji nr 1247/2002/WE (Dz.U. L 295 z 21.11.2018, s. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).

8 Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/680 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych przez właściwe organy do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych i wykonywania kar, w sprawie swobodnego przepływu takich danych oraz uchylająca decyzję ramową Rady 2008/977/WSiSW (Dz.U. L 119 z 4.5.2016, s. 89–131, ELI: http://data.europa.eu/eli/dir/2016/680/oj).

(7)Aby zapewnić spójność, uniknąć powielania działań i zminimalizować obciążenia administracyjne związane z procedurą wyznaczania jednostek notyfikowanych na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym utrzymaniu tego samego poziomu kontroli, należy zapewnić nowym jednostkom oceniającym zgodność i jednostkom notyfikowanym wyznaczonym na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, np. na podstawie rozporządzeń Parlamentu Europejskiego i Rady (UE) 2017/7459 i (UE) 2017/74610, możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny, jeżeli taka procedura została ustanowiona na podstawie tego unijnego prawodawstwa harmonizacyjnego. Możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny ma na celu ułatwienie, wspieranie i przyspieszenie procedury wyznaczania na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym zapewnieniu zgodności z wymogami mającymi zastosowanie do jednostek notyfikowanych na podstawie tego rozporządzenia oraz z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia.

__________________

(8)Aby zapewnić sprawne stosowanie i spójność rozporządzenia (UE) 2024/1689, należy wprowadzić do niego zmiany. Należy dodać korektę techniczną art. 43 ust. 3 akapit pierwszy rozporządzenia (UE) 2024/1689 w celu dostosowania wymogów oceny zgodności do wymogów dotyczących dostawców systemów AI wysokiego ryzyka określonych w art. 16 tego rozporządzenia. Ponadto należy wyjaśnić, że w przypadku gdy dostawca systemu AI wysokiego ryzyka podlega procedurze oceny zgodności na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, a ocena zgodności obejmuje zgodność systemu zarządzania jakością określonego w tym rozporządzeniu i takim unijnym prawodawstwie harmonizacyjnym, dostawca ten powinien mieć możliwość włączenia aspektów związanych z systemami zarządzania jakością określonymi w tym rozporządzeniu jako części systemów zarządzania jakością określonych w takim unijnym prawodawstwie harmonizacyjnym, zgodnie z art. 17 ust. 3 rozporządzenia (UE) 2024/1689. Należy zmienić art. 43 ust. 3 akapit drugi w celu wyjaśnienia, że jednostki notyfikowane, które zostały notyfikowane na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689 i które mają na celu ocenę systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia, powinny ubiegać się o wyznaczenie na jednostkę notyfikowaną na podstawie tego rozporządzenia w terminie 18 miesięcy od dnia [rozpoczęcia stosowania niniejszego rozporządzenia] r. Ta zmiana pozostaje bez uszczerbku dla art. 28 rozporządzenia (UE) 2024/1689. Ponadto należy zmienić rozporządzenie (UE) 2024/1689 w celu wyjaśnienia, że w przypadku gdy system AI wysokiego ryzyka jest objęty zarówno unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, jak i jednym z przypadków wykorzystania wymienionych w załączniku III do tego rozporządzenia, dostawca powinien zastosować odpowiednią procedurę oceny zgodności wymaganą na podstawie tego odpowiedniego prawodawstwa harmonizacyjnego.

(9)Aby usprawnić przestrzeganie przepisów i zmniejszyć związane z tym koszty, dostawcy systemów AI nie powinni być zobowiązani do rejestrowania systemów AI, o których mowa w art. 6 ust. 3 rozporządzenia (UE) 2024/1689, w unijnej bazie danych zgodnie z art. 49 ust. 2 tego rozporządzenia. Biorąc pod uwagę, że takich systemów nie uznaje się za systemy wysokiego ryzyka pod pewnymi warunkami, jeżeli nie stwarzają one znacznego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób, nałożenie wymogów rejestracyjnych stanowiłoby nieproporcjonalne obciążenie regulacyjne. Niemniej jednak dostawca, który uważa, że system AI podlega art. 6 ust. 3, pozostaje zobowiązany do dokumentowania swojej oceny przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku. O taką ocenę mogą zwrócić się właściwe organy krajowe.

(10)Należy zmienić art. 57, 58 i 60 rozporządzenia (UE) 2024/1689 w celu zacieśnienia dalszej współpracy na poziomie Unii w odniesieniu do piaskownic regulacyjnych w zakresie AI, zwiększenia przejrzystości i spójności zarządzania piaskownicami regulacyjnymi w zakresie AI oraz rozszerzenia zakresu testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI na systemy AI wysokiego ryzyka objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. W szczególności, aby umożliwić uproszczenie procedur, w stosownych przypadkach, w projektach nadzorowanych w piaskownicach regulacyjnych w zakresie AI, które obejmują również testy w warunkach rzeczywistych, plan testów w warunkach rzeczywistych należy włączyć do planu działania piaskownicy uzgodnionego przez dostawców lub potencjalnych dostawców i właściwy organ w jednym dokumencie. Ponadto należy przewidzieć możliwość ustanowienia przez Urząd ds. AI piaskownicy regulacyjnej w zakresie AI na poziomie Unii w odniesieniu do systemów AI objętych art. 75 ust. 1 rozporządzenia (UE) 2024/1689. Dzięki wykorzystaniu tej infrastruktury i ułatwieniu współpracy transgranicznej koordynacja zostałaby usprawniona, a zasoby optymalnie wykorzystane.

(11)Aby wspierać innowacje, należy również rozszerzyć zakres testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI określonych w art. 60 rozporządzenia (UE) 2024/1689, który ma obecnie zastosowanie do systemów AI wysokiego ryzyka wymienionych w załączniku III do tego rozporządzenia, oraz umożliwić dostawcom i potencjalnym dostawcom systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia również testowanie takich systemów w warunkach rzeczywistych. Pozostaje to bez uszczerbku dla innych przepisów prawa Unii lub prawa krajowego dotyczących testowania w warunkach rzeczywistych systemów AI wysokiego ryzyka związanych z wyrobami objętymi tym unijnym prawodawstwem harmonizacyjnym. Aby zająć się szczególną sytuacją systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji B załącznika I do tego rozporządzenia, należy umożliwić zawieranie dobrowolnych umów między Komisją a państwami członkowskimi, aby umożliwić testowanie takich systemów AI wysokiego ryzyka w warunkach rzeczywistych.

(13)Należy zmienić art. 69 rozporządzenia (UE) 2024/1689, aby uprościć strukturę opłat dla panelu naukowego. Jeżeli państwa członkowskie zwrócą się do panelu o opinię ekspertów, opłaty, jakie mogą być zobowiązane zapłacić ekspertom, powinny być równoważne wynagrodzeniu, jakie Komisja jest zobowiązana zapłacić w podobnych okolicznościach. Ponadto, aby zmniejszyć złożoność procedur, państwa członkowskie powinny mieć możliwość bezpośredniego konsultowania się z ekspertami panelu naukowego bez udziału Komisji.

(14)Aby wzmocnić system zarządzania systemami AI opartymi na modelach AI ogólnego przeznaczenia, konieczne jest wyjaśnienie roli Urzędu ds. AI w monitorowaniu i nadzorowaniu zgodności takich systemów AI z rozporządzeniem (UE) 2024/1689, przy jednoczesnym wyłączeniu systemów AI powiązanych z wyrobami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. Chociaż organy sektorowe pozostają odpowiedzialne za nadzór nad systemami AI powiązanymi z wyrobami objętymi tym unijnym prawodawstwem harmonizacyjnym, należy zmienić art. 75 ust. 1 rozporządzenia (UE) 2024/1689, aby objąć nadzorem Urzędu ds. AI wszystkie systemy AI oparte na modelach AI ogólnego przeznaczenia opracowanych przez tego samego dostawcę. Nie obejmuje to systemów AI wprowadzanych do obrotu, oddawanych do użytku lub wykorzystywanych przez instytucje, organy lub jednostki organizacyjne Unii, które podlegają nadzorowi Europejskiego Inspektora Ochrony Danych na podstawie art. 74 ust. 9 rozporządzenia (UE) 2024/1689. Aby zapewnić skuteczny nadzór nad tymi systemami AI zgodnie z zadaniami i obowiązkami powierzonymi organom nadzoru rynku na podstawie rozporządzenia (UE) 2024/1689, Urząd ds. AI powinien być uprawniony do wprowadzania odpowiednich środków i podejmowania decyzji w celu właściwego wykonywania swoich uprawnień przewidzianych w tej sekcji i w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2019/102011. Art. 14 rozporządzenia (UE) 2019/1020 należy stosować odpowiednio. Ponadto, aby zapewnić skuteczne egzekwowanie przepisów, organy zaangażowane w stosowanie rozporządzenia (UE) 2024/1689 powinny aktywnie współpracować w wykonywaniu tych uprawnień, w szczególności w przypadku konieczności podjęcia działań w zakresie egzekwowania przepisów na terytorium państwa członkowskiego.

__________________

11 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/1020 z dnia 20 czerwca 2019 r. w sprawie nadzoru rynku i zgodności produktów oraz zmieniające dyrektywę 2004/42/WE oraz rozporządzenia (WE) nr 765/2008 i (UE) nr 305/2011 (Dz.U. L 169 z 25.6.2019, s. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(16)Aby jeszcze bardziej usprawnić nadzorowanie i egzekwowanie przepisów przez Urząd ds. AI określone w art. 75 ust. 1 rozporządzenia (UE) 2024/1689, konieczne jest doprecyzowanie, które z uprawnień wymienionych w art. 14 rozporządzenia (UE) 2019/1020 należy powierzyć Urzędowi ds. AI. Komisja powinna zatem być uprawniona do przyjmowania aktów wykonawczych w celu określenia tych uprawnień, w tym możliwości nakładania kar, takich jak kary pieniężne lub inne sankcje administracyjne, zgodnie z warunkami i pułapami, o których mowa w art. 99 oraz mającymi zastosowanie procedurami. Powinno to zapewnić Urzędowi ds. AI narzędzia niezbędne do skutecznego monitorowania i nadzorowania zgodności z rozporządzeniem (UE) 2024/1689.

(18)Aby umożliwić dostęp do unijnego rynku systemom AI, które podlegają nadzorowi Urzędu ds. AI na podstawie art. 75 rozporządzenia (UE) 2024/1689 i ocenie zgodności przeprowadzanej przez osobę trzecią, Komisja powinna mieć możliwość przeprowadzania ocen zgodności tych systemów przed wprowadzeniem do obrotu.

(19)Art. 77 i powiązane przepisy rozporządzenia (UE) 2024/1689 stanowią ważny mechanizm zarządzania, ponieważ mają na celu umożliwienie organom lub podmiotom odpowiedzialnym za egzekwowanie lub nadzorowanie prawa Unii mającego na celu ochronę praw podstawowych wypełniania ich mandatu na określonych warunkach oraz wspieranie współpracy z organami nadzoru rynku odpowiedzialnymi za nadzorowanie i egzekwowanie tego rozporządzenia. Konieczne jest doprecyzowanie zakresu takiej współpracy, a także wskazanie, które organy lub podmioty publiczne z niej korzystają. W celu zacieśnienia współpracy należy doprecyzować, że wnioski o dostęp do informacji i dokumentacji powinny być kierowane do właściwego organu nadzoru rynku, który powinien odpowiadać na takie wnioski, oraz że zaangażowane organy lub podmioty powinny być wzajemnie zobowiązane do współpracy.

(20)Aby zapewnić dostawcom systemów generatywnej AI podlegającym obowiązkom w zakresie oznakowania określonym w art. 50 ust. 2 rozporządzenia (UE) 2024/1689 wystarczająco dużo czasu na dostosowanie swoich praktyk w rozsądnym terminie bez zakłócania rynku, należy wprowadzić sześciomiesięczny okres przejściowy dla dostawców, którzy wprowadzili już swoje systemy do obrotu przed dniem 2 sierpnia 2026 r.

(22)W art. 113 rozporządzenia (UE) 2024/1689 określono daty wejścia w życie i rozpoczęcia stosowania tego rozporządzenia, w szczególności, że ogólną datą rozpoczęcia stosowania jest 2 sierpnia 2026 r. W odniesieniu do obowiązków związanych z systemami AI wysokiego ryzyka określonych w rozdziale III sekcje 1, 2 i 3 rozporządzenia (UE) 2024/1689 opóźniona dostępność norm, wspólnych specyfikacji i alternatywnych wytycznych oraz opóźnione ustanowienie właściwych organów krajowych prowadzą do powstania wyzwań, które zagrażają skutecznemu wejściu w życie tych obowiązków oraz ryzyka znacznego wzrostu kosztów wdrażania w sposób, który nie uzasadnia utrzymania ich pierwotnej daty rozpoczęcia stosowania, tj. 2 sierpnia 2026 r. W oparciu o doświadczenia należy wprowadzić mechanizm, który uzależnia rozpoczęcie stosowania od dostępności środków wspierających zgodność z rozdziałem III, które mogą obejmować normy zharmonizowane, wspólne specyfikacje i wytyczne Komisji. Komisja powinna to potwierdzić w drodze decyzji, po czym obowiązki wynikające z przepisów dotyczących systemów AI wysokiego ryzyka powinny mieć zastosowanie po 6 miesiącach w przypadku systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz po 12 miesiącach w przypadku systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I do rozporządzenia (UE) 2024/1689. Elastyczność tę należy jednak przedłużyć jedynie do dnia 2 grudnia 2027 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz do dnia 2 sierpnia 2028 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I do tego rozporządzenia, kiedy to przepisy te powinny wejść w życie w każdym przypadku. Rozróżnienie między rozpoczęciem stosowania przepisów w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 2 i załącznika III oraz art. 6 ust. 1 i załącznika I do tego rozporządzenia jest spójne z rozróżnieniem między pierwotnymi datami rozpoczęcia stosowania przewidzianymi w rozporządzeniu (UE) 2024/1689 i ma na celu zapewnienie czasu niezbędnego na dostosowanie i wdrożenie odpowiednich obowiązków.

(23)W świetle celu, jakim jest ograniczenie wyzwań związanych z wdrażaniem dla obywateli, przedsiębiorstw i administracji publicznej, konieczne jest, aby zharmonizowane warunki wdrażania niektórych przepisów były przyjmowane wyłącznie wtedy, gdy jest to absolutnie niezbędne. W tym celu należy znieść niektóre uprawnienia przyznane Komisji do przyjmowania takich zharmonizowanych warunków w drodze aktów wykonawczych w przypadkach, gdy warunki te nie są spełnione. Należy zatem zmienić rozporządzenie (UE) 2024/1689 w celu usunięcia uprawnień przyznanych Komisji w art. 50 ust. 7, art. 56 ust. 6 i art. 72 ust. 3 tego rozporządzenia do przyjmowania aktów wykonawczych. Usunięcie uprawnienia do przyjęcia zharmonizowanego wzoru planu monitorowania po wprowadzeniu do obrotu w art. 72 ust. 3 rozporządzenia (UE) 2024/1689 przynosi dodatkową korzyść w postaci zapewnienia dostawcom systemów AI wysokiego ryzyka większej elastyczności we wprowadzaniu systemu monitorowania po wprowadzeniu do obrotu, który jest dostosowany do ich organizacji. Jednocześnie, uznając potrzebę zapewnienia jasności co do sposobu, w jaki dostawcy systemów AI wysokiego ryzyka są zobowiązani do przestrzegania przepisów, Komisja powinna być zobowiązana do opublikowania wytycznych.

2.W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 60a, art. 102–109 oraz art. 111 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego.”;

Komisja i państwa członkowskie zachęcają dostawców i podmioty stosujące systemy AI do wprowadzania środków w celu zapewnienia odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane.”;

1.W zakresie, w jakim jest to konieczne do celów zapewnienia zgodnie z art. 10 ust. 2 lit. f) i g) niniejszego rozporządzenia wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą w wyjątkowych przypadkach przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz zabezpieczeń określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz w dyrektywie (UE) 2016/680, w stosownych przypadkach, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki:

2.Ust. 1 może mieć zastosowanie do dostawców i podmiotów stosujących inne systemy i modele AI oraz do podmiotów stosujących systemy AI wysokiego ryzyka, w przypadku gdy jest to konieczne i proporcjonalne, jeżeli przetwarzanie odbywa się do celów określonych w tym ustępie i o ile spełnione są warunki określone w zabezpieczeniach ustanowionych w tym ustępie.”;

6)art. 6 ust. 4 otrzymuje brzmienie:

„4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny.”;

10)w art. 28 dodaje się ustęp 8 w brzmieniu:

Organy notyfikujące wyznaczone na podstawie niniejszego rozporządzenia odpowiedzialne za systemy AI objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby zapewnić jednostce oceniającej zgodność, która ubiega się o wyznaczenie zarówno na podstawie niniejszego rozporządzenia, jak i unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny do celów wyznaczenia na podstawie niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, w przypadku gdy odpowiednie unijne prawodawstwo harmonizacyjne przewiduje taką możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny.

Możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny, o której mowa w niniejszym ustępie, zapewnia się również jednostkom notyfikowanym już wyznaczonym na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, w przypadku gdy te jednostki notyfikowane ubiegają się o wyznaczenie na podstawie niniejszego rozporządzenia, pod warunkiem że odpowiednie unijne prawodawstwo harmonizacyjne przewiduje taką procedurę.

W ramach możliwości złożenia jednego wniosku i poddania się jednej procedurze oceny unika się niepotrzebnego powielania, wykorzystuje się istniejące procedury wyznaczania na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A oraz zapewnia się zgodność z wymogami dotyczącymi zarówno jednostek notyfikowanych na podstawie niniejszego rozporządzenia, jak i odpowiedniego unijnego prawodawstwa harmonizacyjnego.”;

Jednostki notyfikowane wyznaczone na podstawie któregokolwiek z unijnych przepisów harmonizacyjnych wymienionych w załączniku I sekcja A i ubiegające się o jedną ocenę, o której mowa w art. 28 ust. 8, przedkładają jeden wniosek o ocenę organowi notyfikującemu wyznaczonemu zgodnie z tym unijnym prawodawstwem harmonizacyjnym.

13)art. 43 ust. 3 otrzymuje brzmienie:

„W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A dostawca systemu postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie odpowiedniego unijnego prawodawstwa harmonizacyjnego. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie ma również ocena systemu zarządzania jakością określona w art. 17 i załączniku VII.

W przypadku gdy system AI wysokiego ryzyka jest objęty zarówno unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, jak i należy do jednej z kategorii wymienionych w załączniku III, dostawca systemu stosuje odpowiednią procedurę oceny zgodności wymaganą na podstawie odpowiedniego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A.;

14)w art. 49 uchyla się ustęp 2;

7.Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania, oznaczania i etykietowania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może ocenić, czy przestrzeganie tych kodeksów praktyk jest wystarczające do zapewnienia zgodności z obowiązkiem określonym w ust. 2, zgodnie z procedurą określoną w art. 56 ust. 6 akapit pierwszy. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2.”;

6.Komisja i Rada regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Komisja, uwzględniając w możliwie największym stopniu opinię Rady, ocenia, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, oraz regularnie monitoruje i ocenia realizację ich celów. Komisja publikuje swoją ocenę adekwatności kodeksów praktyk.”;

„Urząd ds. AI może również ustanowić piaskownicę regulacyjną w zakresie AI na poziomie Unii w odniesieniu do systemów AI objętych art. 75 ust. 1. Taka piaskownica regulacyjna w zakresie AI jest wdrażana w ścisłej współpracy z odpowiednimi właściwymi organami, w szczególności gdy przepisy Unii inne niż niniejsze rozporządzenie są nadzorowane w piaskownicy regulacyjnej w zakresie AI, i zapewnia priorytetowy dostęp dla MŚP.”;

5.Piaskownice regulacyjne w zakresie AI ustanowione na podstawie niniejszego artykułu zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem, gwarantując przy tym wdrożenie odpowiednich zabezpieczeń. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. W stosownych przypadkach plan działania piaskownicy obejmuje w jednym dokumencie plan testów w warunkach rzeczywistych.;

14.Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. Wspierają one wspólne tworzenie i funkcjonowanie piaskownic regulacyjnych w zakresie AI, w tym w różnych sektorach.”;

d)szczegółowych przepisów mających zastosowanie do zarządzania piaskownicami regulacyjnymi w zakresie AI objętymi art. 57, w tym w odniesieniu do wykonywania zadań właściwych organów oraz koordynacji i współpracy na szczeblu krajowym i unijnym.”;

„Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III lub objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5.”;

2.Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III lub które objęte są unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym.”;

3.Państwa członkowskie, Komisja, organy nadzoru rynku i organy publiczne odpowiedzialne za zarządzanie infrastrukturą i produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B oraz za ich eksploatację ściśle współpracują ze sobą w dobrej wierze oraz usuwają wszelkie przeszkody praktyczne, w tym przeszkody dotyczące przepisów proceduralnych zapewniających dostęp do fizycznej infrastruktury publicznej, jeżeli jest to konieczne do skutecznego wdrożenia dobrowolnej umowy dotyczącej testów w warunkach rzeczywistych i testowania produktów wspomaganych sztuczną inteligencją objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku sekcja B.

1.MŚP, w tym przedsiębiorstwa typu start-up, mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 w sposób uproszczony. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby MŚP, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka.”;

b)uchyla się ust. 3;

3.System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Komisja przyjmuje wytyczne dotyczące planu monitorowania po wprowadzeniu do obrotu.”;

W przypadku gdy system AI jest oparty na modelu AI ogólnego przeznaczenia, z wyłączeniem systemów AI związanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, a ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI posiada wyłączną kompetencję w zakresie nadzorowania i egzekwowania przepisów niniejszego rozporządzenia dotyczących tego systemu, zgodnie z zadaniami i obowiązkami przypisanymi przez to rozporządzenie organom nadzoru rynku. Urząd ds. AI jest również wyłącznie właściwy do nadzorowania i egzekwowania obowiązków wynikających z niniejszego rozporządzenia w odniesieniu do systemów AI, które stanowią wyznaczoną bardzo dużą platformę internetową lub bardzo dużą wyszukiwarkę internetową w rozumieniu rozporządzenia (UE) 2022/2065 lub które są zintegrowane z taką platformą lub wyszukiwarką.

Wykonując swoje zadania w zakresie nadzorowania i egzekwowania obowiązków zgodnie z akapitem pierwszym, Urząd ds. AI ma wszystkie uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. Urząd ds. AI jest uprawniony do stosowania odpowiednich środków i podejmowania decyzji w celu odpowiedniego wykonywania swoich uprawnień w zakresie nadzoru i egzekwowania przepisów. Art. 14 rozporządzenia (UE) 2019/1020 stosuje się odpowiednio.

Komisja organizuje i przeprowadza oceny zgodności i testy przed wprowadzeniem do obrotu systemów AI, o których mowa w ust. 1, sklasyfikowanych jako systemy wysokiego ryzyka i podlegających ocenie zgodności przeprowadzanej przez stronę trzecią na podstawie art. 43 przed wprowadzeniem do obrotu lub oddaniem do użytku takich systemów AI. Te testy i oceny służą sprawdzeniu, czy systemy spełniają odpowiednie wymogi niniejszego rozporządzenia i mogą być wprowadzane do obrotu lub oddawane do użytku w Unii zgodnie z niniejszym rozporządzeniem. Komisja może powierzyć przeprowadzenie tych testów lub ocen jednostkom notyfikowanym wyznaczonym na podstawie niniejszego rozporządzenia, w którym to przypadku jednostka notyfikowana działa w imieniu Komisji. Art. 34 ust. 1 i 2 stosuje się odpowiednio do Komisji przy wykonywaniu jej uprawnień na mocy niniejszego ustępu.

1.Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkich informacji lub wszelkiej dokumentacji sporządzonej lub prowadzonej przez organ nadzoru rynku na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do nich dostępu, kiedy dostęp do tych informacji lub tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości.”;

c)dodaje się ust. 1a i 1b w brzmieniu:

1a.Z zastrzeżeniem warunków określonych w niniejszym artykule organ nadzoru rynku udziela właściwemu organowi lub podmiotowi publicznemu, o którym mowa w ust. 1, dostępu do takich informacji lub dokumentów, w tym w razie potrzeby poprzez zwrócenie się do dostawcy lub podmiotu stosującego o takie informacje lub dokumenty.

1b.Organy nadzoru rynku oraz organy lub podmioty publiczne, o których mowa w ust. 1, ściśle ze sobą współpracują i udzielają sobie wzajemnej pomocy niezbędnej do wypełniania ich odpowiednich mandatów w celu zapewnienia spójnego stosowania niniejszego rozporządzenia i prawa Unii w zakresie ochrony praw podstawowych oraz usprawnienia procedur. Obejmuje to w szczególności wymianę informacji, jeżeli jest to konieczne do skutecznego nadzoru lub egzekwowania niniejszego rozporządzenia i odpowiednich innych przepisów Unii.”;

28)art. 96 ust. 1 akapit drugi otrzymuje brzmienie:

a)stosowania wymogów i obowiązków, o których mowa w art. 8–15 i art. 25;

6.W przypadku małych spółek o średniej kapitalizacji i MŚP, w tym przedsiębiorstw typu start-up, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa.

4.Dostawcy systemów AI, w tym systemów AI ogólnego przeznaczenia, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, które wprowadzono do obrotu przed dniem 2 sierpnia 2026 r., podejmują niezbędne kroki w celu zapewnienia zgodności z art. 50 ust. 2 do dnia 2 lutego 2027 r.

rozdział III sekcje 1, 2 i 3 stosuje się po przyjęciu przez Komisję decyzji potwierdzającej, że dostępne są odpowiednie środki wspierające zgodność z rozdziałem III, począwszy od następujących dat:

(i)6 miesięcy po przyjęciu tej decyzji w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz

(ii)12 miesięcy po przyjęciu decyzji w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I.

W przypadku nieprzyjęcia decyzji w rozumieniu akapitu pierwszego lub w przypadku gdy poniższe daty są wcześniejsze niż daty następujące po przyjęciu tej decyzji, zastosowanie ma rozdział III sekcje 1, 2 i 3:

32)w załączniku VIII uchyla się sekcję B;