(3)Som en följd av detta är det nödvändigt att göra riktade ändringar av förordning (EU) 2024/1689 för att lösa vissa utmaningar med genomförandet och därigenom effektivt kunna tillämpa bestämmelserna.

(4)Företag som vuxit ur definitionen av mikroföretag samt små och medelstora företag – små midcapföretag – spelar en avgörande roll för unionens ekonomi. Jämfört med små och medelstora företag tenderar små midcapföretag att ha högre tillväxttakt, innovationsnivå och digitaliseringsnivå. När det gäller administrativ börda står de dock inför liknande utmaningar som små och medelstora företag, vilket leder till ett behov av proportionalitet i genomförandet av förordning (EU) 2024/1689 och av riktat stöd. För att möjliggöra en smidig övergång för små eller medelstora företag till små midcapföretag är det viktigt att på ett enhetligt sätt ta itu med den påverkan som regleringar kan få på deras verksamhet när de vuxit ur segmentet små eller medelstora företag och måste följa de regler som gäller för stora företag. Förordning (EU) 2024/1689 föreskriver ett flertal åtgärder för småskaliga leverantörer, vilka bör utökas till att även omfatta små midcapföretag. I syfte att förtydliga hur små och medelstora företag och små midcapföretag hanteras i förordning (EU) 2024/1689 är det nödvändigt att föra in definitioner för små och medelstora företag och små midcapföretag och dessa bör motsvara de definitioner som fastställs i bilagan till kommissionens rekommendation 2003/361/EG4 och bilagan till kommissionens rekommendation 2025/3500/EU5.

__________________

(5)Enligt artikel 4 i förordning (EU) 2024/1689 är alla leverantörer och tillhandahållare av AI-system för närvarande skyldiga att säkerställa att deras personal har tillräcklig AI-kunnighet. En utvecklad AI-kunnighet som tar avstamp i utbildning och fortsätter i ett livslångt lärande är avgörande för att förse leverantörer, tillhandahållare och andra berörda personer med den information som krävs för att fatta välgrundade beslut om utveckling av AI-system. De erfarenheter som berörda parter har delat med sig av gör tydligt att det inte finns någon universallösning som fungerar för alla typer av leverantörer och spridare när det gäller att främja AI-kunnighet, vilket medför att en sådan horisontell skyldighet inte är effektiv för att nå målet med bestämmelsen. Dessutom tyder vissa indikationer på att om en sådan skyldighet införs så kan detta medföra en ytterligare efterlevnadsbörda, i synnerhet för mindre företag, trots att AI-kunnighet borde vara en strategisk prioritering – oavsett om det är en lagstadgad skyldighet och oavsett eventuella sanktioner. Med tanke på detta bör artikel 4 i förordning (EU) 2024/1689 ändras och föreskriva att medlemsstaterna och kommissionen, utan att det påverkar deras respektive befogenheter, enskilt, gemensamt och i samarbete med relevanta berörda parter uppmuntra leverantörer och tillhandahållare att förse sin personal och andra personer som för deras räkning arbetar med drift och användning av AI-system med tillräcklig AI-kunnighet, däribland genom att tillhandahålla utbildningsmöjligheter och informationsresurser samt möjliggöra utbyte av god praxis och andra icke rättsligt bindande initiativ. Europeiska styrelsen för artificiell intelligens (styrelsen) kommer att säkerställa ett fortlöpande samarbete mellan kommissionen och medlemsstaterna i frågan och alliansen för AI-tillämpningar kommer att möjliggöra utbyten med samhället i stort. Denna ändring påverkar inte de bredare åtgärder som kommissionen och medlemsstaterna har vidtagit för att främja AI-kunnigheten och kompetensen hos allmänheten, dvs. elever, studerande och invånare i olika åldrar, särskilt genom utbildningssystemet.

(6)Det är avgörande för allmänhetens intresse att bias upptäcks och korrigeras eftersom detta skyddar fysiska personer från de negativa konsekvenser som bias medför, däribland diskriminering. Diskriminering kan vara en konsekvens av bias i AI-modeller och andra AI-system än AI-system med hög risk för vilka förordning (EU) 2024/1689 redan tillhandahåller en rättslig grund att behandla särskilda kategorier av personuppgifter enligt artikel 9.2 g i Europaparlamentets och rådets förordning (EU) 2016/6796. Med tanke på att diskriminering även kan orsakas av andra AI-system och AI-modeller är det därför lämpligt att förordning (EU) 2024/1689 föreskriver en rättslig grund för att även leverantörer och tillhandahållare av andra AI-system och AI-modeller, samt även tillhandahållare av AI-system med hög risk, ska kunna behandla särskilda kategorier av personuppgifter. Den rättsliga grunden fastställs i överensstämmelse med artikel 9.2 g i förordning (EU) 2016/679, artikel 10.2 g i Europaparlamentets och rådets förordning (EU) 2018/17257 och artikel 10 a i Europaparlamentets och rådets direktiv (EU) 2016/6808 och utgör en rättslig grund som gör det möjligt för leverantörer och tillhandahållare av alla AI-system och AI-modeller att, när så är nödvändigt för att upptäcka och undanröja bias, behandla särskilda kategorier av personuppgifter, under förutsättning att lämpliga säkerhetsåtgärder som kompletterar förordning (EU) 2016/679, förordning (EU) 2018/1725 och direktiv (EU) 2016/680 (enligt vad som är lämpligt) följs.

__________________

6 Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning) (EUT L 119, 4.5.2016, s. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).

7 Europaparlamentets och rådets förordning (EU) 2018/1725 av den 23 oktober 2018 om skydd för fysiska personer med avseende på behandling av personuppgifter som utförs av unionens institutioner, organ och byråer och om det fria flödet av sådana uppgifter samt om upphävande av förordning (EG) nr 45/2001 och beslut nr 1247/2002/EG (EUT L 295, 21.11.2018, s. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).

8 Europaparlamentets och rådets direktiv (EU) 2016/680 av den 27 april 2016 om skydd för fysiska personer med avseende på behöriga myndigheters behandling av personuppgifter för att förebygga, förhindra, utreda, avslöja eller lagföra brott eller verkställa straffrättsliga påföljder, och det fria flödet av sådana uppgifter och om upphävande av rådets rambeslut 2008/977/RIF (EUT L 119, 4.5.2016, s. 89, ELI: http://data.europa.eu/eli/dir/2016/680/oj).

(7)I syfte att säkerställa överensstämmelse, undvika dubbelarbete och minimera den administrativa bördan i förhållande till förfarandet för att utse anmälda organ enligt förordning (EU) 2024/1689 och samtidigt bibehålla samma granskningsnivå bör en enda ansökan och ett enda bedömningsförfarande göras tillgängliga för nya organ för bedömning av överensstämmelse och anmälda organ som utses enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till förordning (EU) 2024/1689, exempelvis enligt Europaparlamentets och rådets förordningar (EU) 2017/7459 och (EU) 2017/74610, om ett sådant förfarande har fastställts enligt unionens harmoniseringslagstiftning. Förfarandet med en enda ansökan och en enda bedömning syftar till att underlätta, stödja och påskynda utseendeförfarandet enligt förordning (EU) 2024/1689 och samtidigt säkerställa efterlevnad av de krav som är tillämpliga på anmälda organ enligt den förordningen och unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till den.

__________________

(8)I syfte att säkerställa att förordning (EU) 2024/1689 tillämpas smidigt och är konsekvent behöver förordningen ändras. En teknisk ändring av artikel 43.3 första stycket i förordning (EU) 2024/1689 bör läggas till för att anpassa kraven för bedömning av överensstämmelse med kraven på leverantörer av AI-system med hög risk i artikel 16 i samma förordning. Dessutom bör det tydliggöras att om en leverantör av ett AI-system med hög risk omfattas av ett förfarande för bedömning av överensstämmelse enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till förordning (EU) 2024/1689 och bedömningen av överensstämmelse utökas till efterlevnad av kvalitetsstyrningssystemet i samma förordning och sådan unionsharmoniseringslagstiftning, bör leverantören kunna inkludera aspekter som rör kvalitetsstyrningssystemen enligt den förordningen som en del av kvalitetsstyrningssystemen enligt sådan unionsharmoniseringslagstiftning, i linje med artikel 17.3 i förordning (EU) 2024/1689. Artikel 43.3 andra stycket bör ändras för att förtydliga att anmälda organ som har anmälts enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till förordning (EU) 2024/1689 och vars syfte är att bedöma AI-system med hög risk som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till den förordningen bör ansöka om att utses som anmält organ enligt den förordningen inom 18 månader från och med [den dag då denna förordning börjar tillämpas]. Denna ändring påverkar inte tillämpningen av artikel 28 i förordning (EU) 2024/1689. Dessutom bör förordning (EU) 2024/1689 ändras för att förtydliga att om ett AI-system med hög risk omfattas av både unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I till förordning (EU) 2024/1689 och av något av de användningsfall som förtecknas i bilaga III till samma förordning bör leverantören följa det relevanta förfarandet för bedömning av överensstämmelse enligt vad som krävs i den relevanta harmoniseringslagstiftningen.

(9)För att effektivisera efterlevnaden och minska de därmed sammanhängande kostnaderna bör leverantörer av AI-system inte åläggas att registrera sådana AI-system som avses i artikel 6.3 i förordning (EU) 2024/1689 i EU-databasen i enlighet med artikel 49.2 i samma förordning. Med tanke på att sådana system inte är att betrakta som hög risk under vissa förutsättningar, nämligen i fall då de inte utgör en betydande risk för skada på människors hälsa, säkerhet eller grundläggande rättigheter, skulle en påförd registreringsskyldighet utgöra en oproportionerlig efterlevnadsbörda. En leverantör som anser att ett AI-system omfattas av artikel 6.3 måste dock fortfarande upprätta dokumentation för sin bedömning innan systemet släpps ut på marknaden eller tas i bruk. Denna bedömning kan begäras ut av de nationella behöriga myndigheterna.

(10)Artiklarna 57, 58 och 60 i förordning (EU) 2024/1689 bör ändras för att ytterligare stärka samarbetet på unionsnivå om regulatoriska sandlådor för AI, främja tydlighet och enhetlighet vad gäller styrningen av regulatoriska sandlådor för AI och utöka omfattningen av testning under verkliga förhållanden utanför regulatoriska sandlådor för AI till att även gälla för AI-system med hög risk som omfattas av unionens harmoniseringslagstiftning som förtecknas i bilaga I till samma förordning. För att möjliggöra förenkling av förfarandet för projekt som sker under tillsyn i de regulatoriska sandlådorna för AI och som även omfattar testning under verkliga förhållanden bör planen för testning under verkliga förhållanden i tillämpliga fall integreras i samma dokument som den sandlådeplan som leverantörer eller potentiella leverantörer och den behöriga myndigheten kommit överens om. Dessutom är det lämpligt att föreskriva en möjlighet för AI-byrån att inrätta en regulatorisk sandlåda för AI på unionsnivå för AI-system som omfattas av artikel 75.1 i förordning (EU) 2024/1689. Genom att använda denna infrastruktur och underlätta det gränsöverskridande samarbetet kommer samordningen att strömlinjeformas och resurserna att användas på ett optimalt sätt.

(11)I syfte att främja innovation är det även lämpligt att utöka omfattningen av testning under verkliga förhållanden utanför regulatoriska sandlådor för AI enligt artikel 60 i förordning (EU) 2024/1689, som för närvarande är tillämplig på sådana AI-system med hög risk som förtecknas i bilaga III till samma förordning, och göra det möjligt för leverantörer och potentiella leverantörer av AI-system med hög risk som omfattas av unionens harmoniseringslagstiftning som förtecknas i bilaga I till samma förordning att även testa sådana system under verkliga förhållanden. Detta påverkar inte tillämpningen av annan unionsrätt eller nationell rätt som rör testning under verkliga förhållanden av AI-system med hög risk som är relaterade till produkter som omfattas av unionens harmoniseringslagstiftning. För att hantera den specifika situationen vad gäller AI-system med hög risk som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt B i bilaga I till förordningen är det nödvändigt att tillåta ingående av frivilliga avtal mellan kommissionen och medlemsstaterna för att möjliggöra testning av sådana AI-system med hög risk under verkliga förhållanden.

(13)Artikel 69 i förordning (EU) 2024/1689 bör ändras för att förenkla den vetenskapliga panelens struktur för avgifter. Om medlemsstaterna anlitar panelens experter bör de avgifter som de kan åläggas att betala dem motsvara den ersättning som åligger kommissionen att betala i liknande situationer. För att förenkla förfarandena bör medlemsstaterna kunna konsultera experterna i den vetenskapliga panelen direkt, utan inblandning från kommissionen.

(14)I syfte att stärka styrningssystemet för AI-system som bygger på AI-modeller för allmänna ändamål är det nödvändigt att förtydliga AI-byråns roll vad gäller övervakning och tillsyn avseende att sådana AI-system är i överensstämmelse med förordning (EU) 2024/1689, medan AI-system som är relaterade till produkter som omfattas av unionens harmoniseringslagstiftning som förtecknas i bilaga I till den förordningen undantas. Sektorsmyndigheter har även fortsättningsvis ansvar för tillsyn av AI-system som är relaterade till produkter som omfattas av unionens harmoniseringslagstiftning, men artikel 75.1 i förordning (EU) 2024/1689 bör ändå ändras så att alla AI-system som bygger på AI-modeller för allmänna ändamål som utvecklats av samma leverantör omfattas av AI-byråns tillsyn. Detta innefattar inte AI-system som släpps ut på marknaden, tas i bruk eller används av unionens institutioner, byråer eller organ, för vilka tillsynen sköts av Europeiska datatillsynsmannen i enlighet med artikel 74.9 i förordning (EU) 2024/1689. För att säkerställa effektiv tillsyn av dessa AI-system i enlighet med de uppgifter och ansvarsområden som tilldelats marknadskontrollmyndigheter enligt förordning (EU) 2024/1689 bör AI-byrån få befogenhet att vidta lämpliga åtgärder och fatta lämpliga beslut för att kunna utöva de befogenheter som föreskrivs i det avsnittet och i Europaparlamentets och rådets förordning (EU) 2019/102011. Artikel 14 i förordning (EU) 2019/1020 bör gälla i tillämpliga delar. Vidare bör de myndigheter som är involverade i tillämpningen av förordning (EU) 2024/1689 samarbeta aktivt när de utövar sina befogenheter för att säkerställa effektiv efterlevnad, i synnerhet i fall då efterlevnadsåtgärder behöver vidtas på en medlemsstats territorium.

__________________

11 Europaparlamentets och rådets förordning (EU) 2019/1020 av den 20 juni 2019 om marknadskontroll och överensstämmelse för produkter och om ändring av direktiv 2004/42/EG och förordningarna (EG) nr 765/2008 och (EU) nr 305/2011 (EUT L 169, 25.6.2019, s. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(16)För att ytterligare omsätta AI-byråns tillsyn och kontroll av efterlevnaden i praktiken, enligt vad som anges i artikel 75.1 i förordning (EU) 2024/1689, är det nödvändigt att ytterligare fastställa vilka av de befogenheter som förtecknas i artikel 14 i förordning (EU) 2019/1020 som bör tilldelas AI-byrån. Kommissionen bör därför ges befogenhet att anta genomförandeakter för att precisera dessa befogenheter, inbegripet möjligheten att fastställa sanktioner, exempelvis sanktionsavgifter eller andra administrativa sanktioner, i enlighet med de villkor och tak som avses i artikel 99 och med tillämpliga förfaranden. Detta bör säkerställa att AI-byrån har de verktyg som krävs för att på ett effektivt sätt övervaka och utöva tillsyn i enlighet med förordning (EU) 2024/1689.

(18)För att möjliggöra tillträde till unionsmarknaden för AI-system som står under AI-byråns tillsyn i enlighet med artikel 75 i förordning (EU) 2024/1689 och som omfattas av tredjepartsbedömning av överensstämmelse bör kommissionen ha möjlighet att genomföra bedömningar av överensstämmelse före utsläppandet på marknaden av sådana system.

(19)Artikel 77 och därtill relaterade bestämmelser i förordning (EU) 2024/1689 utgör en viktig styrningsmekanism eftersom syftet med dem är att myndigheter eller organ som ansvarar för att kontrollera efterlevnaden eller utöva tillsynen avseende unionslagstiftning som syftar till att skydda de grundläggande rättigheterna ska ha möjlighet att fullgöra sitt mandat under vissa förutsättningar, samtidigt som samarbete främjas med marknadskontrollmyndigheter som ansvarar för tillsyn och kontroll av efterlevnaden av samma förordning. Det är nödvändigt att förtydliga omfattningen av ett sådant samarbete samt vilka offentliga myndigheter eller organ som gynnas av det. I syfte att förstärka samarbetet bör det förtydligas att begäranden om tillgång till information och dokumentation bör göras till den behöriga marknadskontrollmyndigheten, vilken bör svara på sådana begäranden, och att de berörda myndigheterna eller organen bör ha en ömsesidig skyldighet att samarbeta.

(20)För att ge leverantörer av generativa AI-system som omfattas av den märkningsskyldighet som fastställs i artikel 50.2 i förordning (EU) 2024/1689 tillräckligt med tid för att anpassa sina metoder inom rimlig tid utan att störa marknaden är det lämpligt att införa en övergångsperiod på sex månader för leverantörer som har släppt ut sina system på marknaden före den 2 augusti 2026.

(22)Artikel 113 i förordning (EU) 2024/1689 fastställer de datum då förordningen träder i kraft och börjar tillämpas, i synnerhet att det datum då förordningen allmänt sett börjar tillämpas är den 2 augusti 2026. För de krav och skyldigheter avseende AI-system med hög risk som fastställs i avsnitten 1, 2 och 3 i kapitel III i förordning (EU) 2024/1689 har den försenade tillgängligheten till standarder, gemensamma specifikationer och alternativ vägledning samt det försenade inrättandet av nationella behöriga myndigheter lett till utmaningar som äventyrar den faktiska tillämpningen av dessa krav och skyldigheter och som riskerar att i betydande grad öka genomförandekostnaderna på ett sätt som inte kan motivera att det ursprungliga tillämpningsdatumet (alltså den 2 augusti 2026) bibehålls. Utifrån tidigare erfarenhet är det lämpligt att inrätta en mekanism som kopplar tilllämpningsdatumet till tillgången till åtgärder som stöder efterlevnaden av kapitel III, vilket kan innefatta harmoniserade standarder, gemensamma specifikationer och kommissionens riktlinjer. Detta bör bekräftas av kommissionen genom ett beslut och som en följd därav bör reglerna om krav för AI-system med hög risk börja tillämpas efter sex månader för AI-system som klassificeras som hög risk enligt artikel 6.2 och bilaga III och efter tolv månader för AI-system som klassificeras som hög risk enligt artikel 6.1 och bilaga I till förordning (EU) 2024/1689. Denna flexibilitet bör dock endast utökas till och med den 2 december 2027 för AI-system som klassificeras som hög risk enligt artikel 6.2 och bilaga III och till och med den 2 augusti 2028 för AI-system som klassificeras som hög risk enligt artikel 6.1 och bilaga I till samma förordning, och under alla omständigheter bör reglerna börja tillämpas senast dessa datum. Skillnaden mellan tillämpningsdatumen för regler vad gäller AI-system som klassificeras som hög risk enligt artikel 6.2 och bilaga III respektive artikel 6.1 och bilaga I till den förordningen är i linje med skillnaden mellan de första tillämpningsdatum som planerades i förordning (EU) 2024/1689 och syftar till att ge tillräckligt med tid för anpassning och genomförande av de motsvarande kraven.

(23)I syfte att minska genomförandeutmaningarna för invånare, företag och offentliga förvaltningar är det mycket viktigt att harmoniserade villkor för genomförandet av vissa regler endast antas där det är absolut nödvändigt. Därför är det lämpligt att ta bort vissa befogenheter som tilldelats kommissionen i fråga om att anta sådana harmoniserade villkor genom genomförandeakter för fall där dessa villkor inte är uppfyllda. Förordning (EU) 2024/1689 bör därför ändras för att ta bort de befogenheter som tilldelats kommissionen i artiklarna 50.7, 56.6 och 72.3 i förordningen avseende antagande av genomförandeakter. Borttagandet av befogenheten att anta en harmoniserad mall för en plan för övervakning efter utsläppande på marknaden i artikel 72.3 i förordning (EU) 2024/1689 medför ytterligare en fördel, nämligen att det på så vis blir mer flexibelt för leverantörer av AI-system med hög risk att införa system för övervakning efter utsläppande på marknaden som är anpassade efter deras organisation. Samtidigt erkänns behovet att förtydliga hur leverantörer av AI-system med hög risk förväntas efterleva regelverket och därför bör kommissionen åläggas att offentliggöra vägledning.

2.För AI-system som klassificeras som AI-system med hög risk enligt artikel 6.1 och som är relaterade till produkter som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt B i bilaga I är endast artiklarna 6.1, 60a, 102–109, 111 och 112 tillämpliga. Artikel 57 är endast tillämplig i den mån som kraven för AI-system med hög risk enligt denna förordning har integrerats i den unionsharmoniseringslagstiftningen.”

Kommissionen och medlemsstaterna ska uppmuntra leverantörer och tillhandahållare av AI-system att vidta åtgärder för att säkerställa att deras personal och andra personer som för deras räkning arbetar med drift och användning av AI-system har tillräcklig AI-kunnighet, med beaktande av deras tekniska kunskaper, erfarenhet och utbildningsnivå samt det sammanhang i vilket AI-systemen ska användas, och med hänsyn till de personer eller grupper av personer på vilka AI-systemen ska användas.”

1.I den utsträckning det är nödvändigt för att säkerställa upptäckt och korrigering av bias i samband med AI-system med hög risk i enlighet med artikel 10.2 f och g i denna förordning får leverantörer av sådana system undantagsvis behandla särskilda kategorier av personuppgifter, med förbehåll för lämpliga skyddsåtgärder för fysiska personers grundläggande rättigheter och friheter. Utöver de skyddsåtgärder som fastställs i förordningarna (EU) 2016/679 och (EU) 2018/1725 och direktiv (EU) 2016/680, beroende på vad som är tillämpligt, ska samtliga följande villkor vara uppfyllda för att sådan behandling ska kunna äga rum:

2.Punkt 1 får tillämpas på leverantörer och tillhandahållare av andra AI-system och AI-modeller och tillhandahållare av AI-system med hög risk när så är nödvändigt och proportionellt om behandlingen sker i de syften som anges däri och under förutsättning att de villkor som fastställs inom ramen för de skyddsåtgärder som anges i den punkten är uppfyllda.”

(6)I artikel 6 ska punkt 4 ersättas med följande:

”4. En leverantör som anser att ett AI-system som avses i bilaga III inte är ett AI-system med hög risk ska dokumentera sin bedömning innan systemet släpps ut på marknaden eller tas i bruk. På begäran av nationella behöriga myndigheter ska leverantören tillhandahålla den dokumentation som legat till grund för bedömningen.”

(10)I artikel 28 ska följande punkt läggas till som punkt 8:

Anmälande myndigheter som utsetts enligt denna förordning och är ansvariga för AI-system som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I ska fastställas, organiseras och drivas på ett sätt som säkerställer att det organ för bedömning av överensstämmelse som ansöker om att bli utsett både enligt denna förordning och enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I ska ges möjlighet att lämna in en enda ansökan och genomgå ett enda förfarande för bedömning för att utses enligt denna förordning och unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I, om den relevanta unionsharmoniseringslagstiftningen möjliggör en enda ansökan och ett enda bedömningsförfarande.

Den enda ansökan och det enda bedömningsförfarande som avses i denna punkt ska även göras tillgängliga för anmälda organ som redan har utsetts enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I om dessa anmälda organ ansöker om utseende enligt denna förordning, under förutsättning att ett sådant förfarande är möjligt enligt den relevanta unionsharmoniseringslagstiftningen.

Den enda ansökan och det enda bedömningsförfarandet ska bidra till att undvika onödigt dubbelarbete genom att bygga vidare på befintliga förfaranden för utseende enligt unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I och säkerställa efterlevnad av kraven för anmälda organ både enligt denna förordning och enligt relevant unionsharmoniseringslagstiftning.”

Anmälda organ som har utsetts enligt någon av den unionsharmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I och som ansöker om den enda bedömning som avses i artikel 28.8 ska lämna in den enda ansökan om bedömning till den anmälande myndighet som utsetts i enlighet med den unionsharmoniseringslagstiftningen.

(13)Artikel 43.3 ska ersättas med följande:

”För AI-system med hög risk som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I ska leverantören av systemet följa det relevanta förfarande för bedömning av överensstämmelse som krävs enligt den relevanta unionsharmoniseringslagstiftningen. Kraven i avsnitt 2 i detta kapitel ska tillämpas på de AI-systemen med hög risk och ska ingå i den bedömningen. Bedömning av det kvalitetsstyrningssystem som fastställs i artikel 17 och bilaga VII ska också tillämpas.

Om ett AI-system med hög risk omfattas av både unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I och av en av de kategorier som förtecknas i bilaga III ska leverantören av systemet följa det relevanta förfarande för bedömning av överensstämmelse som krävs enligt den relevanta unionsharmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I.”

(14)Artikel 49.2 ska utgå.

7.AI-byrån ska uppmuntra och underlätta utarbetandet av förfarandekoder på unionsnivå för att underlätta ett effektivt genomförande av skyldigheterna avseende upptäckt och märkning av artificiellt skapat eller manipulerat innehåll. Kommissionen får bedöma huruvida tillämpning av dessa förfarandekoder är tillräckligt för att säkerställa efterlevnad av den skyldighet som fastställs i punkt 2, i enlighet med det förfarande som fastställs i artikel 56.6 första stycket. Om kommissionen anser att förfarandekoden inte är tillräcklig får den anta en genomförandeakt som specificerar gemensamma regler för genomförandet av dessa skyldigheter i enlighet med det granskningsförfarande som fastställs i artikel 98.2.”

6.Kommissionen och styrelsen ska regelbundet övervaka och utvärdera hur deltagarna uppnår förfarandekodernas mål och hur de bidrar till en korrekt tillämpning av denna förordning. Kommissionen ska, med största möjliga hänsyn tagen till styrelsens yttrande, bedöma huruvida förfarandekoderna omfattar de skyldigheter som fastställs i artiklarna 53 och 55 och ska regelbundet övervaka och utvärdera om målen i dem uppnås. Kommissionen ska offentliggöra sin bedömning av förfarandekodernas lämplighet.”

”AI-byrån får också inrätta en regulatorisk sandlåda för AI på unionsnivå för AI-system som omfattas av artikel 75.1. En sådan regulatorisk sandlåda för AI ska genomföras i nära samarbete med relevanta behöriga myndigheter, i synnerhet om tillsyn utövas avseende annan unionslagstiftning än denna förordning i den regulatoriska sandlådan för AI, och SMF-företag ska ha prioriterad tillgång.”

5.Regulatoriska sandlådor för AI som inrättats enligt denna artikel ska tillhandahålla en kontrollerad miljö som främjar innovation och underlättar utveckling, träning, testning och validering av innovativa AI-system under en begränsad tid innan de släpps ut på marknaden eller tas i bruk i enlighet med en särskild sandlådeplan som leverantörerna eller de potentiella leverantörerna och den behöriga myndigheten kommer överens om, varvid det säkerställs att lämpliga säkerhetsåtgärder finns på plats. Sådana sandlådor får omfatta testning under verkliga förhållanden under tillsyn i sandlådorna. I tillämpliga fall ska sandlådeplanen innehålla planen för testning under verkliga förhållanden i ett enda dokument.”

14.De nationella behöriga myndigheterna ska samordna sin verksamhet och samarbeta inom ramen för styrelsen. De ska stödja det gemensamma inrättandet och den gemensamma driften av regulatoriska sandlådor för AI, inbegripet i olika sektorer.”

d)De detaljerade regler som gäller för styrning av regulatoriska sandlådor för AI enligt artikel 57, inbegripet vad gäller de behöriga myndigheternas utförande av sina uppgifter samt samordning och samarbete på nationell nivå och på EU-nivå.”

”Testning av AI-system med hög risk under verkliga förhållanden utanför regulatoriska sandlådor för AI får utföras av leverantörer eller potentiella leverantörer av AI-system med hög risk som förtecknas i bilaga III eller som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I, i enlighet med denna artikel och den plan för testning under verkliga förhållanden som avses i denna artikel, utan att det påverkar förbuden enligt artikel 5.”

2.Leverantörer eller potentiella leverantörer får på egen hand eller i partnerskap med en eller flera tillhandahållare eller potentiella tillhandahållare utföra testning under verkliga förhållanden av AI-system med hög risk som avses i bilaga III eller som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt A i bilaga I när som helst innan AI-systemet släpps ut på marknaden eller tas i bruk.”

3.Medlemsstater, kommissionen, marknadskontrollmyndigheter och offentliga myndigheter med ansvar för förvaltning och drift av infrastruktur och produkter som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt B i bilaga I ska ha ett nära samarbete i god tro och ska undanröja eventuella praktiska hinder, inbegripet processuella regler om tillgång till fysisk offentlig infrastruktur, när så är nödvändigt, för att på ett framgångsrikt sätt genomföra den frivilliga överenskommelsen om testning under verkliga förhållanden och därmed testa AI-baserade produkter som omfattas av unionens harmoniseringslagstiftning som förtecknas i avsnitt B i bilagan.

1.SMF-företag, inbegripet uppstartsföretag, får efterleva vissa delar av det kvalitetsstyrningssystem som krävs enligt artikel 17 på ett förenklat sätt. För detta ändamål ska kommissionen utarbeta riktlinjer för de delar av kvalitetsstyrningssystemet som får efterlevas på ett förenklat sätt med beaktande av SMF-företags behov, utan att det påverkar skyddsnivån eller behovet av efterlevnad av kraven med avseende på AI-system med hög risk.”

b)Punkt 3 ska utgå.

3.Systemet för övervakning efter utsläppande på marknaden ska baseras på en plan för övervakning efter utsläppande på marknaden. Planen för övervakning efter utsläppande på marknaden ska vara en del av den tekniska dokumentation som avses i bilaga IV. Kommissionen ska anta vägledning om planen för övervakning efter utsläppande på marknaden.

Om ett AI-system bygger på en AI-modell för allmänna ändamål, utom AI-system som är relaterade till produkter som omfattas av unionens harmoniseringslagstiftning som förtecknas i bilaga I, och modellen och systemet har utvecklats av samma leverantör ska AI-byrån ha exklusiv befogenhet att utöva tillsyn och kontroll av efterlevnaden avseende det systemet i förhållande till skyldigheterna enligt denna förordning, i enlighet med de uppgifter och ansvarsområden som enligt förordningen tilldelas marknadskontrollmyndigheter. AI-byrån ska även ha exklusiv befogenhet att utöva tillsyn och kontroll av efterlevnaden av skyldigheterna enligt denna förordning vad gäller AI-system som utgör eller som är inbyggda i en utsedd mycket stor onlineplattform eller i en mycket stor onlinesökmotor i den mening som avses i förordning (EU) 2022/2065.

När AI-byrån utövar tillsyn och kontrollerar efterlevnaden enligt första stycket ska den ha alla befogenheter som en marknadskontrollmyndighet har enligt detta avsnitt och enligt förordning (EU) 2019/1020. AI-byrån ska ha befogenhet att vidta lämpliga åtgärder och fatta lämpliga beslut för att utöva sina befogenheter i fråga om tillsyn och kontroll av efterlevnaden på ett tillfredsställande sätt. Artikel 14 i förordning (EU) 2019/1020 ska gälla i tillämpliga delar.

Kommissionen ska organisera och genomföra bedömningar av överensstämmelse före utsläppandet på marknaden och tester av sådana AI-system som avses i punkt 1 som klassificeras som hög risk och omfattas av tredjepartsbedömning av överensstämmelse enligt artikel 43 innan sådana AI-system släpps ut på marknaden eller tas i bruk. Dessa tester och bedömningar ska kontrollera att systemen följer relevanta bestämmelser i denna förordning och kan släppas ut på marknaden eller tas i bruk i unionen i enlighet med denna förordning. Kommissionen får anförtro utförandet av dessa tester eller bedömningar till anmälda organ som utsetts enligt denna förordning och i sådana fall ska det anmälda organet agera på kommissionens vägnar. Artikel 34.1 och 34.2 ska gälla i tillämpliga delar för kommissionen när den utövar sina befogenheter enligt denna punkt.

1.Nationella offentliga myndigheter eller organ som utövar tillsyn över eller kontrollerar efterlevnaden av skyldigheter enligt unionsrätt om skydd av grundläggande rättigheter, inbegripet rätten till icke-diskriminering, ska ha befogenhet att begära och få åtkomst till all information eller dokumentation som skapas eller upprätthålls från den berörda marknadskontrollmyndigheten enligt denna förordning på ett språk och i ett format som är tillgängligt när åtkomst till sådan information eller dokumentation är nödvändig för att de effektivt ska kunna fullgöra sina mandat inom ramen för sin jurisdiktion.”

c)Följande punkter ska införas som punkterna 1a och 1b:

1a.Med förbehåll för de villkor som anges i denna artikel ska marknadskontrollmyndigheten ge den berörda offentliga myndighet eller det berörda organ som avses i punkt 1 åtkomst till sådan information eller dokumentation, inbegripet genom att, om nödvändigt, begära sådan information eller dokumentation från leverantören eller tillhandahållaren.

1b.Marknadskontrollmyndigheter och offentliga myndigheter eller organ som avses i punkt 1 ska samarbeta nära och ge varandra det ömsesidiga bistånd som krävs för att de ska kunna fullgöra sina respektive mandat, i syfte att säkerställa en enhetlig tillämpning av denna förordning och unionsrätt om skydd av grundläggande rättigheter samt förenkla förfarandena. Detta ska i synnerhet inbegripa utbyte av information, om det är nödvändigt för en effektiv tillsyn och kontroll av efterlevnaden av denna förordning och respektive annan unionslagstiftning.”

(28)I artikel 96.1 ska andra stycket ersättas med följande:

a)tillämpningen av de krav och skyldigheter som avses i artiklarna 8–15 och i artikel 25,

6.När det gäller små midcapföretag och SMF-företag, inbegripet uppstartsföretag, ska varje sanktionsavgift som avses i denna artikel uppgå till högst de procentsatser eller belopp som avses i punkterna 3, 4 och 5, beroende på vilket belopp som är lägre.

4.Leverantörer av AI-system, inbegripet AI-system för allmänna ändamål, som genererar syntetiskt ljud-, bild-, video- eller textinnehåll och som har släppts ut på marknaden före den 2 augusti 2026 ska vidta de åtgärder som krävs för att uppfylla skyldigheterna enligt artikel 50.2 senast den 2 februari 2027.”

Kapitel III avsnitten 1, 2 och 3 ska tillämpas efter det att ett kommissionsbeslut har antagits som bekräftar att det finns lämpliga åtgärder till stöd för efterlevnaden av kapitel III från och med följande datum:

i)6 månader efter antagandet av det beslutet för AI-system som klassificeras som hög risk enligt artikel 6.2 och bilaga III.

ii)12 månader efter antagandet av det beslutet för AI-system som klassificeras som hög risk enligt artikel 6.1 och bilaga I.

Om det beslut som avses i första stycket inte har antagits eller om de datum som anges nedan är tidigare än de datum som följer antagandet av beslutet ska avsnitten 1, 2 och 3 i kapitel III tillämpas enligt följande:

(32)I bilaga VIII ska avsnitt B utgå.