(3)Er zijn bijgevolg gerichte wijzigingen van Verordening (EU) 2024/1689 nodig om bepaalde uitdagingen op het gebied van uitvoering aan te pakken teneinde de doeltreffende toepassing van de desbetreffende regels te waarborgen.

(4)Ondernemingen die de definitie van micro-, kleine en middelgrote ondernemingen overstijgen — de “kleine midcapondernemingen” — spelen een cruciale rol in de economie van de Unie. In vergelijking met kleine en middelgrote ondernemingen groeien kleine midcapondernemingen over het algemeen sneller en hebben zij een hoger niveau van innovatie en digitalisering. Zij hebben desalniettemin te maken met vergelijkbare uitdagingen op het gebied van administratieve lasten als die waar kleine en middelgrote ondernemingen mee te kampen hebben, zodat het van belang is bij de uitvoering van Verordening (EU) 2024/1689 evenredigheid en gerichte steun toe te passen. Om een soepele overgang van kleine en middelgrote ondernemingen naar kleine midcapondernemingen mogelijk te maken, is het zaak op coherente wijze de gevolgen aan te pakken die de verordening op hun activiteiten kan hebben wanneer die ondernemingen het midden- en kleinbedrijf ontgroeien en te maken krijgen met regels die van toepassing zijn op grote ondernemingen. Verordening (EU) 2024/1689 voorziet in verschillende maatregelen voor kleinschalige aanbieders, die moeten worden uitgebreid tot kleine midcapondernemingen. Om de behandeling van kleine en middelgrote ondernemingen en kleine midcapondernemingen in Verordening (EU) 2024/1689 te verduidelijken, moeten er definities voor kleine en middelgrote ondernemingen en kleine midcapondernemingen worden ingevoerd die overeenkomen met de definities in de bijlage bij Aanbeveling 2003/361/EG van de Commissie4 en de bijlage bij Aanbeveling (EU) 2025/3500 van de Commissie5.

__________________

(5)Het huidige artikel 4 van Verordening (EU) 2024/1689 schrijft alle aanbieders en gebruiksverantwoordelijken van AI-systemen voor de AI-geletterdheid van hun personeel te waarborgen. De ontwikkeling van AI-geletterdheid door middel van onderwijs, opleiding en een leven lang leren is van cruciaal belang om aanbieders, gebruiksverantwoordelijken en andere betrokkenen van de nodige kennis te voorzien om onderbouwde beslissingen te nemen met betrekking tot de inzet van AI-systemen. Uit door belanghebbenden gedeelde ervaringen is echter gebleken dat voor de bevordering van AI-geletterdheid een uniforme oplossing niet geschikt is voor alle soorten aanbieders en gebruiksverantwoordelijken, waardoor een dergelijke horizontale verplichting niet effectief is om de doelstelling van deze bepaling te verwezenlijken. Daarnaast blijkt uit gegevens dat het opleggen van een dergelijke verplichting extra regeldruk met zich brengt, met name voor kleinere ondernemingen, terwijl AI-geletterdheid een strategische prioriteit moet vormen, ongeacht de verplichtingen op het gebied van regelgeving en mogelijke sancties. In het licht daarvan moet artikel 4 van Verordening (EU) 2024/1689 worden gewijzigd om de lidstaten en de Commissie te verplichten om, onverminderd hun respectieve bevoegdheden, aanbieders en gebruiksverantwoordelijken individueel, collectief en in samenwerking met relevante belanghebbenden aan te moedigen te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, onder meer door opleidingsmogelijkheden aan te bieden, informatiebronnen te verstrekken en de uitwisseling van goede praktijken en andere juridisch niet-bindende initiatieven mogelijk te maken. De Europese raad voor artificiële intelligentie (European Artificial Intelligence Board — de “AI-board”) zal zorgen voor een regelmatige uitwisseling tussen de Commissie en de lidstaten over dit onderwerp, terwijl de AI-toepassingsstrategie besprekingen met de bredere gemeenschap mogelijk zal maken. Deze wijziging doet geen afbreuk aan de bredere maatregelen die de Commissie en de lidstaten nemen ter bevordering van AI-geletterdheid en -competenties voor de bredere bevolking, met inbegrip van lerenden, studenten en burgers van verschillende leeftijden, met name via onderwijs- en opleidingsstelsels.

(6)Opsporing en correctie van vooringenomenheid vormen een zwaarwegend algemeen belang omdat zij natuurlijke personen beschermen tegen de nadelige gevolgen van vooroordelen, waaronder discriminatie. Discriminatie kan het gevolg zijn van vooringenomenheid in andere AI-modellen en AI-systemen dan AI-systemen met een hoog risico waarvoor Verordening (EU) 2024/1689 reeds in een rechtsgrondslag voorziet op grond waarvan de verwerking van bijzondere categorieën persoonsgegevens uit hoofde van artikel 9, lid 2, punt g), van Verordening (EU) 2016/679 van het Europees Parlement en de Raad6 is toegestaan. Aangezien discriminatie ook het gevolg kan zijn van die andere AI-systemen en -modellen, moet Verordening (EU) 2024/1689 voorzien in een rechtsgrondslag voor de verwerking van bijzondere categorieën persoonsgegevens, ook door aanbieders en gebruiksverantwoordelijken van andere AI-systemen en AI-modellen en door gebruiksverantwoordelijken van AI-systemen met een hoog risico. De rechtsgrondslag is vastgesteld overeenkomstig artikel 9, lid 2, punt g), van Verordening (EU) 2016/679 en artikel 10, lid 2, punt g), van Verordening (EU) 2018/1725 van het Europees Parlement en de Raad7, en artikel 10, punt a), van Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad8 voorziet in een rechtsgrondslag op basis waarvan het aanbieders en gebruiksverantwoordelijken van alle AI-systemen en -modellen, indien nodig voor de opsporing en opheffing van vooringenomenheid, is toegestaan bijzondere categorieën persoonsgegevens te verwerken, mits passende waarborgen worden gehanteerd die een aanvulling vormen op Verordening (EU) 2016/679, Verordening (EU) 2018/1725 en Richtlijn (EU) 2016/680, naargelang het geval.

__________________

6 Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).

7 Verordening (EU) 2018/1725 van het Europees Parlement en de Raad van 23 oktober 2018 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door de instellingen, organen en instanties van de Unie en betreffende het vrije verkeer van die gegevens, en tot intrekking van Verordening (EG) nr. 45/2001 en Besluit nr. 1247/2002/EG (PB L 295 van 21.11.2018, blz. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).

8 Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad (PB L 119 van 4.5.2016, blz. 89, ELI: http://data.europa.eu/eli/dir/2016/680/oj).

(7)Om de samenhang te waarborgen, dubbel werk te voorkomen en de administratieve lasten met betrekking tot de procedure voor de aanwijzing van aangemelde instanties uit hoofde van Verordening (EU) 2024/1689 tot een minimum te beperken, met behoud van hetzelfde niveau van toetsing, moeten nieuwe conformiteitsbeoordelingsinstanties en aangemelde instanties die worden aangewezen uit hoofde van de in afdeling A van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, bijvoorbeeld uit hoofde van de Verordeningen (EU) 2017/7459 en (EU) 2017/74610 van het Europees Parlement en de Raad, de beschikking hebben over een procedure voor één enkele aanvraag en één enkele beoordeling indien een dergelijke procedure is vastgesteld uit hoofde van die harmonisatiewetgeving van de Unie. De enkele aanvraag- en beoordelingsprocedure heeft tot doel de aanwijzingsprocedure uit hoofde van Verordening (EU) 2024/1689 te vergemakkelijken, te ondersteunen en te bespoedigen, waarbij wordt voldaan aan de eisen die van toepassing zijn op de aangemelde instanties uit hoofde van die verordening en de in afdeling A van bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie.

__________________

(8)Met het oog op een soepele toepassing en de samenhang van Verordening (EU) 2024/1689, moeten er wijzigingen in de verordening worden doorgevoerd. Er moet een technische correctie aan artikel 43, lid 3, eerste alinea, van Verordening (EU) 2024/1689 worden toegevoegd om de eisen betreffende conformiteitsbeoordelingen in overeenstemming te brengen met de eisen betreffende aanbieders van AI-systemen met een hoog risico in artikel 16 van die verordening. Bovendien moet worden verduidelijkt dat wanneer een aanbieder van een AI-systeem met een hoog risico onderworpen is aan de conformiteitsbeoordelingsprocedure uit hoofde van de in bijlage I, afdeling A, bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, en de conformiteitsbeoordeling zich uitstrekt tot de naleving van het kwaliteitsbeheersysteem van die verordening en van die harmonisatiewetgeving van de Unie, de aanbieder aspecten in verband met kwaliteitsbeheersystemen uit hoofde van die verordening moet kunnen opnemen als onderdeel van de kwaliteitsbeheersystemen op grond van die harmonisatiewetgeving van de Unie, overeenkomstig artikel 17, lid 3, van Verordening (EU) 2024/1689. Artikel 43, lid 3, tweede alinea, moet worden gewijzigd om te verduidelijken dat aangemelde instanties die zijn aangemeld uit hoofde van de in bijlage I, afdeling A, bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, en die tot doel hebben AI-systemen met een hoog risico te beoordelen die onder de in bijlage I, afdeling A, bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, binnen 18 maanden na [de datum van toepassing van deze verordening] een aanvraag moeten indienen voor aanwijzing als aangemelde instantie uit hoofde van die verordening. Deze wijziging laat artikel 28 van Verordening (EU) 2024/1689 onverlet. Voorts moet Verordening (EU) 2024/1689 worden gewijzigd om te verduidelijken dat wanneer een AI-systeem met een hoog risico zowel onder de in afdeling A van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie valt als onder een van de in bijlage III bij die verordening vermelde gebruiksgevallen, de aanbieder de relevante conformiteitsbeoordelingsprocedure moet volgen zoals vereist op grond van die relevante harmonisatiewetgeving.

(9)Om de naleving te stroomlijnen en de daarmee gepaard gaande kosten terug te dringen, mogen aanbieders van AI-systemen niet worden verplicht om AI-systemen als bedoeld in artikel 6, lid 3, van Verordening (EU) 2024/1689 te registreren in de in artikel 49, lid 2, van die verordening bedoelde EU-databank. Aangezien dergelijke systemen onder bepaalde voorwaarden niet als systemen met een hoog risico worden aangemerkt wanneer zij geen significant risico vormen voor de gezondheid, veiligheid of grondrechten van personen, zou het opleggen van registratievereisten een onevenredige regeldruk vormen. Een aanbieder die van mening is dat een AI-systeem geen hoog risico inhoudt volgens artikel 6, lid 3, blijft echter verplicht zijn beoordeling te documenteren voordat dat systeem in de handel wordt gebracht of in gebruik wordt gesteld. Deze beoordeling kan worden opgevraagd door de nationale bevoegde autoriteiten.

(10)De artikelen 57, 58 en 60 van Verordening (EU) 2024/1689 moeten worden gewijzigd teneinde de samenwerking op het niveau van de Unie inzake AI-testomgevingen voor regelgeving verder te versterken, meer duidelijkheid en consistentie te verschaffen met betrekking tot de governance van AI-testomgevingen voor regelgeving, en het toepassingsgebied van het testen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving uit te breiden tot AI-systemen met een hoog risico die onder de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen. Meer in het bijzonder moet, in voorkomend geval, bij projecten waarop toezicht wordt uitgeoefend binnen een AI-testomgeving voor regelgeving, met inbegrip van testen onder reële omstandigheden, het plan voor testen onder reële omstandigheden worden opgenomen in het met de aanbieders of potentiële aanbieders en de bevoegde autoriteit overeengekomen testomgevingsplan, in de vorm van één enkel document. Daarnaast is het passend het AI-bureau de mogelijkheid te geven om een AI-testomgeving voor regelgeving op Unieniveau op te zetten voor AI-systemen die onder artikel 75, lid 1, van Verordening (EU) 2024/1689 vallen. De inzet van deze infrastructuren en het vergemakkelijken van grensoverschrijdende samenwerking zorgen voor een beter gestroomlijnde coördinatie en een optimaal gebruik van middelen.

(11)Ter bevordering van innovatie is het voorts passend het toepassingsgebied van het testen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving, dat overeenkomstig artikel 60 van Verordening (EU) 2024/1689 momenteel van toepassing is op in bijlage III van die verordening bedoelde AI-systemen met een hoog risico, uit te breiden, en aanbieders en potentiële aanbieders van AI-systemen met een hoog risico die onder de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, ook toe te staan dergelijke systemen onder reële omstandigheden te testen. Dit doet geen afbreuk aan andere Unie- of nationale wetgeving voor het testen onder reële omstandigheden van AI-systemen met een hoog risico die verband houden met producten die onder die harmonisatiewetgeving van de Unie vallen. Wat betreft de specifieke situatie van AI-systemen met een hoog risico die onder de in afdeling B van bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, moet het mogelijk zijn op vrijwillige basis overeenkomsten te sluiten tussen de Commissie en de lidstaten om het testen van die systemen onder reële omstandigheden mogelijk te maken.

(13)Artikel 69 van Verordening (EU) 2024/1689 moet worden gewijzigd ter vereenvoudiging van de structuur van de vergoedingen voor het wetenschappelijk panel. Indien de lidstaten een beroep doen op de deskundigheid van het panel, moeten de vergoedingen die zij aan de deskundigen moeten voldoen gelijkwaardig zijn aan de vergoedingen die de Commissie in vergelijkbare omstandigheden verschuldigd is. Om de procedurele complexiteit te verminderen, moeten de lidstaten voorts in staat zijn de deskundigen van het wetenschappelijk panel rechtstreeks te raadplegen, zonder tussenkomst van de Commissie.

(14)Om het governancesysteem voor AI-systemen die gebaseerd zijn op AI-modellen voor algemene doeleinden te versterken, moet de rol van het AI-bureau bij het monitoren van en het toezicht op de naleving van Verordening (EU) 2024/1689 voor dergelijke AI-systemen worden verduidelijkt, waarbij AI-systemen die verband houden met producten die onder de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, worden uitgesloten. Hoewel sectorale autoriteiten verantwoordelijk blijven voor het toezicht op AI-systemen die verband houden met producten die onder die harmonisatiewetgeving van de Unie vallen, moet artikel 75, lid 1, van Verordening (EU) 2024/1689 worden gewijzigd om alle AI-systemen die gebaseerd zijn op AI-modellen voor algemene doeleinden die door dezelfde aanbieder zijn ontwikkeld, onder het toezicht van het AI-bureau te brengen. Hierbij gaat het niet om AI-systemen die in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt door instellingen, organen of instanties van de Unie die op grond van artikel 74, lid 9, van Verordening (EU) 2024/1689 onder toezicht van de Europese Toezichthouder voor gegevensbescherming vallen. Om doeltreffend toezicht op die AI-systemen te waarborgen in overeenstemming met de taken en verantwoordelijkheden die uit hoofde van Verordening (EU) 2024/1689 aan markttoezichtautoriteiten zijn toegewezen, moet het AI-bureau bevoegd zijn voor het nemen van passende maatregelen en besluiten om zijn bevoegdheden uit hoofde van die afdeling en Verordening (EU) 2019/1020 van het Europees Parlement en de Raad naar behoren uit te oefenen11. Artikel 14 van Verordening (EU) 2019/1020 moet van overeenkomstige toepassing zijn. Om een doeltreffende handhaving te waarborgen, moeten de autoriteiten die betrokken zijn bij de toepassing van Verordening (EU) 2024/1689 bovendien actief met elkaar samenwerken bij de uitoefening van die bevoegdheden, met name met betrekking tot handhavingsactiviteiten die op het grondgebied van een lidstaat moeten worden verricht.

__________________

11 Verordening (EU) 2019/1020 van het Europees Parlement en de Raad van 20 juni 2019 betreffende markttoezicht en conformiteit van producten en tot wijziging van Richtlijn 2004/42/EG en de Verordeningen (EG) nr. 765/2008 en (EU) nr. 305/2011 (PB L 169 van 25.6.2019, blz. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(16)Om concreter gestalte te geven aan de monitoring- en toezichttaken van het AI-bureau uit hoofde van artikel 75, lid 1, van Verordening (EU) 2024/1689, moet nader worden bepaald welke van de in artikel 14 van Verordening (EU) 2019/1020 vermelde bevoegdheden aan het AI-bureau moeten worden toegekend. De Commissie moet derhalve de bevoegdheid krijgen om uitvoeringshandelingen vast te stellen voor het specificeren van die bevoegdheden, waaronder het vermogen om sancties op te leggen, zoals boeten of andere administratieve sancties, overeenkomstig de in artikel 99 bedoelde voorwaarden en plafonds en de toepasselijke procedures. Dit moet ervoor zorgen dat het AI-bureau over de nodige instrumenten beschikt om de naleving van Verordening (EU) 2024/1689 doeltreffend te monitoren en te controleren.

(18)Om toegang tot de markt van de Unie mogelijk te maken voor AI-systemen die overeenkomstig artikel 75 van Verordening (EU) 2024/1689 onder toezicht staan van het AI-bureau en onderworpen zijn aan conformiteitsbeoordelingen door derden, moet de Commissie in staat worden gesteld conformiteitsbeoordelingen van die systemen uit te voeren voordat zij in de handel worden gebracht.

(19)Artikel 77 en de daarmee verband houdende bepalingen van Verordening (EU) 2024/1689 vormen een belangrijk governancemechanisme, aangezien zij tot doel hebben de autoriteiten of organen die verantwoordelijk zijn voor de handhaving van of het toezicht op het Unierecht ter bescherming van de grondrechten in staat te stellen hun mandaat onder specifieke voorwaarden te vervullen, en de samenwerking te bevorderen met markttoezichtautoriteiten die verantwoordelijk zijn voor het toezicht op en de handhaving van die verordening. Het is van belang de reikwijdte van die samenwerking te verduidelijken en toe te lichten welke overheidsinstanties of -organen hiervan profiteren. Met het oog op de versterking van de samenwerking moet worden verduidelijkt dat verzoeken om toegang tot informatie en documentatie aan de bevoegde markttoezichtautoriteit moeten worden gericht en dat deze autoriteit daarop moet reageren, en dat er tussen de betrokken autoriteiten en organen een wederzijdse verplichting tot samenwerking bestaat.

(20)Om aanbieders van generatieve AI-systemen die onderworpen zijn aan de markeringsverplichtingen van artikel 50, lid 2, van Verordening (EU) 2024/1689 voldoende tijd te geven om hun praktijken binnen een redelijke termijn aan te passen zonder de markt te verstoren, is het passend een overgangsperiode van zes maanden in te voeren voor aanbieders die hun systemen reeds vóór 2 augustus 2026 in de handel hebben gebracht.

(22)Artikel 113 van Verordening (EU) 2024/1689 bevat de data van inwerkingtreding en toepassing van die verordening, en hierin wordt meer in het bijzonder de datum van toepassing van 2 augustus 2026 vermeld. Wat betreft de in hoofdstuk III, afdelingen 1, 2 en 3, van Verordening (EU) 2024/1689 vastgestelde verplichtingen in verband met AI-systemen met een hoog risico, hebben de vertraagde beschikbaarheid van normen, gemeenschappelijke specificaties en alternatieve richtsnoeren en de uitgestelde oprichting van nationale bevoegde autoriteiten, uitdagingen tot gevolg die de daadwerkelijke toepassing van die verplichtingen in gevaar brengen en het risico met zich brengen dat de uitvoeringskosten aanzienlijk zullen toenemen op een wijze die het handhaven van de oorspronkelijke toepassingsdatum ervan, te weten 2 augustus 2026, niet rechtvaardigt. De ervaring heeft geleerd dat het passend is een mechanisme in te voeren waarbij de datum van toepassing wordt gekoppeld aan de beschikbaarheid van maatregelen ter ondersteuning van de naleving van de voorschriften van hoofdstuk III, waaronder geharmoniseerde normen, gemeenschappelijke specificaties en richtsnoeren van de Commissie. Dit moet door de Commissie bij besluit worden bevestigd, waarna de verplichtingen inzake de regels met betrekking tot AI-systemen met een hoog risico na zes maanden van toepassing moeten worden voor AI-systemen die overeenkomstig artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn ingedeeld, en na twaalf maanden voor AI-systemen die overeenkomstig artikel 6, lid 1, en bijlage I bij Verordening (EU) 2024/1689 als AI-systemen met een hoog risico zijn ingedeeld. Deze flexibiliteit mag echter alleen worden verlengd tot en met 2 december 2027 voor AI-systemen die overeenkomstig artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn ingedeeld, en tot en met 2 augustus 2028 voor AI-systemen die overeenkomstig artikel 6, lid 1, en bijlage I bij die verordening als AI-systemen met een hoog risico zijn ingedeeld, op welke data die regels in elk geval van toepassing moeten worden. Het onderscheid tussen de datum van toepassing van de regels met betrekking tot AI-systemen die overeenkomstig artikel 6, lid 2, en bijlage III, en artikel 6, lid 1, en bijlage I bij die verordening als AI-systemen met een hoog risico zijn ingedeeld, is in overeenstemming met het verschil tussen de initiële toepassingsdata als bedoeld in Verordening (EU) 2024/1689, en heeft tot doel de nodige tijd te bieden voor de aanpassing en de uitvoering van de overeenkomstige verplichtingen.

(23)In het licht van de doelstelling om de uitvoeringsproblemen voor burgers, bedrijven en overheidsdiensten terug te dringen, is het van essentieel belang om geharmoniseerde voorwaarden voor de uitvoering van bepaalde regels alleen vast te stellen voor zover dat strikt noodzakelijk is. Daartoe is het passend bepaalde aan de Commissie verleende bevoegdheden om dergelijke geharmoniseerde voorwaarden door middel van uitvoeringshandelingen vast te stellen, te schrappen in gevallen waarin niet aan die voorwaarden wordt voldaan. Verordening (EU) 2024/1689 moet derhalve worden gewijzigd om de bij artikel 50, lid 7, artikel 56, lid 6, en artikel 72, lid 3, van die verordening aan de Commissie verleende bevoegdheden om uitvoeringshandelingen vast te stellen, te schrappen. Het schrappen van de bevoegdheid tot het vaststellen van een geharmoniseerd model voor een plan voor monitoring na het in de handel brengen uit hoofde van artikel 72, lid 3, van Verordening (EU) 2024/1689, heeft als bijkomend voordeel dat het aanbieders van AI-systemen met een hoog risico meer flexibiliteit zal bieden om een systeem voor monitoring na het in de handel brengen in te voeren dat is toegesneden op hun organisatie. Tegelijkertijd moet de Commissie, gezien de noodzaak om duidelijkheid te verschaffen over de wijze waarop aanbieders van AI-systemen met een hoog risico aan de eisen moeten voldoen, worden verplicht richtsnoeren te publiceren.

2.Op AI-systemen die overeenkomstig artikel 6, lid 1, als AI-systemen met een hoog risico worden aangemerkt die verband houden met producten die vallen onder de in bijlage I, afdeling B, opgenomen harmonisatiewetgeving van de Unie, zijn uitsluitend artikel 6, lid 1, artikel 60 bis, de artikelen 102 tot en met 109 en de artikelen 111 en 112 van toepassing. Artikel 57 is alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico uit hoofde van deze verordening zijn opgenomen in die harmonisatiewetgeving van de Unie.;

“De Commissie en de lidstaten sporen aanbieders en gebruiksverantwoordelijken van AI-systemen aan maatregelen te nemen om te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, niveau van onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.”;

1.Voor zover dit noodzakelijk is om de opsporing en correctie van vooringenomenheid te waarborgen in verband met de AI-systemen met een hoog risico overeenkomstig artikel 10, lid 2, punten f) en g), mogen de aanbieders van dergelijke systemen bij wijze van uitzondering bijzondere categorieën persoonsgegevens verwerken, mits passende waarborgen worden geboden voor de grondrechten en fundamentele vrijheden van natuurlijke personen. Naast de in de Verordeningen (EU) 2016/679 en (EU) 2018/1725 en Richtlijn (EU) 2016/680 vastgestelde waarborgen moeten, al naargelang het geval, voor een dergelijke verwerking alle volgende voorwaarden van toepassing zijn vervuld:

2.Lid 1 is, waar noodzakelijk en evenredig, mogelijk van toepassing op aanbieders en gebruiksverantwoordelijken van andere AI-systemen en -modellen en gebruiksverantwoordelijken van AI-systemen met een hoog risico indien de verwerking met het oog op de daarin vervatte doeleinden plaatsvindt en aan de in dit lid vervatte voorwaarden met betrekking tot de waarborgen is voldaan.;

(6)in artikel 6 wordt lid 4 vervangen door:

“4. Een aanbieder die van mening is dat een in bijlage III bedoeld AI-systeem geen hoog risico inhoudt, documenteert zijn beoordeling voordat dat systeem in de handel wordt gebracht of in gebruik wordt gesteld. Op verzoek van de nationale bevoegde autoriteiten verstrekt de aanbieder de documentatie van de beoordeling.”;

(10)aan artikel 28 wordt het volgende lid 8 toegevoegd:

De uit hoofde van deze verordening aanmeldende autoriteiten, die verantwoordelijk zijn voor AI-systemen die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, worden zodanig opgericht en georganiseerd en functioneren zodanig dat gewaarborgd is dat een conformiteitsbeoordelingsinstantie die een aanvraag tot aanwijzing indient op grond van zowel deze verordening als de in afdeling A van bijlage I bedoelde harmonisatiewetgeving van de Unie, de mogelijkheid krijgt om één enkele aanvraag in te dienen en één enkele beoordeling te ondergaan om te worden aangewezen uit hoofde van deze verordening en de in afdeling A van bijlage I bedoelde harmonisatiewetgeving van de Unie, indien de relevante harmonisatiewetgeving van de Unie voorziet in een dergelijke procedure voor één enkele aanvraag en één enkele beoordeling.

De in dit lid bedoelde procedure voor één enkele aanvraag en één enkele beoordeling wordt ook ter beschikking gesteld aan aangemelde instanties die reeds uit hoofde van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie zijn aangewezen, wanneer die aangemelde instanties uit hoofde van deze verordening een aanvraag voor aanwijzing indienen, mits de relevante harmonisatiewetgeving van de Unie in een dergelijke procedure voorziet.

Bij de toepassing van de procedure voor één enkele aanvraag en één enkele beoordeling wordt onnodig dubbel werk voorkomen, en de procedure bouwt voort op bestaande procedures voor aanwijzing uit hoofde van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie en waarborgt de naleving van de eisen met betrekking tot aangemelde instanties uit hoofde van zowel deze verordening als de relevante harmonisatiewetgeving van de Unie.”;

Aangemelde instanties die hoofde van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie zijn aangewezen en een aanvraag indienen voor één enkele beoordeling als bedoeld in artikel 28, lid 8, dienen de aanvraag voor één enkele beoordeling in bij de aanmeldende autoriteit die overeenkomstig die harmonisatiewetgeving van de Unie is aangewezen.

(13)in artikel 43 wordt lid 3 vervangen door:

“Voor AI-systemen met een hoog risico die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, volgt de aanbieder van het systeem de relevante conformiteitsbeoordelingsprocedure zoals vereist volgens de relevante harmonisatiewetgeving van de Unie. De in afdeling 2 van dit hoofdstuk beschreven voorschriften zijn van toepassing op die AI-systemen met een hoog risico en maken deel uit van die beoordeling. Een beoordeling van het in artikel 17 en bijlage VII bedoelde kwaliteitsbeheersysteem is eveneens van toepassing.

Voor AI-systemen met een hoog risico die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, alsook onder één van de in bijlage III genoemde categorieën, volgt de aanbieder van het systeem de relevante conformiteitsbeoordelingsprocedure zoals vereist volgens de relevante in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie.”;

(14)in artikel 49 wordt lid 2 geschrapt;

7.Het AI-bureau stimuleert en faciliteert de opstelling van praktijkcodes op het niveau van de Unie om de doeltreffende uitvoering van de verplichtingen met betrekking tot de opsporing, de markering en het labelen van kunstmatig gegenereerde of bewerkte content te vergemakkelijken. De Commissie kan nagaan of de naleving van die praktijkcodes toereikend is om te voldoen aan de in lid 2 bedoelde verplichting, overeenkomstig de in artikel 56, lid 6, eerste alinea, uiteengezette procedure. Indien zij de code ontoereikend acht, kan de Commissie volgens de onderzoeksprocedure van artikel 98, lid 2, een uitvoeringshandeling vaststellen waarin gemeenschappelijke regels voor de uitvoering van die verplichtingen worden gespecificeerd.

6.De Commissie en de AI-board monitoren en evalueren regelmatig of de deelnemers de doelstellingen van de praktijkcodes verwezenlijken en bijdragen aan de correcte toepassing van deze verordening. De Commissie beoordeelt of de praktijkcodes betrekking hebben op de verplichtingen van de artikelen 53 en 55, monitort en evalueert regelmatig of de doelstellingen daarvan worden verwezenlijkt, en houdt hierbij ten volle rekening met het advies van de AI-board. De Commissie maakt haar beoordeling of de praktijkcodes toereikend zijn bekend.;

Het AI-bureau kan ook een AI-testomgeving voor regelgeving op Unieniveau opzetten voor AI-systemen die onder artikel 75, lid 1, vallen. Een dergelijke AI-testomgeving voor regelgeving wordt uitgevoerd in nauwe samenwerking met de relevante bevoegde autoriteiten, met name wanneer deze AI-testomgeving voor regelgeving wordt beschermd door andere dan in deze verordening bedoelde Uniewetgeving, en biedt prioritaire toegang tot kleine en middelgrote ondernemingen.

5.Uit hoofde van dit artikel opgerichte AI-testomgevingen voor regelgeving voorzien in een gecontroleerde omgeving ter bevordering van innovatie en ter vergemakkelijking van het ontwikkelen, trainen, testen en valideren van innovatieve AI-systemen, volgens een specifiek, tussen de aanbieders of potentiële aanbieders en de bevoegde autoriteit overeengekomen testomgevingsplan, voor een beperkte duur voordat zij in de handel worden gebracht of in gebruik worden gesteld, met vaststelling van passende waarborgen. Dergelijke testomgevingen kunnen inhouden dat er onder reële omstandigheden wordt getest onder toezicht binnen de testomgeving. In voorkomend geval bevat het testomgevingsplan het plan voor testen onder reële omstandigheden in de vorm van één enkel document.

14.De nationale bevoegde autoriteiten coördineren hun activiteiten en werken samen binnen het kader van de AI-board. Zij ondersteunen de gezamenlijke oprichting en werking van AI-testomgevingen voor regelgeving, onder meer in verschillende sectoren.

d)de gedetailleerde regels die van toepassing zijn op de governance van AI-testomgevingen voor regelgeving uit hoofde van artikel 57, onder meer met betrekking tot de uitoefening van de taken van de bevoegde autoriteiten en de coördinatie en samenwerking op nationaal en EU-niveau.

AI-systemen met een hoog risico kunnen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving worden getest door aanbieders of potentiële aanbieders van in bijlage III vermelde AI-systemen met een hoog risico of AI-systemen met een hoog risico die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, in overeenstemming met dit artikel en het in dit artikel bedoelde plan voor testen onder reële omstandigheden, onverminderd de verbodsbepalingen krachtens artikel 5.

2.Aanbieders of potentiële aanbieders kunnen zelf of in samenwerking met een of meer gebruiksverantwoordelijken of potentiële gebruiksverantwoordelijken onder reële omstandigheden tests uitvoeren op in bijlage III bedoelde AI-systemen met een hoog risico of AI-systemen met een hoog risico die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, op elk moment vóór het in de handel brengen of in gebruik stellen van het AI-systeem.

3.De lidstaten, de Commissie, de markttoezichtautoriteiten en de overheidsinstanties die verantwoordelijk zijn voor het beheer en de exploitatie van de infrastructuur en producten die onder de in afdeling B van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, werken nauw en te goeder trouw met elkaar samen en nemen alle praktische belemmeringen weg, onder meer met betrekking tot procedureregels die toegang bieden tot fysieke openbare infrastructuur, indien dit nodig is om de overeenkomst op vrijwillige basis voor testen onder reële omstandigheden in de praktijk met succes uit te voeren en de op AI gebaseerde producten die onder de in afdeling B van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, te testen.

1.Kleine en middelgrote ondernemingen, met inbegrip van start-ups, kunnen op vereenvoudigde wijze voldoen aan bepaalde elementen van het bij artikel 17 vereiste systeem voor kwaliteitsbeheer. Daartoe ontwikkelt de Commissie richtsnoeren over de elementen van het systeem voor kwaliteitsbeheer waaraan op vereenvoudigde wijze kan worden voldaan, rekening houdend met de behoeften van kleine en middelgrote ondernemingen, zonder afbreuk te doen aan het beschermingsniveau of de noodzaak om de verplichtingen voor AI-systemen met een hoog risico na te leven.

(b)lid 3 wordt geschrapt.

3.Het systeem voor monitoring na het in de handel brengen is gebaseerd op een plan voor monitoring na het in de handel brengen. Het plan voor monitoring na het in de handel brengen maakt deel uit van de in bijlage IV bedoelde technische documentatie. De Commissie stelt richtsnoeren vast voor het plan voor monitoring na het in de handel brengen.

Indien een AI-systeem gebaseerd is op een AI-model voor algemene doeleinden, met uitzondering van AI-systemen die verband houden met producten die onder de in bijlage I vermelde harmonisatiewetgeving van de Unie vallen, en dat model en dat systeem door dezelfde aanbieder worden ontwikkeld, heeft het AI-bureau de exclusieve bevoegdheid om de naleving van de verplichtingen krachtens deze verordening door dat AI-systeem te monitoren en te bewaken overeenkomstig de door hem aan de markttoezichtautoriteiten toegewezen taken en verantwoordelijkheden. Daarnaast heeft het AI-bureau de exclusieve bevoegdheid om de naleving van de verplichtingen krachtens deze verordening met betrekking tot het AI-systeem dat een aangewezen zeer groot onlineplatform of een zeer grote onlinezoekmachine vormt of hierin is geïntegreerd, te monitoren en te bewaken overeenkomstig Verordening (EU) 2022/2065.

Bij de uitvoering van zijn in de eerste alinea bedoelde toezichts- en handhavingstaken beschikt het AI-bureau over alle in deze afdeling en Verordening (EU) 2019/1020 bepaalde bevoegdheden van een markttoezichtautoriteit. Het AI-bureau is bevoegd voor het nemen van passende maatregelen en besluiten om zijn toezichts- en handhavingsbevoegdheden naar behoren uit te oefenen. Artikel 14 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing.

De Commissie organiseert en voert conformiteitsbeoordelingen en tests uit ten aanzien van AI-systemen als bedoeld in lid 1, die zijn ingedeeld als AI-systemen met een hoog risico en onderworpen zijn aan conformiteitsbeoordelingen door derden overeenkomstig artikel 43, voordat dergelijke AI-systemen in de handel worden gebracht of in gebruik worden gesteld. Bij deze tests en beoordelingen wordt nagegaan of de systemen voldoen aan de desbetreffende eisen van deze verordening en overeenkomstig deze verordening in de Unie in de handel mogen worden gebracht of in gebruik mogen worden gesteld. De Commissie kan de uitvoering van deze tests of beoordelingen toevertrouwen aan uit hoofde van deze verordening aangewezen aangemelde instanties, in welk geval de aangemelde instantie namens de Commissie optreedt. Artikel 34, leden 1 en 2, is van overeenkomstige toepassing op de Commissie bij de uitoefening van haar bevoegdheden uit hoofde van dit lid.

1.Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens Unierecht ter bescherming van grondrechten, waaronder het recht op non-discriminatie, controleren of handhaven, zijn bevoegd om krachtens deze verordening door de markttoezichtautoriteit opgestelde of bijgehouden documentatie in een toegankelijke taal en een toegankelijk formaat aan te vragen en in te zien wanneer toegang tot die informatie of documentatie nodig is voor het doeltreffend uitoefenen van de bevoegdheden onder hun mandaat binnen de grenzen van hun rechtsgebied.

(c)de volgende leden 1 bis en 1 ter worden ingevoegd:

1 bis.Onder de in dit artikel gespecificeerde voorwaarden verleent de markttoezichtautoriteit de relevante overheidsinstantie of het relevante overheidsorgaan als bedoeld in lid 1, toegang tot die informatie of documentatie, onder meer door, indien nodig, die informatie of documentatie op te vragen bij de aanbieder of de gebruiksverantwoordelijke.

1 ter.De markttoezichtautoriteiten en de in lid 1 bedoelde overheidsinstanties of -organen werken nauw samen en verlenen elkaar de wederzijdse bijstand die nodig is voor het uitoefenen van de bevoegdheden onder hun mandaat, teneinde te zorgen voor een coherente toepassing van deze verordening en het Unierecht gericht op de bescherming van de grondrechten en het stroomlijnen van de procedures. Dit omvat met name de uitwisseling van informatie waar dit nodig is voor het effectieve toezicht op of de effectieve handhaving van deze verordening en de respectieve andere wetgeving van de Unie.

(28)in artikel 96, lid 1, wordt de tweede alinea vervangen door:

a)de toepassing van de in de artikelen 8 tot en met 15 en artikel 25 bedoelde vereisten en verplichtingen;

6.In het geval van kleine midcapondernemingen en kleine en middelgrote ondernemingen, met inbegrip van start-ups, komt elke in dit artikel bedoelde boete neer op de percentages of, indien dat lager is, het bedrag als bedoeld in de leden 3, 4 en 5.

4.Aanbieders van AI-systemen, met inbegrip van AI-systemen voor algemene doeleinden, die synthetische audio-, beeld-, video- of tekstinhoud genereren, en vóór 2 augustus 2026 in de handel zijn gebracht, nemen de nodige stappen om uiterlijk op 2 februari 2027 aan de verplichtingen uit hoofde van artikel 50, lid 2, te voldoen.

hoofdstuk III, de afdelingen 1, 2 en 3, worden van toepassing na de vaststelling van een besluit van de Commissie waarmee wordt bevestigd dat er vanaf onderstaande data passende maatregelen beschikbaar zijn ter ondersteuning van de naleving van hoofdstuk III:

(i)6 maanden na de vaststelling van dat besluit voor wat betreft AI-systemen die overeenkomstig artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn aangemerkt, en

(ii)12 maanden na de vaststelling van dat besluit voor wat betreft AI-systemen die overeenkomstig artikel 6, lid 1, en bijlage I als AI-systemen met een hoog risico zijn aangemerkt.

Indien er geen besluit wordt vastgesteld in de zin van de eerste alinea, of indien onderstaande data vóór de vaststelling van dat besluit vallen, is hoofdstuk III, de afdelingen 1, 2 en 3, van toepassing:

32)in bijlage VIII wordt deel B geschrapt;