P10_TA(2026)0098Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI)Abänderungen des Europäischen Parlaments vom 26. März 2026 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Änderung der Verordnungen (EU) 2024/1689 und (EU) 2018/1139 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI) (COM(2025)0836 – C10-0304/2025 – 2025/0359(COD)) Der Gegenstand wurde gemäß Artikel 60 Absatz 4 Unterabsatz 4 der Geschäftsordnung zwecks interinstitutioneller Verhandlungen an die zuständigen Ausschüsse zurücküberwiesen (A10-0073/2026).(Ordentliches Gesetzgebungsverfahren: erste Lesung)Vorschlag der KommissionGeänderter TextAbänderung 1Vorschlag für eine VerordnungErwägung 3

(3)Folglich sind gezielte Änderungen der Verordnung (EU) 2024/1689 erforderlich, um bestimmte Herausforderungen bei der Durchführung im Hinblick auf die wirksame Anwendung der einschlägigen Vorschriften zu bewältigen.

(3)Folglich sind gezielte Änderungen der Verordnung (EU) 2024/1689 erforderlich, um bestimmte Herausforderungen bei der Durchführung im Hinblick auf die wirksame, einfache und einheitliche Anwendung der einschlägigen Vorschriften zu bewältigen.

Abänderung 2Vorschlag für eine VerordnungErwägung 3 a (neu)

(3a)Darüber hinaus sollten die Kommission, das Büro für Künstliche Intelligenz und die zuständigen Behörden der Mitgliedstaaten dafür sorgen, dass die Aufsicht über branchenspezifische und nationale Rechtsvorschriften sowie deren Durchsetzung und Überwachung nicht zu Überschneidungen, uneinheitlichen Auslegungen oder Unterschieden bei der Durchsetzung führen, um Innovation im Bereich KI im privaten und öffentlichen Sektor zu ermöglichen.

Abänderung 3Vorschlag für eine VerordnungErwägung 4

(4)Unternehmen, die nicht mehr unter die Definition von Kleinstunternehmen sowie kleinen und mittleren Unternehmen (KMU) fallen – „kleine Midcap-Unternehmen“ –, spielen eine entscheidende Rolle in der Wirtschaft der Union. Im Vergleich zu KMU weisen kleine Midcap-Unternehmen in der Regel ein höheres Wachstumstempo sowie ein höheres Innovationsniveau und einen höheren Digitalisierungsgrad auf. Dennoch stehen sie hinsichtlich des Verwaltungsaufwands vor ähnlichen Herausforderungen wie KMU, was die Notwendigkeit einer verhältnismäßigen Durchführung der Verordnung (EU) 2024/1689 sowie gezielter Unterstützungsmaßnahmen nach sich zieht. Um Unternehmen den reibungslosen Übergang von KMU zu kleinen Midcap-Unternehmen zu ermöglichen, ist es wichtig, die Auswirkungen, die die genannte Verordnung auf deren Tätigkeit haben kann, sobald diese Unternehmen nicht länger als KMU gelten und den für Großunternehmen geltenden Vorschriften unterliegen, kohärent zu berücksichtigen. Die Verordnung (EU) 2024/1689 sieht mehrere Maßnahmen für Kleinanbieter vor, die auf kleine Midcap-Unternehmen ausgeweitet werden sollten. Um die Behandlung der KMU und kleinen Midcap-Unternehmen in der Verordnung (EU) 2024/1689 zu präzisieren, müssen Definitionen für KMU und kleine Midcap-Unternehmen eingeführt werden, die den Definitionen im Anhang der Empfehlung 2003/361/EG der Kommission4 und im Anhang der Empfehlung 2025/3500/EG der Kommission5 entsprechen sollten.

(4)99,8 % aller Unternehmen in der Union sind kleine und mittlere Unternehmen (KMU), und die Mehrheit dieser Unternehmen sind Kleinstunternehmen und kleine Unternehmen3a. Unternehmen, die nicht mehr unter die Definition von Kleinstunternehmen sowie kleinen und mittleren Unternehmen fallen – „kleine Midcap-Unternehmen“ –, spielen eine entscheidende Rolle in der Wirtschaft der Union. Im Vergleich zu KMU weisen kleine Midcap-Unternehmen in der Regel ein höheres Wachstumstempo sowie ein höheres Innovationsniveau und einen höheren Digitalisierungsgrad auf. Dennoch stehen sie hinsichtlich des Verwaltungsaufwands vor ähnlichen Herausforderungen wie KMU, was die Notwendigkeit einer verhältnismäßigen Durchführung der Verordnung (EU) 2024/1689 sowie gezielter Unterstützungsmaßnahmen nach sich zieht. Um Unternehmen den reibungslosen Übergang von KMU zu kleinen Midcap-Unternehmen zu ermöglichen, ist es wichtig, die Auswirkungen, die die genannte Verordnung auf deren Tätigkeit haben kann, sobald diese Unternehmen nicht länger als KMU gelten und den für Großunternehmen geltenden Vorschriften unterliegen, kohärent zu berücksichtigen. Die Verordnung (EU) 2024/1689 sieht mehrere Maßnahmen für Kleinanbieter vor, die gegebenenfalls auf kleine Midcap-Unternehmen ausgeweitet werden sollten, wobei die übergeordneten Ziele und das Schutzniveau der Verordnung (EU) 2024/1689 zu wahren sind. Um die Behandlung der KMU und kleinen Midcap-Unternehmen in der Verordnung (EU) 2024/1689 zu präzisieren, müssen Definitionen für KMU und kleine Midcap-Unternehmen eingeführt werden, die den Definitionen im Anhang der Empfehlung 2003/361/EG der Kommission4 und im Anhang der Empfehlung 2025/3500/EG der Kommission5 entsprechen sollten.

__________________

3a https://single-market-economy.ec.europa.eu/system/files/2023-08/Annual%20Report%20on%20European%20SMEs%202023_FINAL.pdf.

4 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (ABl. L 124 vom 20.5.2003, S. 36, ELI: http://data.europa.eu/eli/reco/2003/361/oj).

5 Empfehlung (EU) 2025/1099 der Kommission vom 21. Mai 2025 zur Definition kleiner Midcap-Unternehmen (ABl. L, 2025/1099, 28.5.2025, ELI: http://data.europa.eu/eli/reco/2025/1099/oj).

Abänderung 4Vorschlag für eine VerordnungErwägung 5

(5)Nach Artikel 4 der Verordnung (EU) 2024/1689 sind derzeit alle Anbieter und Betreiber von KI-Systemen verpflichtet, die KI-Kompetenz ihres Personals sicherzustellen. Der Erwerb von KI-Kompetenz, angefangen bei der allgemeinen und beruflichen Bildung bis hin zum lebenslangen Lernen, ist von entscheidender Bedeutung, um Anbieter, Betreiber und andere betroffene Personen mit den notwendigen Konzepten vertraut zu machen, damit sie fundierte Entscheidungen über den Einsatz von KI-Systemen treffen können. Die von den Interessenträgern geteilten Erfahrungen zeigen jedoch, dass eine Pauschallösung in Bezug auf die Förderung der KI-Kompetenz nicht für alle Arten von Anbietern und Betreibern geeignet ist, sodass eine solche horizontale Verpflichtung im Hinblick auf die Erreichung des mit dieser Bestimmung verfolgten Ziels unwirksam ist. Darüber hinaus deuten Daten darauf hin, dass die Auferlegung einer solchen Verpflichtung – insbesondere für kleinere Unternehmen – einen zusätzlichen Befolgungsaufwand verursacht, jedoch sollte KI-Kompetenz unabhängig von regulatorischen Verpflichtungen und möglichen Sanktionen eine strategische Priorität sein. Angesichts dessen sollte Artikel 4 der Verordnung (EU) 2024/1689 dahin gehend geändert werden, dass die Mitgliedstaaten und die Kommission unbeschadet ihrer jeweiligen Zuständigkeiten verpflichtet sind, Anbieter und Betreiber einzeln, gemeinsam und in Zusammenarbeit mit den einschlägigen Interessenträgern dazu anzuregen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, unter anderem durch das Anbieten von Schulungen, das Bereitstellen von Informationsressourcen und die Ermöglichung des Austauschs bewährter Verfahren sowie andere nicht rechtsverbindliche Initiativen. Das Europäische Gremium für künstliche Intelligenz (im Folgenden „KI-Gremium“) wird einen regelmäßigen Austausch zwischen der Kommission und den Mitgliedstaaten zu diesem Thema sicherstellen, während die KI-Anwendungsallianz Gespräche mit der breiteren Öffentlichkeit ermöglichen wird. Diese Änderung lässt die umfassenderen Maßnahmen unberührt, die die Kommission und die Mitgliedstaaten ergriffen haben, um KI-Kompetenzen und -Fähigkeiten für die breitere Bevölkerung, einschließlich Lernender, Studierender und Bürgerinnen und Bürger unterschiedlichen Alters, insbesondere durch Systeme der allgemeinen und beruflichen Bildung, zu fördern.

(5)Nach Artikel 4 der Verordnung (EU) 2024/1689 sind derzeit alle Anbieter und Betreiber von KI-Systemen verpflichtet, die KI-Kompetenz ihres Personals sicherzustellen. Der Erwerb von KI-Kompetenz, angefangen bei der allgemeinen und beruflichen Bildung bis hin zum lebenslangen Lernen, ist von entscheidender Bedeutung, um Anbieter, Betreiber und andere betroffene Personen mit den notwendigen Fähigkeiten auszustatten, damit sie fundierte Entscheidungen über den Einsatz von KI-Systemen treffen können. Die von den Interessenträgern geteilten Erfahrungen zeigen jedoch, dass eine Lösung, die strenge Verpflichtungen vorsieht, ein ausreichendes Maß an KI-Kompetenz sicherzustellen, in Bezug auf die Förderung der KI-Kompetenz nicht für alle Arten von Anbietern und Betreibern geeignet ist. Angesichts dessen sollte Artikel 4 der Verordnung (EU) 2024/1689 dahin gehend geändert werden, dass die Anbieter und Betreiber von KI-Systemen verpflichtet sind, die KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, zu fördern. Die Kommission sollte die KI-Kompetenzen und -Fähigkeiten für die breitere Bevölkerung fördern und darüber hinaus Leitlinien zur praktischen Umsetzung der Verpflichtungen von Anbietern und Betreibern von KI-Systemen herausgeben, um die Anbieter bei ihren Bemühungen zu unterstützen, ihnen diese zu erleichtern und sie zu ergänzen; außerdem sollte die Kommission gemeinsam mit den Mitgliedstaaten die KI-Kompetenz in der Gesellschaft fördern und unterstützen. Dazu sollte es auch gehören, die Bemühungen der Anbieter und Betreiber von KI-Systemen zu erleichtern und zu ergänzen, wobei insbesondere KMU zu berücksichtigen sind, da die Umsetzung der entsprechenden Verpflichtungen für sie mit besonderen Herausforderungen verbunden ist. Eine Möglichkeit, die KI-Kompetenz in der Union zu fördern, könnte etwa die Einrichtung von öffentlich-privaten Partnerschaften sein.

Abänderung 5Vorschlag für eine VerordnungErwägung 5 a (neu)

(5a)KI-Systeme, mit denen realistische Bilder oder Videos verändert, manipuliert oder künstlich erzeugt werden, in denen sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung gezeigt werden, schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre. Aufgrund der Verbreitung solcher Technologien, die häufig als „Nudify-Apps“ vermarktet werden, ist ein ausdrückliches regulatorisches Verbot dringend geboten. Mit der Verordnung (EU) 2024/1689 wird ein Rahmen für verbotene KI-Praktiken geschaffen, der fortlaufend überprüft werden muss. Dies gilt unbeschadet der in Artikel 6 EUV und der Charta der Grundrechte der Europäischen Union anerkannten Rechte, Freiheiten und Grundsätze und der Ausübung der darin garantierten Rechte auf Meinungs- und Informationsfreiheit sowie auf die Freiheit von Kunst und Wissenschaft. Dieses Verbot sollte nicht für Anbieter oder Betreiber von KI-Systemen gelten, die wirksame Sicherheitsmaßnahmen wie technische und organisatorische Maßnahmen ergriffen haben, um die Erzeugung solcher Darstellungen zu verhindern und einen fortgesetzten Missbrauch nach dem Inverkehrbringen oder der Inbetriebnahme des Systems entgegen der Absicht des Anbieters oder Betreibers zu unterbinden. Darüber hinaus sollte dieses Verbot KI-Anbieter nicht daran hindern, ihr technisches Know-how zur Veränderung, Manipulation oder künstlichen Erzeugung von Bildern oder Videos weiterzuentwickeln.

Abänderung 6Vorschlag für eine VerordnungErwägung 6

(6)Die Erkennung und Korrektur von Verzerrungen stellt ein erhebliches öffentliches Interesse dar, da so natürliche Personen vor den nachteiligen Auswirkungen von Verzerrungen, einschließlich Diskriminierung, geschützt werden. Diskriminierung könnte sich aus Verzerrungen in KI-Modellen und KI-Systemen ergeben, bei denen es sich nicht um Hochrisiko-KI-Systeme handelt, für die die Verordnung (EU) 2024/1689 bereits eine Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten gemäß Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates6 bietet. Da sich Diskriminierung auch aus anderen KI-Systemen und ‐Modellen ergeben könnte, sollte die Verordnung (EU) 2024/1689 eine Rechtsgrundlage für die Verarbeitung besonderer Kategorien personenbezogener Daten auch durch Anbieter und Betreiber anderer KI-Systeme und ‐Modelle sowie Betreiber von Hochrisiko-KI-Systemen vorsehen. Die Rechtsgrundlage wird im Einklang mit Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/679, Artikel 10 Absatz 2 Buchstabe g der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates7 und Artikel 10 Buchstabe a der Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates8 geschaffen und ermöglicht es – soweit dies für die Erkennung und Beseitigung von Verzerrungen erforderlich ist –, dass besondere Kategorien personenbezogener Daten durch Anbieter und Betreiber aller KI-Systeme und -Modelle verarbeitet werden, vorbehaltlich geeigneter Garantien, die die Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, ergänzen.

(6)Die Erkennung und Korrektur von Verzerrungen stellt ein erhebliches öffentliches Interesse dar, da so natürliche Personen vor den nachteiligen Auswirkungen von Verzerrungen, einschließlich Diskriminierung, geschützt werden. Aus diesem Grund bietet die Verordnung (EU) 2024/1689 bereits eine Rechtsgrundlage, die es Anbietern von Hochrisiko-KI-Systemen in bestimmten Ausnahmefällen und vorbehaltlich strenger Schutzmaßnahmen gestattet, besondere Kategorien personenbezogener Daten zu verarbeiten. Diese Rechtsgrundlage ist mit der Verpflichtung dieser Anbieter verknüpft, Verfahren zur Erkennung, Vermeidung und Minderung jener Verzerrungen festzulegen, bei denen es wahrscheinlich ist, dass sie die Gesundheit und Sicherheit von Personen beeinträchtigen, negative Auswirkungen hinsichtlich der Grundrechte haben oder zu einer nach dem Unionsrecht verbotenen Diskriminierung führen. Entsprechend besteht ein erhebliches öffentliches Interesse daran, die Verarbeitung besonderer Kategorien personenbezogener Daten zum Zwecke der Erkennung und Korrektur von Verzerrungen zuzulassen, soweit dies unbedingt erforderlich ist. Daher ist es erforderlich, die mit der Verordnung (EU) 2024/1689 geschaffene Rechtsgrundlage so zu erweitern, dass sie gleichermaßen für die Anbieter und Betreiber anderer KI-Systeme und -Modelle gilt. Diese Rechtsgrundlage sollte denselben Bedingungen und Schutzmaßnahmen unterliegen, die im bisherigen Artikel 10 Absatz 5 vorgesehen sind, damit die Einhaltung von Artikel 9 Absatz 2 Buchstabe g der Verordnung (EU) 2016/6796, Artikel 10 Absatz 2 Buchstabe g der Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates7 und Artikel 10 Buchstabe a der Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates8 sichergestellt wird.

__________________

6 Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).

7 Verordnung (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG (ABl. L 295 vom 21.11.2018, S. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).

8 Richtlinie (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates (ABl. L 119 vom 4.5.2016, S. 89, ELI: https://eur-lex.europa.eu/eli/dir/2016/680/oj).

Abänderung 7Vorschlag für eine VerordnungErwägung 7

(7)Zur Gewährleistung der Kohärenz, Vermeidung von Doppelarbeit und Minimierung des Verwaltungsaufwands im Zusammenhang mit dem Verfahren zur Benennung notifizierter Stellen gemäß der Verordnung (EU) 2024/1689 und unter Beibehaltung desselben Prüfniveaus, sollten für neue Konformitätsbewertungsstellen und notifizierte Stellen, die im Rahmen der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union, wie etwa der Verordnungen (EU) 2017/7459 und (EU) 2017/74610 des Europäischen Parlaments und des Rates, benannt wurden, ein einziger Antrag und ein einziges Bewertungsverfahren zur Verfügung stehen, wenn ein solches Verfahren im Rahmen dieser Harmonisierungsrechtsvorschriften der Union eingerichtet wurde. Mit dem einzigen Antrags- und Bewertungsverfahren soll das Benennungsverfahren gemäß der Verordnung (EU) 2024/1689 erleichtert, unterstützt und beschleunigt und gleichzeitig die Einhaltung der Anforderungen sichergestellt werden, die für notifizierte Stellen gemäß der genannten Verordnung und den in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union gelten.

entfällt

__________________

9 Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (ABl. L 117 vom 5.5.2017, S. 1, ELI: http://data.europa.eu/eli/reg/2017/745/oj).

10 Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der Kommission (ABl. L 117 vom 5.5.2017, S. 176, ELI: http://data.europa.eu/eli/reg/2017/746/oj).

Abänderung 8Vorschlag für eine VerordnungErwägung 8

(8)Um die reibungslose Anwendung und Kohärenz der Verordnung (EU) 2024/1689 zu gewährleisten, sollte sie geändert werden. In Artikel 43 Absatz 3 Unterabsatz 1 der Verordnung (EU) 2024/1689 sollte eine technische Korrektur aufgenommen werden, um die Konformitätsbewertungsanforderungen und die Anforderungen an Anbieter von Hochrisiko-KI-Systemen nach Artikel 16 der genannten Verordnung in Einklang zu bringen. Darüber hinaus sollte klargestellt werden, dass ein Anbieter eines Hochrisiko-KI-Systems, wenn er dem Konformitätsbewertungsverfahren gemäß den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union unterliegt und wenn die Konformitätsbewertung auch die Konformität des Qualitätsmanagementsystems der genannten Verordnung und der Harmonisierungsrechtsvorschriften der Union betrifft, im Einklang mit Artikel 17 Absatz 3 der Verordnung (EU) 2024/1689 Aspekte des Qualitätsmanagementsystems gemäß der genannten Verordnung als Teil der Qualitätsmanagementsysteme im Rahmen dieser Harmonisierungsrechtsvorschriften der Union aufnehmen können sollte. Artikel 43 Absatz 3 Unterabsatz 2 sollte geändert werden, um klarzustellen, dass notifizierte Stellen, die nach den in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden und Hochrisiko-KI-Systeme bewerten sollen, die unter die in Anhang I Abschnitt A der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, innerhalb von 18 Monaten nach [dem Geltungsbeginn der vorliegenden Verordnung] die Benennung als notifizierte Stelle gemäß der genannten Verordnung beantragen sollten. Diese Änderung lässt Artikel 28 der Verordnung (EU) 2024/1689 unberührt. Ferner sollte die Verordnung (EU) 2024/1689 geändert werden, um klarzustellen, dass in Fällen, in denen ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter einen der in Anhang III der genannten Verordnung aufgeführten Anwendungsfälle fällt, der Anbieter das einschlägige Konformitätsbewertungsverfahren gemäß diesen einschlägigen Harmonisierungsrechtsvorschriften befolgen sollte.

entfällt

Abänderung 9Vorschlag für eine VerordnungErwägung 8 a (neu)

(8a)Die Verordnung (EU) 2024/1689 und die Verordnung (EU) 2024/2847 ergänzen sich gegenseitig, um so die Sicherheit und Cybersicherheit von Produkten mit digitalen Elementen zu gewährleisten. Es ist notwendig, dafür zu sorgen, dass die Verordnung (EU) 2024/1689 und die Verordnung (EU) 2024/2847 aneinander angeglichen werden, um ihre reibungslose Umsetzung zu ermöglichen. Genügen die Hochrisiko-KI-Systeme den in der Verordnung (EU) 2024/2847 festgelegten grundlegenden Cybersicherheitsanforderungen, so gelten sie als mit den Cybersicherheitsanforderungen gemäß Artikel 15 der Verordnung (EU) 2024/1689 konform, soweit diese Anforderungen von der nach der Verordnung (EU) 2024/2847 ausgestellten EU-Konformitätserklärung oder Teilen davon abgedeckt sind.

Abänderung 10Vorschlag für eine VerordnungErwägung 8 b (neu)

(8b)Für die Zwecke dieser Verordnung sollte die Tatsache, dass ein KI-System in ein Produkt integriert ist oder in einem Produkt zum Einsatz kommt, das den Harmonisierungsrechtsvorschriften der Union in Bezug auf die Produktsicherheit unterliegt, für sich genommen nicht bedeuten, dass das KI-System eine Sicherheitsfunktion erfüllt. Ein KI-System sollte nur dann als ein System angesehen werden, das eine Sicherheitsfunktion erfüllt, wenn seine Leistung erforderlich ist, um sicherzustellen, dass das Produkt oder das KI-System den einschlägigen Sicherheitsanforderungen der Union entspricht. Im Gegensatz dazu sollten Funktionen, die ausschließlich dazu dienen, den Benutzer bei der Bedienung zu unterstützen, die Leistung zu optimieren, die Dienstleistungseffizienz zu steigern, Prozesse zu automatisieren, die Benutzerfreundlichkeit zu verbessern oder die Qualität in nicht sicherheitsrelevanten Bereichen zu kontrollieren, nicht als Sicherheitsfunktionen im Sinne dieser Verordnung angesehen werden, sofern ihr Ausfall keine unmittelbaren Risiken für die Gesundheit oder Sicherheit mit sich bringt.

Abänderung 11Vorschlag für eine VerordnungErwägung 9

(9)Um die Verfahren zur Sicherstellung der Einhaltung der Vorschriften zu straffen und die damit verbundenen Kosten zu senken, sollten Anbieter von KI-Systemen nicht verpflichtet sein, die in Artikel 6 Absatz 3 der Verordnung (EU) 2024/1689 genannten KI-Systeme in der EU-Datenbank gemäß Artikel 49 Absatz 2 der genannten Verordnung zu registrieren. Da solche Systeme unter bestimmten Bedingungen nicht als hochriskant gelten, wenn sie etwa kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen, würde die Auferlegung von Registrierungsanforderungen einen unverhältnismäßigen Befolgungsaufwand darstellen. Gleichwohl bleibt ein Anbieter, der der Auffassung ist, dass ein KI-System unter Artikel 6 Absatz 3 fällt, weiterhin verpflichtet, seine Bewertung zu dokumentieren, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Diese Bewertung kann von den zuständigen nationalen Behörden beantragt werden.

(9)Um die Verfahren zur Sicherstellung der Einhaltung der Vorschriften zu straffen und die damit verbundenen Kosten zu senken, sollte die Registrierung der in Artikel 6 Absatz 3 der Verordnung (EU) 2024/1689 genannten KI-Systeme in der EU-Datenbank gemäß Artikel 49 Absatz 2 der genannten Verordnung vereinfacht werden, indem die erforderlichen Inhalte in Anhang VIII Abschnitt B der genannten Verordnung gestrafft werden. Zwar ist es für eine wirksame Marktüberwachung und die öffentliche Rechenschaftspflicht nach wie vor unerlässlich, dass solche KI-Systeme in der EU-Datenbank registriert werden, doch sollten die Registrierungsanforderungen vereinfacht und verhältnismäßiger gestaltet werden. Mit dieser Vereinfachung wird ein besseres Gleichgewicht hergestellt, ohne den in der Verordnung (EU) 2024/1689 vorgesehenen Schutz zu beeinträchtigen. Solche Systeme gelten unter bestimmten Bedingungen nicht als hochriskant, wenn sie etwa kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen. Darüber hinaus bleibt ein Anbieter, der Artikel 6 Absatz 3 anwendet, weiterhin verpflichtet, seine Bewertung zu dokumentieren, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Diese Bewertung kann von den zuständigen nationalen Behörden beantragt werden.

Abänderung 12Vorschlag für eine VerordnungErwägung 10

(10)Die Artikel 57, 58 und 60 der Verordnung (EU) 2024/1689 sollten geändert werden, um die Zusammenarbeit von KI-Reallaboren auf Unionsebene weiter zu stärken, Klarheit und Kohärenz bei der Governance von KI-Reallaboren zu fördern und Hochrisiko-KI-Systeme, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, in Tests unter Realbedingungen außerhalb von KI-Reallaboren einzubeziehen. Insbesondere um die Verfahren der in den KI-Reallaboren beaufsichtigten Projekte, die auch Tests unter Realbedingungen umfassen, gegebenenfalls zu vereinfachen, sollte der Plan für einen Test unter Realbedingungen in den von den Anbietern oder zukünftigen Anbietern und der zuständigen Behörde vereinbarten Plan für das Reallabor in einem einzigen Dokument integriert werden. Des Weiteren sollte dem Büro für Künstliche Intelligenz die Möglichkeit eingeräumt werden, auf Unionsebene ein KI-Reallabor für KI-Systeme einzurichten, die unter Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 fallen. Bei Beratungen innerhalb des Gremiums sollten der Europäische Datenschutzbeauftragte und das Büro für Künstliche Intelligenz im Rahmen ihrer jeweiligen Aufgaben im Gremium Rückmeldungen geben und sich über bewährte Verfahren in Bezug auf die Einrichtung und den Betrieb von KI-Reallaboren austauschen, die im Rahmen ihrer jeweiligen Zuständigkeiten geschaffen wurden. Durch die Nutzung dieser Infrastrukturen und die Förderung der grenzüberschreitenden Zusammenarbeit ließen sich die Koordinierung straffen und die Ressourcen bestmöglich einsetzen. Um Innovationen voranzutreiben und die Einführung von KI zu erleichtern, sollten KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen vorrangigen Zugang zu den vom Büro für Künstliche Intelligenz eingerichteten KI-Reallaboren erhalten.

Wenn KI-Reallabore, darunter auch die kontrollierte Umgebung zur Förderung von Innovationen, innovative KI-Systeme umfassen, die personenbezogene Daten verarbeiten, dann sollten die zuständigen nationalen Aufsichtsbehörden entsprechend ihren Aufgaben und Befugnissen einbezogen werden.

Abänderung 13Vorschlag für eine VerordnungErwägung 11

(11)Zur Förderung von Innovationen sollte auch der Anwendungsbereich der Tests unter Realbedingungen außerhalb von KI-Reallaboren nach Artikel 60 der Verordnung (EU) 2024/1689 ausgeweitet werden, die derzeit für die in Anhang III der genannten Verordnung aufgeführten Hochrisiko-KI-Systeme durchgeführt werden müssen; zudem sollte es Anbietern und zukünftigen Anbietern von Hochrisiko-KI-Systemen, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ermöglicht werden, solche Systeme auch unter Realbedingungen zu testen. Das Unionsrecht oder nationale Recht über das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im Zusammenhang mit Produkten, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, bleibt davon unberührt. Um der besonderen Situation von Hochrisiko-KI-Systemen Rechnung zu tragen, die unter die in Anhang I Abschnitt B der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ist es erforderlich, den Abschluss freiwilliger Vereinbarungen zwischen der Kommission und den Mitgliedstaaten zu ermöglichen, um die Tests solcher Hochrisiko-KI-Systeme unter Realbedingungen durchzuführen zu können.

Abänderung 14Vorschlag für eine VerordnungErwägung 12 a (neu)

(12a)Damit das Büro für Künstliche Intelligenz seine Aufgaben gemäß der Verordnung (EU) 2024/1689 wirksam wahrnehmen kann, und angesichts der neuen Befugnisse, die ihm durch die vorliegende Verordnung übertragen werden, sollten – unbeschadet des Haushaltsverfahrens und der bestehenden Finanzierungsinstrumente – angemessene personelle, finanzielle und technische Ressourcen bereitgestellt werden. Vor allem sollte das Büro für Künstliche Intelligenz mit ausreichend Personal ausgestattet sein, das unter anderem über fundierte Kenntnisse im Bereich der KI-Technologien verfügt.

Abänderung 15Vorschlag für eine VerordnungErwägung 13

(13)Artikel 69 der Verordnung (EU) 2024/1689 sollte geändert werden, um die Gebührenstruktur des wissenschaftlichen Gremiums zu vereinfachen. Nehmen die Mitgliedstaaten das Fachwissen des Gremiums in Anspruch, sollten die für die Sachverständigen zu zahlenden Gebühren derjenigen Vergütung gleichkommen, die die Kommission unter ähnlichen Umständen zu zahlen hat. Ferner sollten die Mitgliedstaaten die Sachverständigen des wissenschaftlichen Gremiums ohne Beteiligung der Kommission direkt konsultieren können, um die komplexen Verfahren zu vereinfachen.

Abänderung 16Vorschlag für eine VerordnungErwägung 14

(14)Um das Governance-System für KI-Systeme zu stärken, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen, muss die Rolle des Büros für Künstliche Intelligenz bei der Überwachung und Beaufsichtigung der Konformität solcher KI-Systeme mit der Verordnung (EU) 2024/1689 klargestellt werden, wobei KI-Systeme im Zusammenhang mit Produkten, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ausgenommen werden. Während die sektorspezifischen Behörden weiterhin für die Beaufsichtigung von KI-Systemen im Zusammenhang mit Produkten zuständig sind, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, sollte Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 geändert werden, sodass das Büro für Künstliche Intelligenz im Rahmen seiner Beaufsichtigungstätigkeit sämtliche KI-Systeme berücksichtigt, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen und vom selben Anbieter entwickelt werden. Dies gilt nicht für KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden und gemäß Artikel 74 Absatz 9 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Europäischen Datenschutzbeauftragten unterliegen. Um eine wirksame Beaufsichtigung dieser KI-Systeme im Einklang mit den Aufgaben und Zuständigkeiten der Marktüberwachungsbehörden gemäß der Verordnung (EU) 2024/1689 zu gewährleisten, sollte das Büro für Künstliche Intelligenz befugt sein, geeignete Maßnahmen und Entscheidungen zu treffen, um seine in jenem Abschnitt und in der Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates11 vorgesehenen Befugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 sollte sinngemäß gelten. Darüber hinaus sollten die an der Anwendung der Verordnung (EU) 2024/1689 beteiligten Behörden bei der Ausübung dieser Befugnisse aktiv zusammenarbeiten, insbesondere wenn Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats zu treffen sind.

(14)Um das Governance-System für KI-Systeme zu stärken, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen, muss die Rolle des Büros für Künstliche Intelligenz bei der Überwachung und Beaufsichtigung der Konformität solcher KI-Systeme mit der Verordnung (EU) 2024/1689 klargestellt werden, wobei KI-Systeme im Zusammenhang mit Produkten, die unter die in Anhang I der genannten Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und KI-Systeme, die in Anhang III Nummer 2 der genannten Verordnung aufgeführt werden, ausgenommen werden. Während die sektorspezifischen Behörden weiterhin für die Beaufsichtigung von KI-Systemen im Zusammenhang mit Produkten zuständig sind, die unter diese Harmonisierungsrechtsvorschriften der Union fallen, sollte Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 geändert werden, sodass das Büro für Künstliche Intelligenz im Rahmen seiner Beaufsichtigungstätigkeit sämtliche KI-Systeme berücksichtigt, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen und vom selben Anbieter entwickelt werden. Dies gilt nicht für KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden und gemäß Artikel 74 Absatz 9 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Europäischen Datenschutzbeauftragten unterliegen. Um eine wirksame Beaufsichtigung dieser KI-Systeme im Einklang mit den Aufgaben und Zuständigkeiten der Marktüberwachungsbehörden gemäß der Verordnung (EU) 2024/1689 zu gewährleisten, sollte das Büro für Künstliche Intelligenz geeignete Maßnahmen und Entscheidungen treffen, um seine in jenem Abschnitt und in der Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates11 vorgesehenen Befugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 sollte sinngemäß gelten. Darüber hinaus sollten die an der Anwendung der Verordnung (EU) 2024/1689 beteiligten Behörden bei der Ausübung dieser Befugnisse aktiv zusammenarbeiten, insbesondere wenn Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats zu treffen sind.

__________________

11 Verordnung (EU) 2019/1020 des Europäischen Parlaments und des Rates vom 20. Juni 2019 über Marktüberwachung und die Konformität von Produkten sowie zur Änderung der Richtlinie 2004/42/EG und der Verordnungen (EG) Nr. 765/2008 und (EU) Nr. 305/2011 (ABl. L 169 vom 25.6.2019, S. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

Abänderung 17Vorschlag für eine VerordnungErwägung 16

(16)Um die Beaufsichtigung und Durchsetzung durch das Büro für Künstliche Intelligenz gemäß Artikel 75 Absatz 1 der Verordnung (EU) 2024/1689 weiter in die Praxis umzusetzen, muss präzisiert werden, welche der in Artikel 14 der Verordnung (EU) 2019/1020 aufgeführten Befugnisse dem Büro für Künstliche Intelligenz übertragen werden sollten. Der Kommission sollte daher die Befugnis übertragen werden, Durchführungsrechtsakte zu erlassen, um diese Befugnisse, einschließlich der Befugnis, Sanktionen wie Geldbußen oder andere verwaltungsrechtliche Sanktionen im Einklang mit den in Artikel 99 genannten Bedingungen und Obergrenzen zu verhängen, und die anwendbaren Verfahren festzulegen. So soll sichergestellt werden, dass das Büro für Künstliche Intelligenz über die erforderlichen Instrumente verfügt, um die Einhaltung der Verordnung (EU) 2024/1689 wirksam zu überwachen und zu beaufsichtigen.

(Betrifft nicht die deutsche Fassung.)

Abänderung 18Vorschlag für eine VerordnungErwägung 18

(18)Um KI-Systemen, die nach Artikel 75 der Verordnung (EU) 2024/1689 der Beaufsichtigung des Büros für Künstliche Intelligenz und einer Konformitätsbewertung durch Dritte unterliegen, den Zugang zum Unionsmarkt zu ermöglichen, sollte die Kommission sicherstellen, dass für diese Systeme dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen durchgeführt werden. Darüber hinaus sollte das Büro für Künstliche Intelligenz geordnete Aufzeichnungen über die Kommunikation mit Anbietern und Betreibern von KI-Modellen mit allgemeinem Verwendungszweck, die ein systemisches Risiko bergen, führen. Diese Aufzeichnungen sollten einheitlich dokumentiert werden.

Abänderung 19Vorschlag für eine VerordnungErwägung 19

(19)Artikel 77 und die damit zusammenhängenden Bestimmungen der Verordnung (EU) 2024/1689 stellen einen wichtigen Governance-Mechanismus dar, da sie die für die Durchsetzung oder Beaufsichtigung des Unionsrechts zum Schutz der Grundrechte zuständigen Behörden oder Stellen dazu befähigen sollen, ihren Auftrag unter bestimmten Bedingungen zu erfüllen, und zugleich die Zusammenarbeit mit den für die Beaufsichtigung und Durchsetzung der genannten Verordnung zuständigen Marktüberwachungsbehörden fördern sollen. Es ist erforderlich, den Umfang dieser Zusammenarbeit zu präzisieren und klarzustellen, welche Behörden oder öffentlichen Stellen davon profitieren. Um die Zusammenarbeit zu verstärken, sollte klargestellt werden, dass Anträge auf Zugang zu Informationen und Unterlagen an die zuständige Marktüberwachungsbehörde gerichtet werden sollten, die mit der unverzüglichen Abwicklung solcher Anträge befasst ist, und dass die beteiligten Behörden oder Stellen gegenseitig zur Zusammenarbeit verpflichtet werden sollten. Es sollte präzisiert werden, dass diese Bestimmungen unbeschadet der Aufgaben, Befugnisse und Unabhängigkeit gelten, die die zuständigen nationalen Behörden oder öffentlichen Stellen im Rahmen ihres jeweiligen Auftrags haben. Insbesondere schränken diese Bestimmungen nicht die Befugnisse ein, über die diese Behörden und Stellen nach anderen Bestimmungen des Unionsrechts oder nationalem Recht verfügen, wenn es um die Einholung von Auskünften geht. Dementsprechend behalten diese Behörden und Stellen die Befugnis, Auskünfte gemäß ihrem Auftrag oder anderen Rechtsvorschriften direkt bei den Betreibern einzuholen.

Abänderung 20Vorschlag für eine VerordnungErwägung 20

(20)Um Anbietern generativer KI-Systeme, die den Kennzeichnungspflichten gemäß Artikel 50 Absatz 2 der Verordnung (EU) 2024/1689 unterliegen, ausreichend Zeit einzuräumen, um ihre Verfahren innerhalb einer angemessenen Frist anzupassen, ohne dabei den Markt zu stören, ist es angezeigt, einen Übergangszeitraum von sechs Monaten für Anbieter einzuführen, die ihre Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben.

(20)Um Anbietern generativer KI-Systeme, die den Kennzeichnungspflichten gemäß Artikel 50 Absatz 2 der Verordnung (EU) 2024/1689 unterliegen, ausreichend Zeit einzuräumen, um ihre Verfahren innerhalb einer angemessenen Frist anzupassen, ohne dabei den Markt zu stören, ist es angezeigt, einen Übergangszeitraum von drei Monaten für Anbieter einzuführen, die ihre Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben.

Abänderung 21Vorschlag für eine VerordnungErwägung 22

(22)In Artikel 113 der Verordnung (EU) 2024/1689 sind die Daten des Inkrafttretens und des Geltungsbeginns der Verordnung festgelegt, insbesondere, dass der allgemeine Geltungsbeginn der 2. August 2026 ist. In Bezug auf die in Kapitel III Abschnitte 1, 2 und 3 der Verordnung (EU) 2024/1689 festgelegten Verpflichtungen im Zusammenhang mit Hochrisiko-KI-Systemen führen die verzögerte Verfügbarkeit von Normen, gemeinsamen Spezifikationen und alternativen Leitlinien und die verzögerte Einrichtung der zuständigen nationalen Behörden zu Herausforderungen, die das wirksame Inkrafttreten dieser Verpflichtung gefährden, und zu dem Risiko einer derart erheblichen Erhöhung der Umsetzungskosten, dass es nicht gerechtfertigt ist, ihren ursprünglichen Geltungsbeginn, d. h. den 2. August 2026, beizubehalten. Auf der Grundlage der bisherigen Erfahrungen sollte ein Mechanismus geschaffen werden, der das Inkrafttreten an die Verfügbarkeit von Maßnahmen zur Unterstützung der Einhaltung von Kapitel III knüpft, die harmonisierte Normen, gemeinsame Spezifikationen und Leitlinien der Kommission umfassen können. Dies sollte von der Kommission durch einen Beschluss bestätigt werden, gemäß dem die Vorschriften für Hochrisiko-KI-Systeme für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, nach sechs Monaten und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der Verordnung (EU) 2024/1689 als hochriskant eingestuft sind, nach 12 Monaten gelten sollten. Diese Flexibilität sollte jedoch für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, nur bis zum 2. Dezember 2027 und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, nur bis zum 2. August 2028 verlängert werden; bis zu diesen Zeitpunkten sollten die Vorschriften in jedem Fall in Kraft treten. Die unterschiedlichen Zeitpunkte des Inkrafttretens der Vorschriften für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III bzw. Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, richten sich nach den in der Verordnung (EU) 2024/1689 ursprünglich vorgesehenen Zeitpunkten des Geltungsbeginns und dienen dazu, die erforderliche Zeit für die Anpassung und Umsetzung der entsprechenden Verpflichtungen einzuräumen.

(22)In Artikel 113 der Verordnung (EU) 2024/1689 sind die Daten des Inkrafttretens und des Geltungsbeginns der Verordnung festgelegt, insbesondere, dass der allgemeine Geltungsbeginn der 2. August 2026 ist. In Bezug auf die in Kapitel III Abschnitte 1, 2 und 3 der Verordnung (EU) 2024/1689 festgelegten Verpflichtungen im Zusammenhang mit Hochrisiko-KI-Systemen führen die verzögerte Verfügbarkeit von Normen, gemeinsamen Spezifikationen und alternativen Leitlinien und die verzögerte Einrichtung der zuständigen nationalen Behörden zu Herausforderungen, die das wirksame Inkrafttreten dieser Verpflichtung gefährden, und zu dem Risiko einer derart erheblichen Erhöhung der Umsetzungskosten, dass es nicht gerechtfertigt ist, ihren ursprünglichen Geltungsbeginn, d. h. den 2. August 2026, beizubehalten. Es ist zweckmäßig, dass der Geltungsbeginn der Verpflichtungen für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der Verordnung (EU) 2024/1689 als hochriskant eingestuft sind, für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, auf den 2. Dezember 2027 und für KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, auf den 2. August 2028 verschoben wird. Die unterschiedlichen Zeitpunkte des Inkrafttretens der Vorschriften für KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III bzw. Artikel 6 Absatz 1 und Anhang I der genannten Verordnung als hochriskant eingestuft sind, richten sich nach den in der Verordnung (EU) 2024/1689 ursprünglich vorgesehenen Zeitpunkten des Geltungsbeginns und dienen dazu, die erforderliche Zeit für die Anpassung und Umsetzung der entsprechenden Verpflichtungen einzuräumen.

Abänderung 22Vorschlag für eine VerordnungErwägung 22 a (neu)

(22a)Um Rechtssicherheit zu gewährleisten und zu verhindern, dass es bei der Anwendung dieser Verordnung zu weiteren Verzögerungen kommt, sollte die Kommission sicherstellen, dass mit Blick auf die Einhaltung von Kapitel III Abschnitte 1, 2 und 3 rechtzeitig Unterstützungsmaßnahmen ergriffen werden, um eine rechtzeitige und wirksame Umsetzung der erforderlichen Bestimmungen zu gewährleisten.

Abänderung 23Vorschlag für eine VerordnungErwägung 23

(23)Angesichts des Ziels, die Herausforderungen für Bürgerinnen und Bürger, Unternehmen und öffentliche Verwaltungen bei der Umsetzung zu verringern, ist es von wesentlicher Bedeutung, dass harmonisierte Bedingungen für die Anwendung bestimmter Vorschriften nur angenommen werden, wenn dies unbedingt erforderlich ist. Zu diesem Zweck ist es angezeigt, bestimmte der Kommission übertragene Befugnisse, solche harmonisierten Bedingungen im Wege von Durchführungsrechtsakten zu erlassen, zu streichen, wenn diese Bedingungen nicht erfüllt sind. Die Verordnung (EU) 2024/1689 sollte daher geändert werden, um die der Kommission in Artikel 50 Absatz 7, Artikel 56 Absatz 6 und Artikel 72 Absatz 3 der genannten Verordnung übertragenen Befugnisse zum Erlass von Durchführungsrechtsakten zu streichen. Die Streichung der Befugnis zur Annahme eines harmonisierten Musters des Plans für die Beobachtung nach dem Inverkehrbringen in Artikel 72 Absatz 3 der Verordnung (EU) 2024/1689 hat den zusätzlichen Vorteil, dass so den Anbietern von Hochrisiko-KI-Systemen mehr Flexibilität bei der Einrichtung eines auf ihre Organisation zugeschnittenen Systems für die Beobachtung nach dem Inverkehrbringen geboten wird. Gleichzeitig sollte die Kommission angesichts der Notwendigkeit, Klarheit darüber zu schaffen, wie Anbieter von Hochrisiko-KI-Systemen die Anforderungen erfüllen müssen, verpflichtet sein, Leitlinien zu veröffentlichen.

(23)Angesichts des Ziels, die Herausforderungen zu verringern, auf die Bürgerinnen und Bürger, Unternehmen und öffentliche Verwaltungen bei der Umsetzung stoßen, ist es von wesentlicher Bedeutung, dass harmonisierte Bedingungen für die Anwendung bestimmter Vorschriften nur angenommen werden, wenn dies unbedingt erforderlich ist. Zu diesem Zweck ist es angezeigt, bestimmte der Kommission übertragene Befugnisse, solche harmonisierten Bedingungen im Wege von Durchführungsrechtsakten zu erlassen, zu streichen, wenn diese Bedingungen nicht erfüllt sind. Die Verordnung (EU) 2024/1689 sollte daher geändert werden, um die der Kommission mit Artikel 50 Absatz 7, Artikel 56 Absatz 6 und Artikel 72 Absatz 3 der genannten Verordnung übertragenen Befugnisse zum Erlass von Durchführungsrechtsakten zu streichen. Gleichzeitig sollte die Kommission angesichts der Notwendigkeit, Klarheit darüber zu schaffen, wie Anbieter von Hochrisiko-KI-Systemen ihre Überwachungspflichten erfüllen müssen, verpflichtet sein, bis zum 2. Februar 2027 Leitlinien zu dem Plan für die Beobachtung nach dem Inverkehrbringen einschließlich eines Musters mit in diesen Plan aufzunehmenden Bestandteilen zu veröffentlichen.

Abänderung 24Vorschlag für eine VerordnungErwägung 23 a (neu)

(23a)Die parallele Anwendung der in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates aufgeführten sektorspezifischen Harmonisierungsrechtsvorschriften der Union und der in der genannten Verordnung festgelegten Anforderungen an Hochrisiko-KI-Systeme kann zu Überschneidungen bei den Anforderungen und unnötigem Verwaltungsaufwand für die Wirtschaftsakteure führen. Aus Überschneidungen dieser Art könnten sich Rechtsunsicherheit, erhöhte Befolgungskosten und unter Umständen Wettbewerbsnachteile ergeben, ohne dass damit zusätzliche Vorteile für den Schutz der Gesundheit, der Sicherheit oder der Grundrechte verbunden wären. Um für einen kohärenteren Rechtsrahmen zu sorgen, bei dem zugleich eine bessere Verhältnismäßigkeit gewahrt wird, und die Anwendung der Anforderungen an Systeme der künstlichen Intelligenz zu vereinfachen, die in Produkte eingebettet sind, die unter Harmonisierungsrechtsvorschriften der Union fallen, sollten die derzeit in Anhang I Abschnitt A der Verordnung (EU) 2024/1689 aufgeführten Verweise auf die Harmonisierungsrechtsvorschriften der Union daher in Abschnitt B des genannten Anhangs verschoben werden. Durch dieses Vorgehen wird verdeutlicht, dass Systeme der künstlichen Intelligenz, die in Produkte integriert sind, die unter diese sektorspezifischen Rechtsakte fallen, gegebenenfalls den Anforderungen der vorliegenden Verordnung unterliegen, während die in den jeweiligen sektorspezifischen Rechtsvorschriften vorgesehenen Konformitätsbewertungsverfahren und Produktsicherheitsanforderungen weiterhin den primären Rahmen bilden. Sollten im Zusammenhang mit Systemen der künstlichen Intelligenz, die in solche Produkte integriert sind, Lücken verbleiben, so sollten diese im Rahmen der einschlägigen sektorspezifischen Rechtsvorschriften geschlossen werden.

Abänderung 25Vorschlag für eine VerordnungErwägung 23 b (neu)

(23b)Um den horizontalen Charakter dieser Verordnung zu wahren und das reibungslose Funktionieren des Binnenmarkts sicherzustellen, sollten die in Kapitel III Abschnitt 2 dieser Verordnung festgelegten einschlägigen Anforderungen als grundlegende Gesundheits- und Sicherheitsanforderungen für Hochrisiko-KI-Systeme gelten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und über diese sektorspezifischen Rahmen hinweg einheitlich und kohärent angewandt werden. Zu diesem Zweck sollte die Kommission befugt sein, delegierte Rechtsakte unter Berücksichtigung der in Kapitel III Abschnitt 2 dieser Verordnung festgelegten Anforderungen hinsichtlich ihrer Anwendung auf KI-Systeme, die in ihren Anwendungsbereich fallen, sowie einschlägiger harmonisierter Normen zu erlassen. Dabei sollte die Kommission nicht über die zu diesem Zweck in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinausgehen, und sie sollte die konkreten Zusammenhänge der sektorspezifischen Rechtsvorschriften berücksichtigen. Vor dem Erlass der in Unterabsatz 1 genannten Rechtsakte sollte die Kommission offene und transparente Konsultationen mit den einschlägigen Interessenträgern, zu denen unter anderem die zuständigen Behörden, notifizierte Stellen, die Zivilgesellschaft und die Industrie gehören, durchführen.

Abänderung 26Vorschlag für eine VerordnungErwägung 25 a (neu)

(25a)Bei der Durchführung und Durchsetzung dieser Verordnung sollten die zuständigen nationalen Behörden, das Büro für Künstliche Intelligenz und die Kommission die in Artikel 1 Absatz 1 der Verordnung (EU) 2024/1689 festgelegten Ziele berücksichtigen und die Grundsätze der Notwendigkeit, Verhältnismäßigkeit, Rechtssicherheit und Technologieneutralität befolgen und gleichzeitig sicherstellen, dass unnötiger Verwaltungs- und Befolgungsaufwand so gering wie möglich gehalten wird.

Abänderung 27Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 2Regulation (EU) 2024/1689Artikel 2 – Absatz 2

„(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, Artikel 60a, Artikel 102 bis 109, Artikel 111 und Artikel 112. Artikel 57 gilt nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union eingebunden wurden.“

„(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, Artikel 60a, Artikel 102 bis 109, Artikel 110a bis 110l, Artikel 111 und Artikel 112. Artikel 57 gilt nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union eingebunden wurden.“

Abänderung 28Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 4Verordnung (EU) 2024/1689Artikel 4 – Absatz 1

Die Kommission und die Mitgliedstaaten halten die Anbieter und Betreiber von KI-Systemen dazu an, Maßnahmen zu ergreifen, die sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihr Ausbildungs- und Schulungsniveau und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

(1)Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Verbesserung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre allgemeine und berufliche Bildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind. Diese Verpflichtung erstreckt sich nicht darauf, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.

Abänderung 29Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 4Verordnung (EU) 2024/1689Artikel 4 – Absatz 1 a (neu)

(1a) Die Kommission gibt Leitlinien dazu heraus, wie die Verpflichtung der Anbieter und Betreiber von KI-Systemen gemäß Absatz 1 in der Praxis umzusetzen ist.

Abänderung 30Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 4Verordnung (EU) 2024/1689Artikel 4 – Absatz 1 b (neu)

(1b) Die Kommission und die Mitgliedstaaten fördern und unterstützen die KI-Kompetenz in der Gesellschaft und in der Gesamtbevölkerung und unterstützen, begünstigen und ergänzen die Bemühungen der Anbieter und Betreiber von KI-Systemen bei der Erfüllung ihrer Verpflichtung nach Absatz 1 und vor allem die diesbezüglichen Bemühungen von KMU beispielsweise dadurch, dass sie öffentlich-private Partnerschaften schaffen.“

Abänderung 31Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 5Verordnung (EU) 2024/1689Artikel 4 a (neu) – Absatz 1

(1)Soweit dies zur Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen im Einklang mit Artikel 10 Absatz 2 Buchstaben f und g dieser Verordnung erforderlich ist, dürfen die Anbieter solcher Systeme ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, wobei sie angemessene Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten natürlicher Personen treffen müssen. Zusätzlich zu den Vorkehrungen der Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, müssen alle folgenden Bedingungen erfüllt sein, damit eine solche Verarbeitung stattfinden darf:

(1)Soweit dies zur Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen im Einklang mit Artikel 10 Absatz 2 Buchstaben f und g dieser Verordnung unbedingt erforderlich ist, dürfen die Anbieter solcher Systeme ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, wobei sie angemessene Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten natürlicher Personen treffen müssen. Zusätzlich zu den in den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, genannten Vorkehrungen müssen alle folgenden Bedingungen erfüllt sein, damit eine solche Verarbeitung stattfinden darf:

Abänderung 32Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 5Verordnung (EU) 2024/1689Artikel 4 a (neu) – Absatz 2

(2)Absatz 1 kann auf Anbieter und Betreiber anderer KI-Systeme und KI-Modelle und auf Betreiber von Hochrisiko-KI-Systemen angewandt werden, wenn dies zu den dort genannten Zwecken erforderlich und verhältnismäßig ist und sofern die Bedingungen der in diesem Absatz festgelegten Vorkehrungen erfüllt sind.“

(2)Anbieter und Betreiber anderer KI-Systeme und KI-Modelle und Betreiber von Hochrisiko-KI-Systemen dürfen ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, sofern

a)Die Verarbeitung zur Erkennung und Korrektur von Verzerrungen im Hinblick auf mögliche Verzerrungen erforderlich ist, die die Gesundheit und Sicherheit von Personen beeinträchtigen, negative Auswirkungen hinsichtlich der Grundrechte haben oder zu einer nach den Rechtsvorschriften der Union verbotenen Diskriminierung führen dürften, insbesondere wenn die Datenausgaben die Eingaben für künftige Operationen beeinflussen, und

b)alle in Absatz 1 genannten Bedingungen und Vorkehrungen Anwendung finden.

Dieser Absatz begründet keine Verpflichtung, eine solche Erkennung und Korrektur von Verzerrungen vorzunehmen.“

Abänderung 33Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 5 a (neu)Verordnung (EU) 2024/1689Artikel 5 – Absatz 1 – Unterabsatz 1 – Buchstabe h a (neu)

5a.In Artikel 5 Absatz 1 Unterabsatz 1 wird folgender Buchstabe angefügt:

„ha) das Inverkehrbringen, die Inbetriebnahme und die Verwendung eines KI-Systems, das realistische Bilder oder Videos so verändert, manipuliert oder künstlich erzeugt, dass eindeutig sexuelle Handlungen oder intime Körperteile einer bestimmbaren natürlichen Person dargestellt werden, ohne dass diese Person ihre Einwilligung erteilt hat.

Dieses Verbot gilt nicht für Anbieter oder Betreiber von KI-Systemen, die wirksame Sicherheitsmaßnahmen ergriffen haben, um der Erzeugung solcher Darstellungen vorzubeugen und dauerhaft zu verhindern, dass das System nach seinem Inverkehrbringen oder seiner Inbetriebnahme entgegen der Absicht des Anbieters oder Betreibers missbräuchlich verwendet wird.

Dieses Verbot hindert KI-Anbieter nicht daran, die in Unterabsatz 1 genannten Fähigkeiten zu entwickeln.“

Abänderung 34Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 5 b (neu)Verordnung (EU) 2024/1689Artikel 6 – Absatz 1

5b.Artikel 6 Absatz 1 wird wie folgt geändert:

(1)Ungeachtet dessen, ob ein KI-System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind:

„(1) Ungeachtet dessen, ob ein KI-System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind:

a)das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder das KI-System ist selbst ein solches Produkt;

a)das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden, wenn seine Leistung erforderlich ist, um sicherzustellen, dass das Produkt oder das KI-System den einschlägigen Sicherheitsanforderungen der Union entspricht, oder das KI-System ist selbst ein solches Produkt;

b)das Produkt, dessen Sicherheitsbauteil gemäß Buchstabe a das KI-System ist, oder das KI-System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden.

Abänderung 35Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 5 c (neu)Verordnung (EU) 2024/1689Artikel 6 – Absatz 1 a (neu)

5c.In Artikel 6 wird folgender Absatz 1a angefügt:

„(1a) Für die Zwecke dieser Verordnung werden Funktionen, die ausschließlich dazu dienen, den Benutzer bei der Bedienung zu unterstützen, die Leistung zu optimieren, die Dienstleistungseffizienz zu steigern, Prozesse zu automatisieren, die Benutzerfreundlichkeit zu verbessern oder die Qualität in nicht sicherheitsrelevanten Bereichen zu kontrollieren, nicht als Sicherheitsfunktionen im Sinne dieser Verordnung angesehen, sofern ihr Ausfall keine unmittelbaren Risiken für die Gesundheit oder Sicherheit mit sich bringt.“

Abänderung 36Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 6Verordnung (EU) 2024/1689Artikel 6 – Absatz 4

6.Artikel 6 Absatz 4 erhält folgende Fassung:

entfällt

„(4) Ein Anbieter, der der Auffassung ist, dass ein in Anhang III aufgeführtes KI-System nicht hochriskant ist, dokumentiert seine Bewertung, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. Auf Verlangen der zuständigen nationalen Behörden legt der Anbieter die Dokumentation der Bewertung vor.“

Abänderung 37Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 9 a (neu)Verordnung (EU) 2024/1689Artikel 25 – Absatz 2

9a.Artikel 25 Absatz 2 erhält folgende Fassung:

(2)Unter den in Absatz 1 genannten Umständen gilt der Anbieter, der das KI-System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, nicht mehr als Anbieter dieses spezifischen KI-Systems für die Zwecke dieser Verordnung. Dieser Erstanbieter arbeitet eng mit neuen Anbietern zusammen, stellt die erforderlichen Informationen zur Verfügung und sorgt für den vernünftigerweise zu erwartenden technischen Zugang und sonstige Unterstützung, die für die Erfüllung der in dieser Verordnung festgelegten Pflichten, insbesondere in Bezug auf die Konformitätsbewertung von Hochrisiko-KI-Systemen, erforderlich sind. Dieser Absatz gilt nicht in Fällen, in denen der Erstanbieter eindeutig festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf und daher nicht der Pflicht zur Übergabe der Dokumentation unterliegt.

„(2) Unter den in Absatz 1 genannten Umständen gilt der Anbieter, der das KI-System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, nicht mehr als Anbieter dieses spezifischen KI-Systems für die Zwecke dieser Verordnung.

Dieser Erstanbieter, wie auch jeder Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, dessen Modelle in Hochrisiko-KI-Systeme integriert sind, arbeitet eng mit neuen Anbietern zusammen, stellt die erforderlichen Informationen zur Verfügung und sorgt für den vernünftigerweise zu erwartenden technischen Zugang und sonstige Unterstützung, die für die Erfüllung der in dieser Verordnung festgelegten Pflichten, insbesondere in Bezug auf die Konformitätsbewertung von Hochrisiko-KI-Systemen, erforderlich sind.

Diese Pflicht umfasst folgende Aspekte:

a)die Bereitstellung einer technischen Dokumentation, die ausreicht, um die Einhaltung der Anforderungen nach Artikel 16 zu bewerten;

b)die Offenlegung bekannter Einschränkungen und Fehlerarten, die sich auf Anwendungen mit hohem Risiko auswirken könnten;

c)die Bereitstellung eines angemessenen technischen Zugangs zu Prüf- und Validierungszwecken.

Dieser Absatz gilt nicht in Fällen, in denen der Erstanbieter eindeutig festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf und daher nicht der Pflicht zur Übergabe der Dokumentation unterliegt.“

Abänderung 38Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 9 b (neu)Verordnung (EU) 2024/1689Artikel 27 – Absatz 4

9b.Artikel 27 Absatz 4 erhält folgende Fassung:

(4)Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, so ergänzt die Grundrechte-Folgenabschätzung gemäß Absatz 1 des vorliegenden Artikels diese Datenschutz-Folgenabschätzung.

„(4) Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, muss der Betreiber bei der Durchführung die Grundrechte-Folgenabschätzung gemäß Absatz 1 des vorliegenden Artikels entweder Verweise auf die einschlägigen Abschnitte dieser Datenschutz-Folgenabschätzung oder die einschlägigen Teile dieser Datenschutz-Folgenabschätzung in die Grundrechte-Folgenabschätzung aufnehmen.“

Abänderung 39Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 10Verordnung (EU) 2024/1689Artikel 28 – Absatz 8 (neu)

10.In Artikel 28 wird folgender Absatz 8 angefügt:

Die gemäß dieser Verordnung benannten notifizierenden Behörden, die für KI-Systeme zuständig sind, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, werden so eingerichtet, organisiert und geführt, dass sichergestellt ist, dass die Konformitätsbewertungsstelle, die ihre Benennung sowohl gemäß dieser Verordnung als auch gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union beantragt, die Möglichkeit erhält, einen einzigen Antrag zu stellen und sich einem einzigen Bewertungsverfahren zu unterziehen, um gemäß dieser Verordnung und den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt zu werden, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union ein solches einziges Antrags- und Bewertungsverfahren vorsehen.

entfällt

Abänderung 40Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 10Verordnung (EU) 2024/1689Artikel 28 – Absatz 8 (neu) – Unterabsatz 1

Das in diesem Absatz genannte einzige Antrags- und Bewertungsverfahren steht auch notifizierten Stellen offen, die bereits im Rahmen der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden, wenn diese notifizierten Stellen ihre Benennung gemäß dieser Verordnung beantragen, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union ein solches Verfahren vorsehen.

entfällt

Abänderung 41Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 10Verordnung (EU) 2024/1689Artikel 28 – Absatz 8 (neu) – Unterabsatz 2

In dem einzigen Antrags- und Bewertungsverfahren wird unnötige Doppelarbeit vermieden, auf den bestehenden Benennungsverfahren gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union aufgebaut und die Einhaltung der Anforderungen an notifizierte Stellen sowohl gemäß dieser Verordnung als auch gemäß den einschlägigen Harmonisierungsrechtsvorschriften der Union gewährleistet.

entfällt

Abänderung 42Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 11Verordnung (EU) 2024/1689Artikel 29 – Absatz 4 – Unterabsatz 2

Notifizierte Stellen, die im Rahmen einer der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden und das einzige Antrags- und Bewertungsverfahren gemäß Artikel 28 Absatz 8 in Anspruch nehmen, stellen den einzigen Antrag auf Bewertung bei der notifizierenden Behörde, die gemäß diesen Harmonisierungsrechtsvorschriften der Union benannt wurde.

entfällt

Abänderung 43Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 12 a (neu)Verordnung (EU) 2024/1689Artikel 42 – Absatz 2 a (neu)

12a.In Artikel 42 wird folgender Absatz eingefügt:

„(2a) Unterliegt ein KI-System den Anforderungen der Verordnung (EU) 2024/2847 sowie den Anforderungen des Artikels 15 und erfüllt dieses Hochrisiko-KI-System die grundlegenden Cybersicherheitsanforderungen der Verordnung (EU) 2024/2847, so wird davon ausgegangen, dass es die Cybersicherheitsanforderungen des Artikels 15 erfüllt, soweit diese Anforderungen von der gemäß der Verordnung (EU) 2024/2847 ausgestellten EU-Konformitätserklärung oder Teilen davon abgedeckt sind.“

Abänderung 44Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 13Verordnung (EU) 2024/1689Artikel 43 – Absatz 3

13.Artikel 43 Absatz 3 erhält folgende Fassung:

entfällt

„Bei den Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, befolgt der Anbieter des Systems das einschlägige Konformitätsbewertungsverfahren, das nach den einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist. Die in Abschnitt 2 dieses Kapitels festgelegten Anforderungen gelten für diese Hochrisiko-KI-Systeme und werden in diese Bewertung einbezogen. Die Bewertung des Qualitätsmanagementsystems gemäß Artikel 17 und Anhang VII findet ebenfalls Anwendung.

Für die Zwecke dieser Konformitätsbewertung sind die notifizierten Stellen, die gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, dazu befugt, die Konformität der Hochrisiko-KI-Systeme mit den in Abschnitt 2 festgelegten Anforderungen zu bewerten, sofern im Rahmen des gemäß den Harmonisierungsrechtsvorschriften der Union durchgeführten Notifizierungsverfahrens geprüft wurde, dass diese notifizierten Stellen die in Artikel 31 Absätze 4, 5, 10 und 11 festgelegten Anforderungen erfüllen. Unbeschadet des Artikels 28 beantragen solche notifizierten Stellen, die nach den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, ihre Benennung gemäß Abschnitt 4 spätestens [18 Monate nach Inkrafttreten dieser Verordnung].

Wenn eine in Anhang I Abschnitt A aufgeführte Harmonisierungsrechtsvorschrift der Union dem Hersteller des Produkts die Möglichkeit einräumt, auf eine Konformitätsbewertung durch Dritte zu verzichten, sofern dieser Hersteller harmonisierte Normen, die alle einschlägigen Anforderungen abdecken, angewandt hat, so darf dieser Hersteller nur dann von dieser Möglichkeit Gebrauch machen, wenn er auch harmonisierte Normen oder gegebenenfalls gemeinsame Spezifikationen gemäß Artikel 41, die alle in Abschnitt 2 dieses Kapitels festgelegten Anforderungen abdecken, angewandt hat.

Wenn ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter eine der in Anhang III aufgeführten Kategorien fällt, befolgt der Anbieter des Systems das einschlägige Konformitätsbewertungsverfahren, das nach den in Anhang I Abschnitt A aufgeführten einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist.“

Abänderung 45Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 13Verordnung (EU) 2024/1689Artikel 43 – Absatz 4 – Unterabsatz 3

entfällt

Abänderung 46Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 14Verordnung (EU) 2024/1689Artikel 49 – Absatz 2

14.Artikel 49 Absatz 2 wird gestrichen.

entfällt

Abänderung 47Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 15Verordnung (EU) 2024/1689Artikel 50 – Absatz 7

(7)Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung, Markierung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. Die Kommission kann nach dem Verfahren des Artikels 56 Absatz 6 Unterabsatz 1 prüfen, ob die Befolgung dieser Praxisleitfäden angemessen ist, um die Einhaltung der in Absatz 2 festgelegten Pflichten zu gewährleisten. Hält sie den Leitfaden für nicht angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden.

(7)Die Kommission fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung, Markierung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. Die Kommission prüft nach dem Verfahren des Artikels 56 Absatz 6 Unterabsatz 1, ob die Befolgung dieser Praxisleitfäden angemessen ist, um die Einhaltung der in Absatz 2 festgelegten Pflichten zu gewährleisten. Hält sie den Leitfaden für nicht angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden.

Abänderung 48Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 16Verordnung (EU) 2024/1689Artikel 56 – Absatz 6

(6)Die Kommission und das KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. Die Kommission bewertet unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums, ob die Praxisleitfäden die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, und überwacht und bewertet regelmäßig die Verwirklichung von deren Zielen. Die Kommission veröffentlicht ihre Bewertung der Angemessenheit der Praxisleitfäden.

(6)Die Kommission und das KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. Die Kommission bewertet unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums und anderer einschlägiger zuständiger Behörden, ob die Praxisleitfäden die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, und überwacht und bewertet regelmäßig die Verwirklichung von deren Zielen. Die Kommission veröffentlicht ihre Bewertung der Angemessenheit der Praxisleitfäden.

Abänderung 49Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 17 – Buchstabe aVerordnung (EU) 2024/1689Artikel 57 – Absatz 3 a (neu)

Das Büro für Künstliche Intelligenz kann ebenfalls auf Unionsebene ein KI-Reallabor für KI-Systeme einrichten, die unter Artikel 75 Absatz 1 fallen. Ein solches KI-Reallabor wird in enger Zusammenarbeit mit den jeweils zuständigen Behörden umgesetzt, insbesondere wenn die Einhaltung anderer Rechtsvorschriften der Union als dieser Verordnung im KI-Reallabor beaufsichtigt wird, und gewährt KMU vorrangigen Zugang dazu.

(3a) Das Büro für Künstliche Intelligenz kann ebenfalls auf Unionsebene ein KI-Reallabor für KI-Systeme einrichten, die unter Artikel 75 Absatz 1 fallen. Ein solches KI-Reallabor wird in enger Zusammenarbeit mit den jeweils zuständigen Behörden umgesetzt, insbesondere wenn die Einhaltung anderer Rechtsvorschriften der Union als dieser Verordnung im KI-Reallabor beaufsichtigt wird, und gewährt KMU, darunter Start-up-Unternehmen, vorrangigen Zugang dazu.

Soweit die in Absatz 5 genannten innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden bzw. anderer zuständiger Behörden unterliegen, die Zugang zu personenbezogenen Daten gewähren oder unterstützen, sorgt das Büro für Künstliche Intelligenz dafür, dass die nationalen Datenschutzbehörden, der EDSA oder diese anderen nationalen bzw. zuständigen Behörden in den Betrieb des KI-Reallabors, das auf der Ebene der EU einrichtet wurde, einbezogen und an der Überwachung dieser Aspekte beteiligt werden, soweit diese ihre jeweiligen Aufgaben und Befugnisse betreffen, in Übereinstimmung mit der Verordnung (EU) 2016/679, der Verordnung (EU) 2018/1725 und der Richtlinie (EU) 2018/680.

Abänderung 50Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 17 – Buchstabe bVerordnung (EU) 2024/1689Artikel 57 – Absatz 5

(5)Die nach diesem Artikel eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um die Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern, wobei sie dafür sorgen, dass angemessene Schutzvorkehrungen bestehen. In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. Der Plan für das Reallabor enthält, soweit zutreffend, den Plan für einen Test unter Realbedingungen in einem einzigen Dokument.“

(5)Die nach diesem Artikel eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um die Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und den zuständigen Behörden vereinbarten Reallabor-Plan zu erleichtern, wobei sie dafür sorgen, dass angemessene Schutzvorkehrungen bestehen. In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. Der Plan für das Reallabor enthält, soweit zutreffend, den Plan für einen Test unter Realbedingungen in einem einzigen Dokument.“

Abänderung 51Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 17 – Buchstabe eVerordnung (EU) 2024/1689Artikel 57 – Absatz 14

(14)Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums zusammen. Sie unterstützen die gemeinsame Einrichtung und den gemeinsamen Betrieb von KI-Reallaboren, auch in verschiedenen Sektoren.

Bei Beratungen im Rahmen des Gremiums geben der Europäische Datenschutzbeauftragte und das Büro für Künstliche Intelligenz im Rahmen ihrer Aufgaben im Gremium auch Rückmeldungen ab und tauschen sich über bewährte Verfahren zu Fragen im Zusammenhang mit der Einrichtung und dem Betrieb von KI-Reallaboren aus, die in ihrem jeweiligen Zuständigkeitsbereich eingerichtet wurden.

Abänderung 52Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 18Verordnung (EU) 2024/1689Artikel 58 – Absatz 1 – Buchstabe d (neu)

d)detaillierte Vorschriften für die Führung von KI-Reallaboren gemäß Artikel 57, auch in Bezug auf die Wahrnehmung der Aufgaben der zuständigen Behörden und die Koordinierung und Zusammenarbeit auf nationaler und EU-Ebene.

d)detaillierte Vorschriften für die Führung von KI-Reallaboren gemäß Artikel 57, auch in Bezug auf die Wahrnehmung der Aufgaben der zuständigen Behörden, die Beteiligung der zuständigen Datenschutzbehörden und die Beaufsichtigung durch diese und die Koordinierung und Zusammenarbeit auf nationaler Ebene und auf EU-Ebene.

Abänderung 53Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 19 – Buchstabe aVerordnung (EU) 2024/1689Artikel 60 – Absatz 1

Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von Hochrisiko-KI-Systemen, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel und dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen – unbeschadet der Verbote des Artikels 5 – durchgeführt werden.

(1)Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von Hochrisiko-KI-Systemen, die in Anhang III genannt sind, außerhalb von KI-Reallaboren gemäß diesem Artikel und dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen – unbeschadet der Verbote des Artikels 5 – durchgeführt werden.

Abänderung 54Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 19 – Buchstabe bVerordnung (EU) 2024/1689Artikel 60 – Absatz 2

(2)Anbieter oder zukünftige Anbieter können Hochrisiko-KI-Systeme, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, vor deren Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen.

(2)Anbieter oder zukünftige Anbieter können in Anhang III genannte Hochrisiko-KI-Systeme vor deren Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen.

Abänderung 55Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 20Verordnung (EU) 2024/1689Artikel 60 a (neu) – Absatz 3

(3)Die Mitgliedstaaten, die Kommission, die Marktüberwachungsbehörden und die Behörden, die für Verwaltung und Betrieb der unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Infrastrukturen und Produkte zuständig sind, arbeiten eng und nach Treu und Glauben zusammen und beseitigen alle praktischen Hindernisse, auch – soweit erforderlich – in Bezug auf Verfahrensvorschriften für den Zugang zu physischen öffentlichen Infrastrukturen, um die freiwillige Realtestvereinbarung erfolgreich umzusetzen und KI-gestützte Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, zu testen.

(3)Die Mitgliedstaaten, die Kommission, die zuständigen nationalen Behörden, darunter die Marktüberwachungsbehörden und die Behörden, die für Verwaltung und Betrieb der unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Infrastrukturen und Produkte zuständig sind, arbeiten eng und nach Treu und Glauben zusammen und beseitigen alle praktischen Hindernisse, auch – soweit erforderlich – in Bezug auf Verfahrensvorschriften für den Zugang zu physischen öffentlichen Infrastrukturen, um die freiwillige Realtestvereinbarung erfolgreich umzusetzen und KI-gestützte Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, zu testen.

Abänderung 56Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 21Verordnung (EU) 2024/1689Artikel 63 – Absatz 1

(1)KMU, einschließlich Start-up-Unternehmen, können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten. Zu diesem Zweck arbeitet die Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse von KMU in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.

(1)KMU, einschließlich Start-up-Unternehmen, und Kleinstunternehmen können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten. Zu diesem Zweck arbeitet die Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse von KMU und Kleinstunternehmen in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen.

Abänderung 57Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 21 a (neu)Verordnung (EU) 2024/1689Artikel 64 – Absatz 2 a (neu)

21a.In Artikel 64 wird folgender Absatz 2a angefügt:

„(2a) Unbeschadet des Haushaltsverfahrens muss das Büro für Künstliche Intelligenz im Wege der bestehenden Finanzinstrumente mit angemessenen personellen, finanziellen und technischen Ressourcen und mit einer entsprechenden Infrastruktur ausgestattet werden, damit es seine Aufgaben erfüllen, seine Pflichten wirksam wahrnehmen und seine Befugnisse in Bezug auf die Durchsetzung der Verordnung (EU) 2024/1689 ausüben kann. Insbesondere muss das Büro für Künstliche Intelligenz über eine ausreichende Anzahl ständig verfügbarer Mitarbeiter mit fundierten Kompetenzen und technischem Fachwissen aufweisen. Das KI-Gremium muss den Kompetenz- und Ressourcenbedarf bewerten.“

Abänderung 58Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 22 – Buchstabe bVerordnung (EU) 2024/1689Artikel 69 – Absatz 3

b)Absatz 3 wird gestrichen.

entfällt

Abänderung 59Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 24Verordnung (EU) 2024/1689Artikel 72 – Absatz 3

(3)Das System zur Beobachtung nach dem Inverkehrbringen muss auf einem Plan für die Beobachtung nach dem Inverkehrbringen beruhen. Der Plan für die Beobachtung nach dem Inverkehrbringen ist Teil der in Anhang IV genannten technischen Dokumentation. Die Kommission nimmt Leitlinien für den Plan für die Beobachtung nach dem Inverkehrbringen an.

Abänderung 60Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 25 – Buchstabe bVerordnung (EU) 2024/1689Artikel 75 – Absatz 1

Beruht ein KI-System auf einem KI-Modell mit allgemeinem Verwendungszweck, mit Ausnahme von KI-Systemen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und werden dieses Modell und System von demselben Anbieter entwickelt, so ist das Büro für Künstliche Intelligenz ausschließlich zuständig für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf dieses System im Einklang mit den Aufgaben und Zuständigkeiten, die es den Marktüberwachungsbehörden übertragen hat. Das Büro für Künstliche Intelligenz ist ebenfalls ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf KI-Systeme zuständig, die eine benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine im Sinne der Verordnung (EU) 2022/2065 bilden oder die darin integriert sind.

(1)Beruht ein KI-System auf einem KI-Modell mit allgemeinem Verwendungszweck, mit Ausnahme von KI-Systemen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, sowie von KI-Systemen, die in Anhang III Punkt 2 aufgeführt sind, und werden dieses Modell und System von demselben Anbieter oder von Anbietern, die derselben Unternehmensgruppe angehören, entwickelt, so ist das Büro für Künstliche Intelligenz befugt, die eine Beaufsichtigung und Durchsetzung mit Blick auf die Pflichten aus dieser Verordnung im Einklang mit den Aufgaben und Zuständigkeiten, die es den Marktüberwachungsbehörden übertragen hat, durchzuführen. Das Büro für Künstliche Intelligenz ist ebenfalls befugt, eine Beaufsichtigung und Durchsetzung mit Blick auf die Pflichten aus dieser Verordnung in Bezug auf KI-Systeme durchzuführen, die eine benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine im Sinne der Verordnung (EU) 2022/2065 bilden oder die darin integriert sind. Hat die Kommission kein Verfahren wegen desselben Verstoßes eingeleitet, kann die zuständige Behörde eines Mitgliedstaats, in dem sich die Hauptniederlassung des Anbieters einer sehr großen Online-Plattform oder einer sehr großen Online-Suchmaschine befindet oder seine gesetzliche Vertretung niedergelassen ist, befugt sein, eine Beaufsichtigung und Durchsetzung mit Blick auf die Pflichten aus dieser Verordnung durchzuführen.

Ungeachtet des ersten Unterabsatzes erstrecken sich die Beaufsichtigungs- und Durchsetzungsbefugnisse der AI-Behörde nicht auf KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden und gemäß Artikel 74 Absatz 9 der vorliegenden Verordnung der Beaufsichtigung des Europäischen Datenschutzbeauftragten unterliegen.

Abänderung 61Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 25 – Buchstabe bVerordnung (EU) 2024/1689Artikel 75 – Absatz 1 – Unterabsatz 2

Zur Wahrnehmung seiner Aufsichts- und Durchsetzungsaufgaben gemäß dem Unterabsatz 1 hat das Büro für Künstliche Intelligenz alle in diesem Abschnitt und in der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse einer Marktüberwachungsbehörde. Das Büro für Künstliche Intelligenz ist befugt, geeignete Maßnahmen zu treffen und Beschlüsse zu fassen, um seine Aufsichts- und Durchsetzungsbefugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 gilt sinngemäß.

Zur Wahrnehmung seiner Aufsichts- und Durchsetzungsaufgaben gemäß dem Unterabsatz 1 hat das Büro für Künstliche Intelligenz alle in diesem Abschnitt und in der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse einer Marktüberwachungsbehörde. Das Büro für Künstliche Intelligenz trifft geeignete Maßnahmen und fasst Beschlüsse, um seine Aufsichts- und Durchsetzungsbefugnisse angemessen auszuüben. Artikel 14 der Verordnung (EU) 2019/1020 gilt sinngemäß.

Abänderung 62Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 25 – Buchstabe b a (neu)Verordnung (EU) 2024/1689Artikel 75 – Absatz -1a (neu)

ba)In Artikel 75 wird folgender Absatz -1a eingefügt:

„(-1a) Bei der Durchführung und Durchsetzung dieser Verordnung fördert das Büro für Künstliche Intelligenz Innovation, Wettbewerbsfähigkeit und den Schutz der Grundrechte und berücksichtigt diese bei der Wahrnehmung seiner Aufgaben. Das Büro für Künstliche Intelligenz stimmt sich in Angelegenheiten, die die Verarbeitung personenbezogener Daten betreffen und in den Anwendungsbereich der Verordnung (EU) 2016/679 fallen, eng mit den gemäß der genannten Verordnung benannten zuständigen Datenschutzbehörden ab.“

Abänderung 63Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 25 – Buchstabe cVerordnung (EU) 2024/1689Artikel 75 – Absatz 1c

Die Kommission organisiert dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen und Tests der in Absatz 1 genannten KI-Systeme, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, und führt diese durch, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht oder in Betrieb genommen werden dürfen. Die Kommission kann die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen betrauen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Artikel 34 Absätze 1 und 2 gilt sinngemäß für die Kommission, wenn sie ihre Befugnisse nach diesem Absatz ausübt.

(1c)Die Kommission stellt vorbehaltlich des Artikels 28 Absatz 8 sicher, dass dem Inverkehrbringen vorgeschaltete Konformitätsbewertungen und Tests der in Absatz 1 genannten KI-Systeme, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, durchgeführt werden, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht oder in Betrieb genommen werden dürfen. Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Artikel 34 Absätze 1 und 2 gilt sinngemäß für die Kommission, wenn sie ihre Befugnisse nach diesem Absatz ausübt.

Abänderung 64Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 26 – Buchstabe bVerordnung (EU) 2024/1689Artikel 77 – Absatz 1 – Buchstabe b

(1)Nationale Behörden oder öffentliche Stellen, die die Einhaltung des Unionsrechts zum Schutz der Grundrechte, einschließlich des Rechts auf Nichtdiskriminierung, beaufsichtigen oder durchsetzen, sind befugt, sämtliche von der betreffenden Marktüberwachungsbehörde auf der Grundlage dieser Verordnung erstellten oder in zugänglicher Sprache und in maschinenlesbarer Form auf elektronischem Wege geführten Informationen oder Dokumentationen anzufordern und einzusehen, sofern der Zugang zu diesen Informationen oder Dokumentationen für die wirksame Wahrnehmung ihrer Aufgaben im Rahmen ihrer Befugnisse innerhalb der Grenzen ihrer Hoheitsgewalt notwendig ist. Dieser Absatz lässt die Aufgaben, die Befugnisse und die Unabhängigkeit der einschlägigen nationalen Behörden oder öffentlichen Stellen im Rahmen ihrer Mandate im Einklang mit dem Unionsrecht und dem nationalen Recht unberührt.

Abänderung 65Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 26 – Buchstabe c – EinleitungVerordnung (EU) 2024/1689Artikel 77 – Absatz 1 a (neu)

c)Folgende Absätze 1a und 1b werden eingefügt:

c)Die folgenden Absätze 1a, 1b und 1ba werden eingefügt:

Abänderung 66Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 26 – Buchstabe cVerordnung (EU) 2024/1689Artikel 77 – Absatz 1 a (neu)

(1a)Unter den in diesem Artikel genannten Bedingungen gewährt die Marktüberwachungsbehörde der in Absatz 1 genannten zuständigen Behörde oder öffentlichen Stelle Zugang zu diesen Informationen oder Dokumentationen, wozu sie diese Informationen oder Dokumentationen erforderlichenfalls auch erst vom Anbieter oder Betreiber anfordert.

Abänderung 67Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 26 – Buchstabe cVerordnung (EU) 2024/1689Artikel 77 – Absatz 1 b (neu)

(1b)Die Marktüberwachungsbehörden und die in Absatz 1 genannten Behörden oder öffentlichen Stellen arbeiten eng zusammen und leisten einander die für die Wahrnehmung ihrer jeweiligen Aufgaben erforderliche Amtshilfe, um eine kohärente Anwendung dieser Verordnung und des Unionsrechts zum Schutz der Grundrechte zu gewährleisten und die Verfahren zu straffen. Dies umfasst insbesondere den Austausch von Informationen, soweit dieser für die wirksame Beaufsichtigung oder Durchsetzung im Rahmen dieser Verordnung und der anderen einschlägigen Rechtsvorschriften der Union erforderlich ist.“

(1b)Die Marktüberwachungsbehörden und die in Absatz 1 genannten Behörden oder öffentlichen Stellen arbeiten eng zusammen und leisten einander die für die Wahrnehmung ihrer jeweiligen Aufgaben erforderliche Amtshilfe, um eine kohärente Anwendung dieser Verordnung und des Unionsrechts zum Schutz der Grundrechte zu gewährleisten und die Verfahren zu straffen und gleichzeitig ihre jeweiligen Zuständigkeiten, Aufgaben, Befugnisse und ihre Unabhängigkeit zu achten. Dies umfasst insbesondere den Austausch von Informationen, soweit dieser für die wirksame Beaufsichtigung oder Durchsetzung im Rahmen dieser Verordnung und der anderen einschlägigen Rechtsvorschriften der Union erforderlich ist.“

Abänderung 68Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 26 – Buchstabe cVerordnung (EU) 2024/1689Artikel 77 – Absatz 1 b a (neu)

(1ba)Amtshilfeersuchen enthalten alle erforderlichen Informationen, einschließlich Zweck und Begründung des Ersuchens.

Abänderung 69Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 28 – EinleitungVerordnung (EU) 2024/1689Artikel 96 – Absatz 1

28.Artikel 96 Absatz 1 Unterabsatz 2 erhält folgende Fassung:

28.Artikel 96 Absatz 1 Buchstabe a und Unterabsatz 2 erhalten folgende Fassung:

Abänderung 70Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 28Verordnung (EU) 2024/1689Artikel 96 – Absatz 1 – Buchstabe a

a)die Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 genannten Anforderungen und Pflichten;

a)die Anwendung der in den Artikeln 8 bis 15 und in den Artikeln 25 und 26 genannten Anforderungen und Pflichten;

Abänderung 71Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 28Verordnung (EU) 2024/1689Artikel 96 – Absatz 1 – Unterabsatz 1

-1a.In Artikel 96 Absatz 1 Unterabsatz 1 wird folgender Buchstabe angefügt:

„fa) die Anwendung der in Artikel 27 genannten Verpflichtungen, etwa auf die Möglichkeit, in die Grundrechte-Folgenabschätzung gemäß Artikel 27 Absatz 4 dieser Verordnung einschlägige Abschnitte oder Teile der Datenschutz-Folgenabschätzung aufzunehmen oder darin auf solche Abschnitte oder Teile Bezug zu nehmen, gegebenenfalls unter Verwendung standardisierter Muster. “

Abänderung 72Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 29 – Buchstabe a a (neu)Verordnung (EU) 2024/1689Artikel 99 – Absatz 4 – Buchstabe d a (neu)

aa)In Absatz 4 wird folgender Buchstabe da eingefügt:

„da) Pflichten der Anbieter und Dritten, einschließlich Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, gemäß Artikel 25 Absätze 2, 3 und 4;“ “

Abänderung 73Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 29 – Buchstabe bVerordnung (EU) 2024/1689Artikel 99 – Absatz 6

(6)Im Falle von kleinen Midcaps und KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen.

(6)Im Falle von KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen.

Abänderung 74Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 29 – Buchstabe bVerordnung (EU) 2024/1689Artikel 99 – Absatz 6 a (neu)

(6a)In Artikel 99 wird folgender Absatz 6a eingefügt:

„Im Falle von kleinen Midcaps, mit Ausnahme von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko, gilt für jede in diesem Artikel genannte Geldbuße der jeweils niedrigere Betrag aus den in den Absätzen 4 und 5 genannten Prozentsätzen oder Summen.“

Abänderung 75Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 29 a (neu)Verordnung (EU) 2024/1689Artikel 110 a (neu)

29a.Die folgenden Artikel 110a bis 110l werden eingefügt:

„Artikel 110a

Änderung der Verordnung (EU) 2023/1230

In Artikel 8 der Verordnung (EU) 2023/1230 werden die folgenden Absätze 2 und 3 angefügt:

(2)Der Kommission wird die Befugnis übertragen, gemäß Artikel 48 delegierte Rechtsakte zur Änderung der in Anhang III aufgeführten grundlegenden Sicherheits- und Gesundheitsschutzanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Sicherheits- und Gesundheitsschutzanforderungen.

(3)Beim Erlass delegierter Rechtsakte gemäß Absatz 2 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 20 der vorliegenden Verordnung in Bezug auf Maschinen oder dazugehörige Produkte, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110b

Änderung der Verordnung (EU) 2025/2509

In Artikel 5 der Verordnung (EU) 2025/2509 werden die folgenden Absätze 4 und 5 angefügt:

(4)Der Kommission wird die Befugnis übertragen, gemäß Artikel 53 delegierte Rechtsakte zur Änderung der in Anhang II aufgeführten wesentlichen Sicherheitsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Sicherheits- und Gesundheitsschutzanforderungen.

(5)Beim Erlass delegierter Rechtsakte gemäß Absatz 4 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 16 der vorliegenden Verordnung in Bezug auf Spielzeuge, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110c

Änderung der Richtlinie 2013/53/EU

In Artikel 4 der Richtlinie 2013/53/EU werden die folgenden Absätze 3 und 4 angefügt:

(3)Der Kommission wird die Befugnis übertragen, gemäß Artikel 50 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten grundlegenden Anforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Sicherheits- und Gesundheitsschutzanforderungen.

(4)Beim Erlass delegierter Rechtsakte gemäß Absatz 3 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 14a der vorliegenden Verordnung in Bezug auf Produkte, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110d

Änderung der Richtlinie 2014/33/EU

In Artikel 5 der Richtlinie 2014/33/EU werden die folgenden Absätze 3 und 4 angefügt:

(3)Der Kommission wird die Befugnis übertragen, gemäß Artikel 42 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten wesentlichen Gesundheitsschutz- und Sicherheitsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Gesundheitsschutz- und Sicherheitsanforderungen.

(4)Beim Erlass delegierter Rechtsakte gemäß Absatz 3 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 14a der vorliegenden Verordnung in Bezug auf Aufzüge und Sicherheitsbauteile für Aufzüge, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110e

Änderung der Richtlinie 2014/34/EU

In Artikel 4 der Richtlinie 2014/34/EU werden die folgenden Absätze 2 und 3 angefügt:

(2)Der Kommission wird die Befugnis übertragen, gemäß Artikel 39 delegierte Rechtsakte zur Änderung der in Anhang II aufgeführten wesentlichen Gesundheits- und Sicherheitsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Gesundheits- und Sicherheitsanforderungen.

(3)Beim Erlass delegierter Rechtsakte gemäß Absatz 2 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 12a der vorliegenden Verordnung in Bezug auf Produkte, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110f

Änderung der Richtlinie 2014/53/EU

In Artikel 3 der Richtlinie 2014/53/EU werden die folgenden Absätze 5 und 6 angefügt:

(5)Der Kommission wird die Befugnis übertragen, gemäß Artikel 45 delegierte Rechtsakte zur Änderung der grundlegenden Anforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Gesundheits- und Sicherheitsanforderungen.

(6)Beim Erlass delegierter Rechtsakte gemäß Absatz 5 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 16a der vorliegenden Verordnung in Bezug auf Funkanlagen, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110g

Änderung der Richtlinie 2014/68/EU

In Artikel 4 der Richtlinie 2014/68/EU werden die folgenden Absätze 4 und 5 angefügt:

(4)Der Kommission wird die Befugnis übertragen, gemäß Artikel 44 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten wesentlichen Sicherheitsanforderungen in Bezug auf die allgemeine Sicherheit und die Leistung zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Gesundheits- und Sicherheitsanforderungen.

(5)Beim Erlass delegierter Rechtsakte gemäß Absatz 4 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 12a der vorliegenden Verordnung in Bezug auf Produkte, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110h

Änderung der Verordnung (EU) 2016/424

In Artikel 6 der Verordnung (EU) 2016/424 werden die folgenden Absätze 2 und 3 angefügt:

(2)Der Kommission wird die Befugnis übertragen, gemäß Artikel 44 delegierte Rechtsakte zur Änderung der in Anhang II aufgeführten wesentlichen Anforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als wesentliche Gesundheits- und Sicherheitsanforderungen.

(3)Beim Erlass delegierter Rechtsakte gemäß Absatz 2 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 12a der vorliegenden Verordnung in Bezug auf Seilbahnen, Teilsysteme und Sicherheitsbauteile, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110i

Änderung der Verordnung (EU) 2016/425

In Artikel 5 der Verordnung (EU) 2016/425 werden die folgenden Absätze 2 und 3 angefügt:

(2)Der Kommission wird die Befugnis übertragen, gemäß Artikel 44 delegierte Rechtsakte zur Änderung der in Anhang II aufgeführten grundlegenden Gesundheitsschutz- und Sicherheitsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Gesundheitsschutz- und Sicherheitsanforderungen.

(3)Beim Erlass delegierter Rechtsakte gemäß Absatz 2 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 14a der vorliegenden Verordnung in Bezug auf persönliche Schutzausrüstungen, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110j

Änderung der Verordnung (EU) 2016/426

In Artikel 5 der Verordnung (EU) 2016/426 werden die folgenden Absätze 2 und 3 angefügt:

(2)Der Kommission wird die Befugnis übertragen, gemäß Artikel 41 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten wesentlichen Anforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Gesundheitsschutz- und Sicherheitsanforderungen.

(3)Beim Erlass delegierter Rechtsakte gemäß Absatz 2 des vorliegenden Artikels oder gemeinsamer Spezifikationen gemäß Artikel 13a der vorliegenden Verordnung in Bezug auf Geräte oder Ausrüstungen, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110k

Änderung der Verordnung (EU) 2017/745

In Artikel 5 der Verordnung (EU) 2017/745 werden die folgenden Absätze 7 und 8 angefügt:

(7)Der Kommission wird die Befugnis übertragen, gemäß Artikel 115 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten grundlegenden Sicherheits- und Leistungsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Gesundheitsschutz- und Sicherheitsanforderungen.

(8)Beim Erlass von Durchführungsrechtsakten gemäß Absatz 6 des vorliegenden Artikels, delegierten Rechtsakten gemäß Absatz 7 des vorliegenden Artikels oder gemeinsamen Spezifikationen gemäß Artikel 9 der vorliegenden Verordnung in Bezug auf Produkte, bei denen es sich um Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates handelt oder die Hochrisiko-KI-Systeme als Sicherheitsbauteile verwenden, berücksichtigt die Kommission die in Kapitel III Abschnitt 2 der genannten Verordnung aufgeführten Anforderungen sowie einschlägige harmonisierte Normen. In Bezug auf Hochrisiko-KI-Systeme geht die Kommission nicht über die in der Verordnung (EU) 2024/1689 festgelegten Anforderungen hinaus.‘

Artikel 110l

Änderung der Verordnung (EU) 2017/746

In Artikel 5 der Verordnung (EU) 2017/746 werden die folgenden Absätze 7 und 8 angefügt:

(7)Der Kommission wird die Befugnis übertragen, gemäß Artikel 107 delegierte Rechtsakte zur Änderung der in Anhang I aufgeführten grundlegenden Sicherheits- und Leistungsanforderungen zu erlassen, um sie an den wissenschaftlichen oder technischen Fortschritt oder an internationale Entwicklungen anzupassen oder um Anforderungen im Hinblick auf neu auftretende Risiken oder Technologien hinzuzufügen. Für die in Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 genannten Hochrisiko-KI-Systeme gelten die in Kapitel III Abschnitt 2 der Verordnung (EU) 2024/1689 aufgeführten einschlägigen Anforderungen für die Zwecke der vorliegenden Verordnung als grundlegende Gesundheitsschutz- und Sicherheitsanforderungen.

Abänderung 76Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 30 – Buchstabe bVerordnung (EU) 2024/1689Artikel 111 – Absatz 4 (neu)

(4)Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die vor dem 2. August 2026 in Verkehr gebracht wurden, treffen die erforderlichen Maßnahmen, um Artikel 50 Absatz 2 bis zum 2. Februar 2027 nachzukommen.

Abänderung 77Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 – Buchstabe aVerordnung (EU) 2024/1689Artikel 113 – Absatz 3 – Buchstabe d (neu)

Kapitel III Abschnitte 1, 2 und 3 gelten nach Annahme eines Beschlusses der Kommission, in dem bestätigt wird, dass geeignete Maßnahmen zur Unterstützung der Einhaltung des Kapitels III bestehen, ab den folgenden Zeitpunkten:

Kapitel III Abschnitte 1, 2 und 3, mit Ausnahme von Artikel 6 Absatz 5, gelten ab dem

Abänderung 78Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 – Buchstabe aVerordnung (EU) 2024/1689Artikel 113 – Absatz 3 – Buchstabe d – Ziffer i (neu)

i)sechs Monate nach Annahme des Beschlusses in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und

entfällt

Abänderung 79Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 – Buchstabe aVerordnung (EU) 2024/1689Artikel 113 – Absatz 3 – Buchstabe d – Ziffer ii (neu)

ii)zwölf Monate nach Annahme des Beschlusses in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind.

entfällt

Abänderung 80Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 – Buchstabe aVerordnung (EU) 2024/1689Artikel 113 – Absatz 3 – Buchstabe d – Unterabsatz 1 – Einleitung

Wird kein Beschluss im Sinne des Unterabsatzes 1 angenommen oder liegen die nachstehend festgelegten Daten vor der Annahme dieses Beschlusses, so gelten Kapitel III Abschnitte 1, 2 und 3 ab dem

entfällt

Abänderung 81Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 a (neu)Verordnung (EU) 2024/1689Anhang I – Abschnitt A

31a.In Anhang I wird Abschnitt A gestrichen.

Abänderung 82Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 31 b (neu)Verordnung (EU) 2024/1689Anhang I – Abschnitt B – Nummer 20 a (neu)

31b.In Anhang I Abschnitt B werden folgende Nummern angefügt:

„20a. Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24);

20b. Richtlinie 2009/48/EG des Europäischen Parlaments und des Rates vom 18. Juni 2009 über die Sicherheit von Spielzeug (ABl. L 170 vom 30.6.2009, S. 1);

20c. Richtlinie 2013/53/EU des Europäischen Parlaments und des Rates vom 20. November 2013 über Sportboote und Wassermotorräder und zur Aufhebung der Richtlinie 94/25/EG (ABl. L 354 vom 28.12.2013, S. 90);

20d. Richtlinie 2014/33/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Angleichung der Rechtsvorschriften der Mitgliedstaaten über Aufzüge und Sicherheitsbauteile für Aufzüge (ABl. L 96 vom 29.3.2014, S. 251);

20e. Richtlinie 2014/34/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Harmonisierung der Rechtsvorschriften der Mitgliedstaaten für Geräte und Schutzsysteme zur bestimmungsgemäßen Verwendung in explosionsgefährdeten Bereichen (ABl. L 96 vom 29.3.2014, S. 309);

20f. Richtlinie 2014/53/EU des Europäischen Parlaments und des Rates vom 16. April 2014 über die Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Funkanlagen auf dem Markt und zur Aufhebung der Richtlinie 1999/5/EG (ABl. L 153 vom 22.5.2014, S. 62);

20g. Richtlinie 2014/68/EU des Europäischen Parlaments und des Rates vom 15. Mai 2014 zur Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Druckgeräten auf dem Markt (ABl. L 189 vom 27.6.2014, S. 164);

20h. Verordnung (EU) 2016/424 des Europäischen Parlaments und des Rates vom 9. März 2016 über Seilbahnen und zur Aufhebung der Richtlinie 2000/9/EG (ABl. L 81 vom 31.3.2016, S. 1);

20i. Verordnung (EU) 2016/425 des Europäischen Parlaments und des Rates vom 9. März 2016 über persönliche Schutzausrüstungen und zur Aufhebung der Richtlinie 89/686/EWG des Rates (ABl. L 81 vom 31.3.2016, S. 51);

20j. Verordnung (EU) 2016/426 des Europäischen Parlaments und des Rates vom 9. März 2016 über Geräte zur Verbrennung gasförmiger Brennstoffe und zur Aufhebung der Richtlinie 2009/142/EG (ABl. L 81 vom 31.3.2016, S. 99);

20k. Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (ABl. L 117 vom 5.5.2017, S. 1);

20l. Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der Kommission (ABl. L 117 vom 5.5.2017, S. 176);

20m. Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates.“

Abänderung 83Vorschlag für eine VerordnungArtikel 1 – Absatz 1 – Nummer 32Verordnung (EU) 2024/1689Anhang VIII – Abschnitt B

32.Anhang VIII Abschnitt B wird gestrichen.

32.In Anhang VIII Abschnitt B werden die Nummern 7 und 9 gestrichen.