I. Einleitung zur Entstehung und geschichtlichem Kontext
1. Begründung und Zielsetzung
Der Verordnungsvorschlag stellt klar, dass Künstliche Intelligenz (KI) für alle Bereiche von Wirtschaft und Gesellschaft erhebliche Vorteile mit sich bringen kann. Im Erwägungsgrund 1 heißt es hierzu wörtlich:
„Künstliche Intelligenz (KI) kann in sämtlichen Wirtschaftszweigen und Gesellschaftsbereichen eine Vielzahl wirtschaftlicher und gesellschaftlicher Vorteile mit sich bringen, indem sie innovative neue Produkte und Dienstleistungen hervorbringt und Prozesse optimiert.“ (Erwägungsgrund 1, COM(2021) 206 final)
Gleichzeitig sieht die Kommission die Notwendigkeit, ein hohes Maß an Schutz und Vertrauen zu gewährleisten, um die grundlegenden Werte der EU zu wahren. So führt sie in der Einleitung der Begründung (Explanatory Memorandum) aus:
„Die vorgeschlagene Verordnung soll dazu beitragen, das Vertrauen in KI zu stärken, indem sie ein ausgewogenes Regelungsumfeld bietet, das einerseits ein Höchstmaß an Schutz für Gesundheit, Sicherheit und Grundrechte gewährleistet und andererseits Innovationen fördert.“ (COM(2021) 206 final, Begründung, S. 1)
2. Historische Einbettung
Mit Blick auf die bereits bestehenden unionsrechtlichen Regelungen und Vorgaben zur Produktsicherheit und zum Inverkehrbringen von Technologien betont die Kommission im Erwägungsgrund 2:
„Mit dieser Verordnung werden die bestehenden Rechtsvorschriften der Union zu Produkten und ihrem Inverkehrbringen ergänzt, um spezifische Risiken, die mit bestimmten KI-Systemen verbunden sind, gezielt zu verringern.“ (Erwägungsgrund 2, COM(2021) 206 final)
In den Erläuterungen der Kommission wird auch darauf hingewiesen, dass KI-Technologien bereits Gegenstand diverser politischer Strategien und Sektorregelungen in der EU sind, doch die neuen Vorschriften sollen einen kohärenten Rechtsrahmen schaffen. So heißt es unter anderem:
„Diese Verordnung baut auf den bestehenden EU-Vorschriften und politischen Initiativen im Bereich der KI auf und zielt darauf ab, Rechtsunsicherheiten, die sich aus der schnellen technologischen Entwicklung ergeben, zu beseitigen.“ (vgl. Begründung, COM(2021) 206 final)
Damit soll ein einheitlicher und verbindlicher Rechtsrahmen in allen Mitgliedstaaten etabliert werden, der den Herausforderungen „risikoreicher“ KI-Systeme gerecht wird.
II. Wesentliche Neuerungen durch den Verordnungsvorschlag
1. Grundstruktur: Risikobasierter Ansatz
Der Vorschlag führt eine gestufte Betrachtung ein, indem KI-Anwendungen nach ihrem Risiko klassifiziert werden. Hierzu heißt es:
„Um den Zielen dieser Verordnung zu entsprechen, sollte die Rechtsetzung innerhalb eines klar definierten Geltungsbereichs erfolgen, in dessen Rahmen KI-Systeme und ihre Anwendungen in Abhängigkeit von ihrem Risiko eingestuft werden.“ (Erwägungsgrund 15, COM(2021) 206 final)
Diese Einstufung erstreckt sich von „inadmissiblen“ (verbotenen) KI-Praktiken über „hochrisiko“-Systeme bis hin zu Anwendungen mit geringerem Risiko, für die zwar Transparenzanforderungen gelten können, jedoch weniger strenge Vorschriften greifen.
2. Verbot bestimmter KI-Praktiken
In Artikel 5 sind KI-Praktiken aufgeführt, deren Nutzung generell untersagt sein soll. Dies betrifft insbesondere den Missbrauch von Technik zur Manipulation menschlichen Verhaltens oder zur Bewertung der sozialen Vertrauenswürdigkeit. Zudem werden bestimmte biometrische Identifizierungssysteme untersagt. Wörtlich heißt es:
„Die folgenden KI-Praktiken sind verboten:
[…] (d) die Verwendung von ‚Echtzeit‘-Systemen zur biometrischen Fernidentifizierung von Personen in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, es sei denn und nur in dem Maße, wie es in Art. 5 Abs. 1 Buchst. d dieser Verordnung ausdrücklich gestattet wird.“ (Art. 5 Abs. 1 Buchst. d, COM(2021) 206 final)
Der Vorschlag sieht damit ausdrücklich eine strikte Regulierung bzw. ein Verbot hochinvasiver KI-Praktiken vor, um Grundrechte wie Privatsphäre und Datenschutz wirksam zu schützen.
3. Einstufung als Hochrisiko-KI-Systeme
Verschiedene KI-Systeme werden im Verordnungsvorschlag als „hochrisiko“-Systeme eingestuft, unter anderem in den Bereichen Gesundheitswesen, Verkehr, Beschäftigung, Strafverfolgung oder Justiz. Die Klassifikation ist in Anhang III des Vorschlags näher aufgeführt. Für diese Systeme gelten besonders hohe Anforderungen. Im Erwägungsgrund 28 heißt es diesbezüglich:
„Hochrisiko-KI-Systeme sollten bestimmten Anforderungen genügen und einer Konformitätsbewertung unterzogen werden, bevor sie in Verkehr gebracht oder in Betrieb genommen werden. […] Dies umfasst insbesondere Systeme, die bei der polizeilichen Strafverfolgung oder bei der Verwaltung von Strafjustiz verwendet werden.“ (Erwägungsgrund 28, COM(2021) 206 final)
Zu diesen speziellen Anforderungen zählen unter anderem Vorgaben zur Qualität der Datensätze, zu Transparenz und Dokumentation, zur menschlichen Aufsicht und zur Robustheit der Systeme.
4. Konformitätsbewertungsverfahren und Marktüberwachung
Eine zentrale Neuerung ist die Einführung klarer Verfahren zur Konformitätsbewertung, Marktüberwachung und Durchsetzung. Zur Sicherstellung der Einhaltung der vorgeschriebenen Standards führt der Verordnungsvorschlag in Erwägungsgrund 51 aus:
„Die für das Inverkehrbringen von Hochrisiko-KI-Systemen verantwortlichen Stellen haben sicherzustellen, dass die Systeme ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit aufweisen. […] Zu diesem Zweck werden Verfahren zur Konformitätsbewertung, zur Marktüberwachung und Durchsetzung eingeführt.“ (Erwägungsgrund 51, COM(2021) 206 final)
Dies soll laut Kommission ein gleiches Schutzniveau in allen EU-Mitgliedstaaten gewährleisten und das Vertrauen in KI-Produkte stärken.