EU-Verordnung zu künstlicher Intelligenz
Ein Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften über künstliche Intelligenz (Gesetz über künstliche Intelligenz) wurde veröffentlicht
Der Verordnungsentwurf führt Bestimmungen ein, die die Entwicklung, die Vermarktung und das Inverkehrbringen von KI-Systemen, einschließlich in Produkten verwendeter KI-Lösungen, in der Europäischen Union regeln werden.
Der Verordnungsentwurf definiert ein „System der künstlichen Intelligenz“ (KI-System) als Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Ansätzen (z. B. maschinelles Lernen, logik- und wissensbasierte Ansätze, statistische Ansätze, Bayes’sche Schätzung, Such- und Optimierungsmethoden) entwickelt wurde und für eine gegebene Reihe von durch den Menschen definierten Zielen Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, die die Umgebungen beeinflussen, mit denen sie interagieren.
Die mit dem Verordnungsentwurf eingeführten Vorschriften sollen sich auf die Mindestanforderungen beschränken, die notwendig sind, um die Sicherheit und die Grundrechte von Personen zu schützen, ohne die technologische Entwicklung übermäßig einzuschränken oder zu behindern oder die Kosten für das Inverkehrbringen von KI-Lösungen auf andere Weise unverhältnismäßig zu erhöhen. Die Vorschriften unterscheiden sich je nach dem Grad des Risikos, das von KI-Systemen ausgeht.
In der Verordnung werden mehrere KI-Anwendungen als hochriskant eingestuft. Dazu gehören z.B.:
– Kritische Infrastrukturen (z. B. Verkehr)
– Biometrische Fernidentifizierung
– Migrations-, Asyl- und Grenzkontrollmanagement
– Justizverwaltung und demokratische Prozesse
– Sicherheitskomponenten regulierter Produkte, die einer Konformitätsbewertung durch Dritte gemäß den sektoralen Produktsicherheitsvorschriften der EU unterliegen (z. B. KI-Anwendungen in der robotergestützten Chirurgie);
Zu den Anforderungen an solche Hochrisikosysteme gehören u. a:
– Angemessene Systeme zur Risikobewertung und -minderung
– Hohe Qualität der Datensätze, mit denen das System gespeist wird, um Risiken und diskriminierende Ergebnisse zu minimieren
– Protokollierung der Aktivitäten, um die Rückverfolgbarkeit der Ergebnisse zu gewährleisten
– Ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden die Einhaltung der Vorschriften beurteilen können
– Klare und angemessene Informationen für den Nutzer
– Angemessene menschliche Aufsichtsmaßnahmen zur Risikominimierung
– Ein hohes Maß an Robustheit, Sicherheit und Genauigkeit.
Öffentliche und private Anbieter solcher risikoreichen KI-Systeme müssen Konformitätsbewertungsverfahren durchlaufen, um die Einhaltung der oben genannten Anforderungen nachzuweisen, bevor diese Systeme auf dem Unionsmarkt in Verkehr gebracht oder in der Union eingesetzt werden können.
Um dies zu erleichtern, enthält der Verordnungsentwurf Bestimmungen über die künftige Harmonisierung und Ausarbeitung harmonisierter technischer Normen, die von den europäischen Normungsorganisationen (CEN/CENELEC und ETSI) auf der Grundlage eines Mandats der Europäischen Kommission anzunehmen sind.
In Bezug auf AI-Systeme mit hohem Risiko, die Sicherheitskomponenten von Produkten sind, wird der Verordnungsentwurf in die bestehenden sektoralen Sicherheitsvorschriften integriert, um Kohärenz zu gewährleisten, Überschneidungen zu vermeiden und den zusätzlichen Aufwand zu minimieren. Insbesondere bei Hochrisiko-KI-Systemen für Produkte, die unter die Rechtsvorschriften des neuen Rechtsrahmens (z. B. Maschinen, Medizinprodukte, Spielzeug) fallen, werden die in diesem Vorschlag festgelegten Anforderungen an KI-Systeme im Rahmen der bestehenden Konformitätsbewertungsverfahren gemäß den einschlägigen Rechtsvorschriften des neuen Rechtsrahmens geprüft. Die Hersteller von Produkten, die unter den neuen Rechtsrahmen fallen, müssen u. a. in den technischen Unterlagen ausführliche Informationen über die von ihnen verwendeten KI-Lösungen angeben.
Für Hochrisiko-KI-Systeme im Zusammenhang mit Produkten, die unter die einschlägigen Rechtsvorschriften des alten Konzepts fallen (z. B. Luftfahrt, Kraftfahrzeuge), würde dieser Vorschlag nicht direkt gelten.
Wenn Sie mehr über den Entwurf des Gesetzes über künstliche Intelligenz erfahren möchten, zögern Sie bitte nicht, unser EFS Product Compliance Team zu kontaktieren.
