Welche Ziele das Gesetz über künstliche Intelligenz verfolgt, wie es im Kern ausgestaltet ist und wo man sich derzeit im Gesetzgebungsverfahren befindet, wird in diesem Artikel näher beleuchtet.
Ziele des Gesetzes
Die Gesetzesinitiative der Europäischen Kommission ist eine Reaktion auf die vom Europäischen Parlament und dem Europäischen Rat ausdrücklich und wiederholt erhobenen Forderungen nach legislativen Maßnahmen zur Gewährleistung eines reibungslos funktionierenden Binnenmarktes für Systeme der künstlichen Intelligenz, mit denen sowohl der Nutzen als auch die Risiken auf Unionsebene angemessen geregelt werden.
Der Gesetzentwurf der Kommission unterstützt das vom Europäischen Rat formulierte Ziel der Union, bei der Entwicklung einer sicheren, vertrauenswürdigen und ethisch vertretbaren künstlichen Intelligenz weltweit eine Führungsrolle einzunehmen und sorgt für den vom Europäischen Parlament ausdrücklich geforderten Schutz von Ethikgrundsätzen. Vor diesem Hintergrund soll mit dem Entwurf insbesondere gewährleistet werden, dass
- die auf dem Unionsmarkt in Verkehr gebrachten und verwendeten KI-Systeme sicher sind und die bestehenden Grundrechte und Werte der Union wahren,
- Rechtssicherheit zur Förderung von Investitionen in KI garantiert wird,
- die wirksame Durchsetzung des geltenden Rechts zur Wahrung der Grundrechte sowie die Sicherheitsanforderungen an KI-Systeme gestärkt werden und
- die Entwicklung eines Binnenmarkts für rechtskonforme, sichere und vertrauenswürdige KI-Anwendungen erleichtert wird.
Kern des Gesetzes
Im Kern umfasst das Gesetz über künstliche Intelligenz
- harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und Verwendung von KI-Systemen in der Union,
- Verbote bestimmter Praktiken,
- besondere Anforderungen an Hochrisiko-KI-Systeme und Verpflichtungen für Betreiber und
- harmonisierte Transparenzvorschriften für KI-Systeme, die mit natürlichen Personen interagieren sollen, für KI-Systeme zur Emotionserkennung und zur biometrischen Kategorisierung sowie für KI-Systeme, die zum Erzeugen oder Manipulieren von Bild-, Ton- oder Videoinhalten verwendet werden.
Dabei verfolgt es einen risikobasierten Ansatz, bei dem zwischen Anwendungen von KI unterschieden wird, die ein unannehmbares Risiko, ein hohes Risiko und ein geringes Risiko darstellen. In Abhängigkeit von dem Risiko, das von dem jeweiligen KI-System für die Nutzer ausgeht, legen die neuen Regelungen Verpflichtungen für Anbieter und Nutzer fest.
Verbotene KI-Systeme mit unannehmbarem Risiko
KI-Systeme, die als unannehmbar gelten, weil sie Werte der Union, beispielsweise Grundrechte, verletzen, sind verboten. Hierunter fallen
- kognitive Verhaltensmanipulationen von Personen oder bestimmten gefährdeten Gruppen (z.B. sprachgesteuerte Spielzeuge, die gefährliches Verhalten bei Kindern fördern),
- die Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen (Social Scoring) und
- biometrische Echtzeit-Fernidentifizierungssysteme (z.B. Gesichtserkennung).
Gleichwohl können biometrische Fernidentifizierungssysteme zur Verfolgung schwerer Straftaten nach gerichtlicher Genehmigung zulässig sein.
Hochrisiko-KI-Systeme
KI-Systeme, von denen ein hohes Risiko ausgeht, sind solche, die ein hohes Risiko für die Gesundheit, Sicherheit oder für die Grundrechte natürlicher Personen darstellen. Hierunter fallen insbesondere Anwendungen, die z.B. im Bereich der Bildung, Beschäftigung, Strafverfolgung und Justiz eingesetzt werden. Unter Berücksichtigung bestimmter Anforderungen und Verpflichtungen, dürfen diese dennoch zugelassen werden. Die Anforderungen umfassen unter anderem die Einrichtung eines Risikomanagementsystems, welches die KI-Anwendung über den gesamten Lebenszyklus bewertet, Transparenz und eine hohe Qualität der Daten, die zu Lernprozessen genutzt werden.
Geringes Risiko
Für KI-Systeme, deren Inverkehrbringen lediglich mit einem geringen Risiko verbunden ist, enthält das Gesetz über künstliche Intelligenz keine expliziten Vorgaben. Diese sollten es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen, indem sie diese darauf aufmerksam machen, dass sie mit KI interagieren.
Generative KI
Im Gegensatz dazu muss Generative KI, die basierend auf einem Trainingssatz völlig neue Ergebnisse, beispielsweise in Form von Bild-, Audio- oder Videoinhalten erzeugt oder manipuliert (z.B. Deepfakes oder ChatGPT) zusätzliche Transparenzanforderungen erfüllen. Hierzu zählt unter anderem, dass die Nutzer darüber zu informieren sind, dass die Inhalte durch künstliche Intelligenz generiert wurden. Außerdem sind die Anwendungen so zu gestalten, dass keine illegalen Inhalte erzeugt werden und urheberrechtlich geschützte Daten, die für das Training der KI verwendet wurden, müssen offengelegt werden.
Sanktionen
Entsprechend den Vorgaben des Gesetzes über künstliche Intelligenz sind die Mitgliedstaaten dazu angehalten, Vorschriften für Sanktionen, die bei Verstößen gegen diese Verordnung Anwendung finden, zu erlassen. Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein. Ein Verstoß gegen die verbotenen KI-Praktiken soll demnach mit einer Geldbuße von bis zu 40.000.000 € oder, wenn es sich bei dem Zuwiderhandelnden um ein Unternehmen handelt, bis zu 7 % seines weltweiten Umsatzes im Vorjahr geahndet werden.
Gegenwärtiger Stand und Ausblick
Nachdem die Abgeordneten des Europäischen Parlaments am 14. Juni 2023 ihre Verhandlungsposition zum Gesetz über künstliche Intelligenz angenommen haben, beginnen nun die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes. Die Europäische Kommission rechnet mit dem Ende der Verhandlungen bis Ende des Jahres. Da es sich bei dem Gesetz über künstliche Intelligenz um eine Verordnung handelt, würde diese unmittelbar Wirkung in den EU-Mitgliedstaaten entfalten, ohne dass es einer Umsetzung in nationales Recht bedarf.
Fazit
Das Gesetz über künstliche Intelligenz wird die weltweit erste Regulierung von KI sein. Neben den Auswirkungen auf die Europäische Union, könnte sie auch Einfluss auf die Herangehensweise der Regulierung von KI in anderen Ländern haben. Angesichts der Tatsache, dass künstliche Intelligenz eine immer größere Rolle spielt, dürfte eine Regulierung unabdingbar sein.
Quelle
- KI-Gesetz: erste Regulierung der künstlichen Intelligenz | Aktuelles | Europäisches Parlament (europa.eu)
