Europäisches KI-Gesetz tritt am 01.08.2024 in Kraft

(01.08.2024)

Die weltweit erste umfassende Verordnung über künstliche Intelligenz, das europäische Gesetz über die künstliche Intelligenz (KI-Gesetz), tritt in Kraft. Mit dem KI-Gesetz soll sichergestellt werden, dass die in der EU entwickelte und eingesetzte KI vertrauenswürdig ist und die Grundrechte der Menschen geschützt werden. Die meisten Vorschriften des KI-Gesetzes werden ab dem 2. August 2026 gelten.

Mit dem KI-Gesetz wird eine zukunftsorientierte Definition von KI eingeführt, sie beruht auf einem produktsicherheits- und risikobasierten Ansatz in der EU:

• Minimales Risiko: Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spam-Filter, fallen in diese Kategorie. Für diese Systeme gelten aufgrund ihres minimalen Risikos für die Rechte und die Sicherheit der Bürger keine Verpflichtungen im Rahmen des KI-Gesetzes. Unternehmen können auf freiwilliger Basis zusätzliche Verhaltenskodizes annehmen.
• Spezifisches Transparenzrisiko: KI-Systeme wie Chatbots müssen den Nutzern klar zu verstehen geben, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte (einschließlich Deep Fakes) müssen als solche gekennzeichnet werden. Die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.
• Hohes Risiko: KI-Systeme, die als hochriskant eingestuft werden, müssen strenge Anforderungen erfüllen. Dazu gehören Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalauswahl eingesetzt werden, um zu beurteilen, ob jemand einen Anspruch auf einen Kredit hat, oder um autonome Roboter zu betreiben.
• Unannehmbares Risiko: KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte von Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzerinnen und Nutzer zu umgehen, wie z. B. Spielzeug, das Minderjährige durch Sprachsteuerung zu gefährlichem Verhalten anregt, Systeme, die eine "soziale Bewertung" durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit (predictive policing). Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

Ergänzend zu diesem System führt das KI-Gesetz auch Vorschriften für so genannte KI-Modelle für allgemeine Zwecke ein. Dabei handelt es sich um hochgradig leistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben ausgelegt sind - etwa das Erstellen von Texten, die sich lesen, als hätten Menschen sie geschrieben. KI-Modelle für allgemeine Zwecke werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und sich mit möglichen systemischen Risiken der leistungsfähigsten Modelle befassen.

Anwendung und Durchsetzung der KI-Vorschriften

Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungsmaßnahmen durchführen werden. 

Das Amt für Künstliche Intelligenz der Kommission (AI Office) wird die wichtigste Stelle für die Umsetzung des KI-Gesetzes auf EU-Ebene sowie für die Durchsetzung der Vorschriften für KI-Modelle für allgemeine Zwecke sein.

Drei beratende Gremien unterstützen das AI Office

• Der Europäische Rat für künstliche Intelligenz wird eine einheitliche Anwendung des KI-Gesetzes in allen EU-Mitgliedstaaten sicherstellen und als Hauptorgan für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten fungieren. 
• Ein wissenschaftliches Gremium unabhängiger Experten wird technische Beratung anbieten und Beiträge zur Durchsetzung leisten. Insbesondere kann dieses Gremium das KI-Büro vor Risiken warnen, die mit KI-Modellen für allgemeine Zwecke verbunden sind. 
• Das Amt für künstliche Intelligenz kann sich auch von einem beratenden Forum beraten lassen, das sich aus einer Vielzahl von Interessengruppen zusammensetzt.

Verstoß gegen die Vorschriften kann hohe Geldbußen nach sich ziehen

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Die Bußgelder können bis zu 7 Prozent des weltweiten Jahresumsatzes für Verstöße gegen das Verbot von KI-Anwendungen, bis zu 3 Prozent für Verstöße gegen andere Verpflichtungen und bis zu 1,5 Prozent für die Angabe falscher Informationen betragen.

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes werden ab dem 2. August 2026 gelten. Verbote von KI-Systemen, die ein unannehmbares Risiko darstellen, werden jedoch bereits nach sechs Monaten, die Regeln für so genannte Allzweck-KI-Modelle nach 12 Monaten.

• KI-Pakt

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Pakt ins Leben gerufen. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.

• Leitlinien

Die Kommission entwickelt außerdem Leitlinien, um zu definieren und zu präzisieren, wie das KI-Gesetz umgesetzt werden sollte, und um Koregulierungsinstrumente wie Standards und Verhaltenskodizes zu erleichtern. Die Kommission hat einen Aufruf zur Interessenbekundung für die Teilnahme an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, um allen Beteiligten die Möglichkeit zu geben, zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes Stellung zu nehmen.

Hintergrund

Am 9. Dezember 2023 begrüßte die Kommission die politische Einigung über das KI-Gesetz. Am 24. Januar 2024 hat die Kommission ein Maßnahmenpaket zur Unterstützung europäischer Start-ups und KMU bei der Entwicklung vertrauenswürdiger KI auf den Weg gebracht. Am 29. Mai 2024 stellte die Kommission das KI-Büro vor. Am 9. Juli 2024 trat die geänderte EuroHPC JU-Verordnung in Kraft, die die Einrichtung von KI-Fabriken ermöglicht. Damit können spezielle KI-Supercomputer für das Training von General Purpose AI (GPAI)-Modellen eingesetzt werden.

Die kontinuierliche unabhängige, faktengestützte Forschung der Gemeinsamen Forschungsstelle (GFS) war von grundlegender Bedeutung für die Gestaltung der KI-Politik der EU und die Gewährleistung ihrer wirksamen Umsetzung.

Quelle: EU-Kommission Vertretung in Deutschland