Die weltweit erste umfassende Verordnung über künstliche Intelligenz, das europäische Gesetz über die künstliche Intelligenz (KI-Gesetz) tritt in Kraft. Mit dem KI-Gesetz soll sichergestellt werden, dass die in der EU entwickelte und eingesetzte KI vertrauenswürdig ist und die Grundrechte der Menschen geschützt werden. Die meisten Vorschriften des KI-Gesetzes werden ab dem 2. August 2026 gelten.

Ergänzend  führt das KI-Gesetz auch Vorschriften für so genannte KI-Modelle für allgemeine Zwecke ein. Dabei handelt es sich um hochgradig leistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben ausgelegt sind - etwa das Erstellen von Texten, die sich lesen, als hätten Menschen sie geschrieben. KI-Modelle für allgemeine Zwecke werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und sich mit möglichen systemischen Risiken der leistungsfähigsten Modelle befassen.

Anwendung und Durchsetzung der KI-Vorschriften
Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungsmaßnahmen durchführen werden. 

Das Amt für Künstliche Intelligenzder Kommission (AI Office) wird die wichtigste Stelle für die Umsetzung des KI-Gesetzes auf EU-Ebene sowie für die Durchsetzung der Vorschriften für KI-Modelle für allgemeine Zwecke sein.

Drei beratende Gremien unterstützen das AI Office
Der Europäische Rat für künstliche Intelligenz wird eine einheitliche Anwendung des KI-Gesetzes in allen EU-Mitgliedstaaten sicherstellen und als Hauptorgan für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten fungieren. 

• Ein wissenschaftliches Gremium unabhängiger Experten wird technische Beratung anbieten und Beiträge zur Durchsetzung leisten. Insbesondere kann dieses Gremium das KI-Büro vor Risiken warnen, die mit KI-Modellen für allgemeine Zwecke verbunden sind. 
• Das Amt für künstliche Intelligenz kann sich auch von einem beratenden Forum beraten lassen, das sich aus einer Vielzahl von Interessengruppen zusammensetzt.

Verstoß gegen die Vorschriften kann hohe Geldbußen nach sich ziehen
Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Die Bußgelder können bis zu 7 Prozent des weltweiten Jahresumsatzes für Verstöße gegen das Verbot von KI-Anwendungen, bis zu 3 Prozent für Verstöße gegen andere Verpflichtungen und bis zu 1,5 Prozent für die Angabe falscher Informationen betragen.

Nächste Schritte
Die meisten Vorschriften des KI-Gesetzes werden ab dem 2. August 2026 gelten. Verbote von KI-Systemen, die ein unannehmbares Risiko darstellen, werden jedoch bereits nach sechs Monaten, die Regeln für so genannte Allzweck-KI-Modelle nach 12 Monaten.

KI-Pakt
Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Paktins Leben gerufen. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.

Leitlinien
Die Kommission entwickelt außerdem Leitlinien, um zu definieren und zu präzisieren, wie das KI-Gesetz umgesetzt werden sollte, und um Koregulierungsinstrumente wie Standards und Verhaltenskodizes zu erleichtern. Die Kommission hat einen Aufruf zur Interessenbekundung für die Teilnahme an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, um allen Beteiligten die Möglichkeit zu geben, zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes Stellung zu nehmen.

Quelle/Weitere Informationen: EU-Kommission, Vertretung in Deutschland, Pressemitteilung vom 1. August 2024

Europäisches Parlament stimmt mit großer Mehrheit für weltweit erstes KI-Gesetz

März 2024: Am 13. März 2024 stimmten 523 der 618 anwesenden Abgeordneten des Europäischen Parlaments für ein neues Gesetz über die Künstliche Intelligenz (KI).

Ziel der neuen EU-Verordnung
Ziel der neuen Vorschriften ist es, vertrauenswürdige KI in Europa und darüber hinaus zu fördern, indem sichergestellt wird, dass KI-Systeme die Grundrechte, die Sicherheit und die ethischen Grundsätze achten und die Risiken sehr leistungsfähiger und wirkungsvoller KI-Modelle angehen.

Risikobasierter Ansatz
Die neuen Vorschriften werden in allen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar und in gleicher Weise angewandt. Sie folgen einem risikobasierten Ansatz:

• Minimales Risiko
  Die große Mehrheit der KI-Systeme fällt in die Kategorie des minimalen Risikos. Anwendungen mit minimalem Risiko wie KI-gestützte Empfehlungssysteme oder Spam-Filter werden von einem Freipass und fehlenden Verpflichtungen profitieren, da diese Systeme nur ein minimales oder gar kein Risiko für die Rechte oder die Sicherheit der Bürger darstellen. Auf freiwilliger Basis können sich die Unternehmen jedoch zu zusätzlichen Verhaltenskodizes für diese KI-Systeme verpflichten.
• Hohes Risiko
  KI-Systeme, die als risikoreich eingestuft werden, müssen strenge Anforderungen erfüllen, darunter Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung von konformen KI-Systemen erleichtern.
• Kritische Infrastrukturen
  Beispiele für solche risikoreichen KI-Systeme sind bestimmte kritische Infrastrukturen, z. B. in den Bereichen Wasser, Gas und Strom, medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen oder zur Rekrutierung von Personen oder bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant.
• Unannehmbares Risiko
  KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, wie z. B. Spielzeug mit Sprachassistenz, das gefährliches Verhalten von Minderjährigen fördert, oder Systeme, die ein "Social Scoring" durch Regierungen oder Unternehmen ermöglichen, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).
• Spezifisches Transparenzrisiko
  Beim Einsatz von KI-Systemen wie Chatbots sollten sich die Nutzer bewusst sein, dass sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Strafen
Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen.

KI für allgemeine Zwecke
Mit dem KI-Gesetz werden spezielle Vorschriften für KI-Modelle für allgemeine Zwecke eingeführt, die für Transparenz entlang der Wertschöpfungskette sorgen werden. Für sehr leistungsfähige Modelle, die systemische Risiken darstellen könnten, wird es zusätzliche verbindliche Verpflichtungen in Bezug auf das Risikomanagement und die Überwachung schwerwiegender Vorfälle sowie die Durchführung von Modellevaluierungen und Tests mit gegnerischen Systemen geben. Diese neuen Verpflichtungen werden durch Verhaltenskodizes operationalisiert, die von der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessengruppen zusammen mit der Kommission entwickelt werden.

Neues Office für Künstliche Intelligenz
Was die Verwaltung betrifft, so werden die zuständigen nationalen Marktaufsichtsbehörden die Umsetzung der neuen Vorschriften auf nationaler Ebene überwachen, während die Einrichtung eines neuen europäischen AI-Offices innerhalb der Europäischen Kommission die Koordinierung auf europäischer Ebene sicherstellen wird. Das neue Office für Künstliche Intelligenz wird auch die Umsetzung und Durchsetzung der neuen Vorschriften für allgemeine KI-Modelle überwachen.

Zusammen mit den nationalen Marktaufsichtsbehörden wird das Amt für künstliche Intelligenz die erste Stelle auf der Welt sein, die verbindliche Vorschriften für künstliche Intelligenz durchsetzt, und soll daher zu einem internationalen Bezugspunkt werden. Für allgemeine Modelle wird ein wissenschaftliches Gremium unabhängiger Experten eine zentrale Rolle spielen, indem es Warnungen zu systemischen Risiken herausgibt und zur Klassifizierung und Prüfung der Modelle beiträgt.

Internationale Ebene
Um Regeln für vertrauenswürdige KI auf internationaler Ebene zu fördern, wird die Europäische Union weiterhin in Foren wie der G7, der OECD, dem Europarat, der G20 und der UNO mitarbeiten. Erst kürzlich haben wir die Einigung der G7-Staats- und Regierungschefs im Rahmen des Hiroshima-Prozesses für KI auf internationale Leitprinzipien und einen freiwilligen Verhaltenskodex für fortgeschrittene KI-Systeme unterstützt.

Weitere Schritte
Die Verordnung unterliegt noch einer abschließenden Prüfung durch Juristen und Sprachwissenschaftler und wird voraussichtlich noch vor Ende der Legislaturperiode endgültig verabschiedet (im Rahmen des so genannten Korrigendumverfahrens). Das Gesetz muss auch vom Rat förmlich gebilligt werden.

Das KI-Gesetz tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und wird zwei Jahre später uneingeschränkt anwendbar sein, mit einigen Ausnahmen: Verbote treten nach sechs Monaten in Kraft, die Governance-Regeln und die Verpflichtungen für allgemeine KI-Modelle gelten nach 12 Monaten und die Regeln für KI-Systeme – eingebettet in regulierte Produkte – gelten nach 36 Monaten.

Um den Übergang zum neuen Rechtsrahmen zu erleichtern, hat die Kommission den KI-Pakt  ins Leben gerufen, eine freiwillige Initiative, die die künftige Umsetzung unterstützen soll, und fordert KI-Entwickler aus Europa und darüber hinaus auf, die wichtigsten Verpflichtungen des KI-Gesetzes vorzeitig einzuhalten.

Quelle/Weitere Informationen: Europäische Kommission, Vertretung in Deutschland, Pressemitteilung vom 13. März 2024