Der europäische Rahmen

Die Europäische Union hat mit der am 2. August 2024 in Kraft tretenden  Verordnung zur Festlegung Harmonisierter Vorschriften für künstliche Intelligenz, auch bekannt als Artificial Intelligence Act oder AI Act, den weltweit ersten Rechtsrahmen für KI-Systeme und KI-Modelle geschaffen. Ziel dieser Verordnung ist die Schaffung eines vertrauenswürdigen und innovativen KI-Ökosystems in der EU, um im globalen Wettbewerb bestehen zu können. Die Verordnung soll daher die Entwicklung und den Einsatz von künstlicher Intelligenz in der EU regeln, um die Nutzerinnen und Nutzer zu schützen und Innovationen zu fördern.

Der AI Act gilt für alle Akteure, die KI-Systeme in der EU anbieten oder nutzen, unabhängig davon, wo sie ansässig sind. Dies gilt auch für KI-Systeme, die außerhalb der EU entwickelt, aber in der EU eingesetzt werden. Damit soll der Schutz der Menschen in der EU auch dann gewährleistet werden, wenn sie mit KI-Systemen in Kontakt kommen, die außerhalb der EU entwickelt wurden.

Ein risikobasierter Ansatz für KI-Regulierung

Der risikobasierte Ansatz, dem der AI Act folgt, legt Anforderungen an KI-Systeme fest, die je nach dem Grad des Risikos, das sie darstellen, variieren. Dabei wird zwischen KI-Systemen mit inakzeptablem, hohem, begrenztem und geringem Risiko unterschieden. Je höher das Risiko, desto strenger die Vorschriften. So sind KI-Systeme, die ein inakzeptables Risiko darstellen (zum Beispiel Social Scoring), verboten. KI-Systeme, die ein hohes Risiko darstellen (zum Beispiel KI-Systeme in kritischen Infrastrukturen oder Sicherheitskomponenten von Produkten) unterliegen strengen Auflagen, bevor sie auf den Markt gebracht werden dürfen (Risikominderungssysteme, Aufzeichnungspflichten, …). Für KI-Systeme mit begrenztem Risiko sind besondere Transparenzverpflichtungen vorgesehen. Der AI Act ermöglicht jedoch den freien Einsatz von KI mit minimalem Risiko. Geregelt wird auch der Umgang mit GPAI-Modellen: Jene, die keine systemischen Risiken bergen, werden begrenzten Anforderungen, z. B. in Bezug auf die Transparenz, unterliegen. Für die Systeme mit systemischen Risiken müssen strengeren Vorschriften eingehalten werden.

Neben Maßnahmen zur Risikominimierung sind im AI Act auch Maßnahmen zur Innovationsförderung vorgesehen. KI-Reallabore sollen die Entwicklung, Erprobung und Validierung innovativer KI-Systeme vor der Markteinführung unter regulatorischer Aufsicht ermöglichen. Kleine und mittlere Unternehmen sollen einen bevorzugten Zugang zu den KI-Reallaboren erhalten. Außerdem werden Organisationen dazu verpflichtet, KI-Kompetenz bei Menschen sicherzustellen, die mit Betrieb und Nutzung von KI-Systemen befasst sind.

Zeitplan ab Inkrafttreten

Mit der Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024, tritt der AI Act am 2. August 2024 in Kraft . Ab diesem Zeitpunkt laufen sämtliche Fristen für die Umsetzung durch die Mitgliedsstaaten, durch Unternehmen und andere Organisationen.  Nach einer Übergangsfrist von 24 Monaten wird der AI Act grundsätzlich im August 2026 wirksam werden. Kürzere Fristen sind u.a. bei verbotenen KI-Systemen und General Purpose AI Modellen vorgesehen.

Prozess der Verhandlungen

Die Europäische Kommission hat im April 2021 einen Vorschlag für eine Verordnung zur Festlegung Harmonisierter Vorschriften für künstliche Intelligenz (Artificial Intelligence Act, AI Act) vorgelegt. Im Dezember 2022 legte der Rat der EU seine Position zum AI Act – die sogenannte „Allgemeine Ausrichtung“ – fest und im Juni 2023 einigten sich die Mitglieder des EU-Parlaments auf eine gemeinsame Position. Die Trilogverhandlungen konnten im Dezember 2023 erfolgreich beendet werden.