Was der AI Act der EU vorsieht
Wolodymyr Selenskyj blickt direkt in die Kamera. In seinem khakifarbenen Shirt und der uns bekannten Stimme fordert er die Ukrainer:innen auf, die Waffen niederzulegen. „Es gibt kein Morgen mehr. Zumindest nicht für mich.“
Der echte Selenskyj enttarnt die Botschaft einen Tag darauf als Deepfake. Kurz davor gingen Bilder vom Balenciaga-Papst und einem verhafteten Donald Trump viral. Zeitgleich fürchten Drehbuchautor:innen, durch künstliche Intelligenz ersetzt zu werden.
Von unterhaltsam über tragikomisch bis zu demokratie- und lebensgefährdend – künstliche Intelligenz (KI/AI) ist mit rasender Geschwindigkeit in unserem Alltag angekommen. Doch der Rausch, der zusammen mit ChatGPT kam, macht nun Platz für Skepsis und Zweifel. Fast zwei Drittel der Österreicher:innen haben wenig Vertrauen in KI-Anwendungen und empfinden diese als beängstigend oder beunruhigend, eine genauso hohe Zahl fordert ein Verbot von ChatGTP und KI-Systemen an Schulen und anderen Bildungseinrichtungen. 81 Prozent fordern strengere Regulierungen, um Datenschutz, Neutralität und Korrektheit zu gewährleisten. Es ist also höchste Eisenbahn, uns als Gesellschaft zu überlegen, wie wir mit künstlicher Intelligenz umgehen wollen.
Symbolbild, produziert mit Midjourney AI
Mit dem AI Act antwortet die EU auf den Ruf nach Spielregeln
Die Spielregeln für künstliche Intelligenz tragen auf dem europäischen Parkett den Namen AI Act. Mit dem AI Act können wir Menschen die Angst vor dem vermeintlichen Schreckgespenst KI nehmen und gleichzeitig die vielen Potenziale der künstlichen Intelligenz fördern – von Krebsprävention bis zur Unterstützung für Lehrkräfte.
Ziel des AI Acts ist es, Innovationen zu fördern und gleichzeitig die Grundrechte in höchstem Maße zu bewahren. Dieses Spannungsfeld entlud sich in komplizierten Verhandlungen in den zuständigen Ausschüssen, bei denen „Renew Europe“, die liberale Fraktion im EU-Parlament, große Erfolge verzeichnen konnte. Das Ergebnis ist ein Vorschlag, der auf Risiko basierend einige KI-Anwendungen verbietet, Transparenzvorschriften einführt, einheitliche Regeln und somit Rechtssicherheit schafft.
Diese Rechtssicherheit sieht folgendermaßen aus: Der AI Act teilt KI-Systeme je nach Risiko in drei Kategorien ein, jede davon birgt eine andere Konsequenz. Künstliche Intelligenz fällt also in Zukunft immer unter eines dieser drei Labels:
Kategorie 1: Inakzeptables Risiko
KI-Anwendungen, die europäischen Werten und Grundrechten klar widersprechen, sollen in der EU verboten werden. Dazu gehören z.B. Social-Scoring-Systeme, also die Bewertung von sozialem Verhalten durch eine Behörde. Auch das kennt man aus der Volksrepublik China: Dort wird vom staatsbürgerlichen Verhalten abhängig gemacht, ob man z.B. mit Flugzeugen reisen darf oder Vergünstigungen in Hotels bekommt. Aber auch die biometrische Gesichtserkennung fällt unter diese Kategorie, da sie einer Massenüberwachung gleichkäme.
Kategorie 2: Hohes Risiko
KI, die den Verkehr beeinflussen, im Personalmanagement Lebensläufe auswerten oder Pässe an den Grenzen kontrollieren kann, fällt auf europäischer Ebene unter „hohes Risiko“. Anwendungen wie diese müssen bestimmte Auflagen erfüllen und z.B. offenlegen, wie die KI funktioniert – Transparenz soll die Ängste vor Missbrauch oder Fehlern auflösen. Die Anbieter müssen beweisen, dass die KIs wirksam von Menschen kontrolliert werden, und auch Risikoanalysen sind verpflichtend.
Kategorie 3: Geringes oder kein Risiko
Unter KI-Anwendungen mit geringem Risiko fallen Dinge wie Chatbots. Diese sind in der Regel harmlos und begegnen uns schon ab und zu im Alltag – daran wird sich auch in Zukunft nicht viel ändern. Die EU reguliert sie lediglich mit einer Transparenzoffensive: Wer mit einer KI interagiert, soll das auch wissen. Manche KI-Produkte wie Spamfilter oder Videospiele unterliegen keinen zusätzlichen Regulierungen.
Steckt die KI in die Sandkiste!
Die mit dem AI Act verbundene Rechtssicherheit soll der KI-Entwicklung in Europa einen Schub geben. Der AI Act soll Unternehmen „Sandboxes“ bereitstellen, in denen KI-Systeme entwickelt und getestet werden können, bevor sie auf den Markt kommen. Sandkisten können helfen, die Risiken zu minimieren. Jeder Mitgliedstaat soll mindestens eine Sandkiste haben, darüber hinaus kann es Sandkisten auf EU-, regionaler, einzelstaatlicher und kommunaler Ebene geben – also etwa europäische, österreichische oder Vorarlberger Sandkisten.
Steiniger Weg zur KI-Regulierung
Der Weg des AI Acts war jedoch kein Spaziergang. Die Abwägung zwischen Grundrechten und dem Gesetzesvollzug stand im Zentrum vieler hitziger Diskussionen. Die konservativen Kräfte im EU-Parlament (darunter auch die ÖVP) setzten sich bis zur letzten Minute für biometrische Gesichtserkennung im öffentlichen Raum ein. Kurzum: Massenüberwachung. Für Renew Europe etwa eine klare rote Linie, immerhin kennt man Gesichtserkennung zur Überwachung eher aus Staaten wie China – sie passt nicht zu liberalen Grundwerten. Damit stand nicht nur das gesamte Paket auf der Kippe, sondern grundsätzliche Rechte aller Bürger:innen.
Dem Parlament gelang es, diesen Angriff abzuwehren und sich am 15. Juni auf eine starke Parlamentsposition zu einigen. Mit dieser ausgerüstet, gehen sie jetzt in die Verhandlungen mit den EU-Mitgliedstaaten und der EU-Kommission. Sind die Verhandlungen erfolgreich, gelingt der Europäischen Union in mehrfacher Dimension Bahnbrechendes: Erstens schafft Europa mit dem AI Act das weltweit erste Regelbuch für künstliche Intelligenz, zweitens enthält er die erste europaweit gültige Definition von künstlicher Intelligenz. Ein wichtiger Schritt – denn die Antwort auf die Frage „Was ist eigentlich eine KI?“ gibt an, wohin die Reise in den nächsten Jahren geht.
Ähnlich wie beim Datenschutz haben wir als Europäische Union jetzt die Möglichkeit, zum internationalen Vorreiter zu werden und Standards zu setzen, die die zukünftige Entwicklung von KI-Systemen entscheidend mitbestimmen. Denn jedes System, das innerhalb der EU Anwendung finden will, muss diesen Standards entsprechen. Ansonsten müssen die Anbieter auf den größten Binnenmarkt der Welt verzichten.
Liberaler Start ins KI-Zeitalter
Die aktuelle Version der KI-Regeln trägt eine klare liberale Handschrift: Sie trotzt sowohl konservativen Überwachungswünschen als auch linken Überregulierungsfantasien. Mit dem AI Act ist es auf EU-Ebene gelungen, einen Kompromiss zu finden, der KI verhältnismäßig regulieren, Bürger:innenrechte schützen und Innovation und Wirtschaft beflügeln kann. Jetzt geht es in die Verhandlungen mit den EU-Mitgliedstaaten, in denen das Europäische Parlament standhaft bleiben muss – gegen Massenüberwachung und Überregulierung.
Gelingt die Einigung, wird es zwar immer noch möglich sein, mit einem Balenciaga-Papst das Internet zu sprengen. Aber versehen mit dem kleinen Hinweis: „KI-generiert“.
