Im Trilog zum „AI Act“ räumten Europaparlament, EU-Kommission und EU-Mitgliedsstaaten am Freitag die letzte große Hürde, den Streit um biometrische Überwachung, aus dem Weg.
EU-Kommissionspräsidentin Ursula von der Leyen erklärte zum Abschluss der am Mittwochnachmittag gestarteten Verhandlungsrunde, die rund 35 Stunden dauerte, der „AI Act“ der Europäischen Union sei eine „weltweite Premiere“. Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von künstlicher Intelligenz, der die Menschen „vertrauen“ könnten. Außerdem würden „Sicherheit und Grundrechte von Menschen und Unternehmen“ geschützt.
Seit 2021 laufende Suche nach KI-Reglement
Die EU-Regeln könnten aus Sicht der EU-Kommission eine Blaupause für andere Länder werden, denen die Vorgaben der USA zu locker und die in China zu restriktiv sind. Vor einigen Monaten hatten namhafte Forscher, Entwickler und Manager wie der OpenAI-Chef Sam Altman vor den Gefahren der neuen Technik und sogar einer Auslöschung der Menschheit durch KI gewarnt. Die Arbeiten zum „AI Act“ begannen schon 2021, wurden durch den rasanten Vormarsch von Generativer KI wie ChatGPT in den vergangenen Monaten allerdings unter Zugzwang gesetzt.
ChatGPT ist in der Lage, mit Hilfe von künstlicher Intelligenz aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten der KI damit schlagartig einem großen Publikum bewusst. Zugleich wuchsen die Befürchtungen über mögliche Gefahren der Technologie.
Verschärfte Vorgabe bei „risikoreichen“ Anwendungen
Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.
Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.
Die EU-Kommission hatte im April 2021 erstmals einen Rechtsrahmen für den Einsatz künstlicher Intelligenz vorgeschlagen. Die Verhandlungen zogen sich aber in die Länge.
KI: Grünes Licht für Regulierung in EU
Der Einsatz von künstlicher Intelligenz (KI) soll in der Europäischen Union künftig strenger reguliert werden. Unterhändler der EU-Staaten und des Europäischen Parlaments einigten sich am Freitagabend nach langwierigen Verhandlungen auf weitreichende Vorgaben.
Kompromiss bei Streitthema Gesichtserkennung
Die großen Mitgliedsländer Deutschland, Frankreich und Italien hatten zuletzt vor scharfen Auflagen gewarnt, um die Entwicklung der Zukunftstechnologie nicht zu gefährden. Der deutsche Digital- und Verkehrsminister Volker Wissing appellierte an die EU, international abgestimmt vorzugehen und „keinen Alleingang“ zu wagen. So gibt es Befürchtungen, Start-up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.
Einer der größten Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments sah ein Verbot für KI-Anwendungen wie eine automatisierte Gesichtserkennung vor. Die EU-Staaten beharrten aber auf Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke.
Die nun erzielte Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor. Die beiden Seiten werden in den kommenden Tagen Einzelheiten aushandeln, die die Form der endgültigen Rechtsvorschriften verändern könnten.
Hohe Geldstrafen für Verstöße
Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 Millionen Euro und 35 Millionen Euro liegen.
Mit dem Gesetz setzt sich die EU weltweit an die Spitze der KI-Regulierung. Die meisten anderen Staaten haben bisher vor allem Verordnungen und Dekrete erlassen. Außerdem könnte der „AI Act“ als Blaupause für diejenigen dienen, denen die Regelungen der USA zu locker und die Auflagen Chinas zu restriktiv sind.
„Wichtiger Meilenstein“
Österreichs Staatssekretär für Digitalisierung, Florian Tursky (ÖVP), begrüßte die nun gefundene Einigung. „Mit dem weltweit ersten Rechtsrahmen für KI setzen wir in der Europäischen Union einen wichtigen Meilenstein, denn durch sinnvolle Regulierung stärken wir nicht nur das Vertrauen in die neuen Technologien, sondern stärken zudem die europäischen Werte und Grundrechte im digitalen Raum“, teilte Tursky Samstag Früh per Aussendung mit.
Für Unternehmen seien „klare Regeln und Vorgaben“ wichtig, um Rechtssicherheit zu haben, so Tursky: „Für die Bürgerinnen und Bürger ist die Transparenz und der Schutz ihrer persönlichen Daten wichtig“.
Man müsse das Verhandlungsergebnis „natürlich noch genau prüfen, aber damit kann Europa globaler Vorreiter bei der Regulierung von KI werden“, zeigte sich die ÖVP-Europaparlamentarierin Barbara Thaler überzeugt. „Das ist ein wichtiges Signal an die Mitbewerber in den USA und in Asien. Meine Devise lautet seit jeher: Keine Angst vor KI, die Risiken konsequent regulieren und den Fokus auf die Möglichkeiten und das Potenzial richten“, so Thaler in einer Aussendung.
Claudia Gamo von NEOS meinte: „Mit diesem rechtlichen Rahmen können wir den Menschen die Angst vor dem vermeintlichen Schreckgespenst KI nehmen und gleichzeitig die vielen Potenziale der künstlichen Intelligenz fördern – wie in der Krebsbekämpfung und dem Umweltschutz.“ Der „AI Act“ könne zudem wirtschaftliche Innovationen beflügeln.
Ruf nach „serviceorientierter KI-Behörde“
Die stellvertretende Generalsekretärin der Wirtschaftskammer (WKÖ), Mariana Kühnel, sieht in dem geplanten KI-Rechtsrahmen „eine Balance zwischen Innovation und Regulierung gewährleistet. Er fördert Investitionen und Innovationen und sichert gleichzeitig bestehende Rechte durch ein hohes Schutzniveau.“ Nun müssten rasch die nationalen Strukturen für die Umsetzung der Verordnung geschaffen werden. Kühnel forderte „eine serviceorientierte KI-Behörde“ in Österreich, die die Unternehmen hierzulande bei der Umsetzung unterstützt.
Kritik aus Wirtschaft und von Datenschützern
Aus der Wirtschaft kam aber auch Kritik an den EU-Vorgaben. Sie seien eine weitere Belastung für die Unternehmen, erklärte der Branchenverband DigitalEurope. Der Bundesverband der Deutschen Industrie bemängelte, das Ziel, durch den „AI Act“ einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, sei teilweise verfehlt worden. Die Wettbewerbs- und Innovationsfähigkeit werde gefährdet, und die von Unternehmen benötigte Rechtssicherheit in Form von praxisnaher und vorausschauender Regulierung sei durch unausgereifte Kriterien nicht gegeben.
"Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung. „Europa riskiert auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren.“
Auch die Datenschutzgruppe European Digital Rights äußerte sich kritisch. Es sei schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der EU Schritte unternehme, um die öffentliche Gesichtserkennung in der gesamten EU zu legalisieren. Das Gesamtpaket zur biometrischen Überwachung und zum Profiling sei bestenfalls mäßig.
Finale Fassung bis Jahresende erwartet
Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen. Das gilt aber als Formsache. Nach der politischen Einigung steht dennoch einiges aus – unter anderem müssen noch die technischen Details ausgearbeitet werden. Das könnte die finale Fassung des Gesetzespaktes noch verändern, die bis zum Jahresende stehen soll. Bis der „AI Act“ dann greift, dürfte es – inklusive Übergangsfristen – womöglich noch mehrere Jahre dauern, wie von Beobachterseite während der Verhandlungen verlautete.